딥페이크의 원리와 간단한 개념 이해

딥페이크 개념과 원리

딥 페이크(deep fake)는 실제처럼 보이지만 인공지능(AI)을 사용하여 조작한 가짜 비디오, 사진, 오디오 입니다. 이 기술을 사용해서 얼굴을 대체하고, 표정을 조작하고, 얼굴을 합성하고, 말을 합성할 수 있습니다. 딥페이크 비디오는 보통 얼굴을 바꾸거나 표정을 조작합니다. 아래 이미지에서는 이 작업이 수행되는 방법을 보여 줍니다. 왼쪽의 얼굴은 다른 사람의 몸에 배치됩니다. 얼굴 조작에서, 왼쪽 얼굴의 표정은 오른쪽 얼굴에 의해 모방됩니다. 딥페이크는 데이터의 패턴을 인식하는 시스템인 인공 신경망에 의존합니다. 딥페이크 사진 또는 비디오를 개발하는 데에는 일반적으로 수백 또는 수천 개의 이미지를 인공 신경망에 투입하고, 패턴을 식별하고 재구성하도록 "훈련(학습)"하는 작업이 포함됩니다.

 

딥페이크 원리

딥페이크의 이점, 사용하는 이유

딥 페이크 기술을 사용하여 개발된 목소리와 유사성은 영화 속에서 창조적인 효과를 얻거나 사람이 못하거나 하기 힘들 일을 대체하고 도와주는 것에도 사용이 됩니다. 예를 들어, 최근의 스타워즈 영화에서, 이 기술은 죽은 주인공들을 대체하거나 젊은 시절에 등장했던 캐릭터들을 보여주기 위해 사용되었습니다. 소매업체들은 또한 고객들이 옷을 가상으로 입어볼 수 있도록 하기 위해 이 기술을 사용했습니다.

 

인공지능, 인공신경망

딥페이크 문제점, 위험성

영화나 상업과 같은 온순하고 합법적인 응용 프로그램에도 불구하고, 딥페이크는 안타깝게도 성착취물에 많이 사용됩니다. 일부 연구는 온라인의 많은 가짜 콘텐츠가 포르노이고, 가짜 포르노로 인해 피해를 입는 사람이 생기고 있다고 합니다. 또한 허위 정보에 대한 딥페이크 사용의 잠재적 성장에 대한 우려도 있습니다. 딥 페이크는 선거에 영향을 미치거나 시민 불안을 부추기거나 심리전의 무기로 사용될 수 있습니다. 그들은 또한 불법에 대한 합법적인 증거들을 무시하게 만들 수 있고, 대중의 신뢰를 떨어뜨릴 수 있습니다.

 

딥페이크 관련 가트너 분석 보고서

2021/01/31 - [IT Issue] - 가트너 인공지능 보고서, Generative AI(생성적 인공지능)와 딥페이크의 사회적 문제점

해결 방법

마이크로소프트와 인텔과 같은 연구자들과 IT회사들은 딥페이크를 탐지하는 몇 가지 방법을 실험해 왔습니다. 이러한 방법은 일반적으로 AI를 사용하여 디지털 아티팩트 또는 딥 페이크(deep fake)가 실제로 모방하지 못하는 세부 정보에 대한 비디오를 분석합니다. 예를 들어 비정상적인 눈 깜빡임이나 안면 근육의 움직임 등을 확인할 수 있습니다.