Tik의 톡
″ TikTok 팬 여러분. 나와 함께 골프를 치시겠습니까?”
할리우드 배우 톰 크루즈가 화창한 날 틱톡에서 골프를 치는 영상을 공개했다. 이 영상의 조회수는 틱톡에서만 800 만 회를 넘어 섰습니다. 하지만이 영상의 주인공은 톰 크루즈가 아닙니다. 딥 페이크 합성에 의해 만들어진 가짜였습니다.
인공 지능 (AI) 분야 인 딥 러닝을 이용하여 얼굴이나 특정 부위를 합성하는 딥 페이크 기술은 날이 갈수록 정교 해지고 있습니다. 비디오와 오디오 모두 실제와 비슷하게 만들 수 있습니다. Tom Cruise deepfake 비디오는주의 깊게 듣지 않으면 실제 Tom Cruise 음성으로 착각 할만큼 충분히 유사합니다.
최근 트위터 사용자 (@laurenmwhite)가이 동영상을 소개하며 ″ 딥 페이크가 TikTok을 인수하고 있습니다. “모든 공무원이 TikTok에 콘텐츠를 생성하지 않더라도 가짜 계정과 구별하기 위해 공개 계정이 있어야합니다.” 실제 계정과 가짜 딥 페이크 계정을 구분하기가 쉽지 않아 남용의 가능성이 많기 때문입니다.
또 다른 TikTok 비디오에서 딥 페이크로 만든 Tom Cruise는 코인 트릭을 수행하며 “이 모든 것이 진짜입니다.”라고 말합니다. 이를 본 틱톡 사용자들은 “보면 믿을 수없는 세상이됐다”며 깜짝 놀랐다.
딥 페이크가 무서워지고 TikTok을 점령하고 있습니다. 모든 공인은 가짜를 쉽게 식별 할 수 있도록 콘텐츠를 만들고 싶지 않더라도 확인 된 계정을 가지고 있어야합니다. Tom Cruise는 다음과 같습니다. 트윗 담아 가기
— 로렌 화이트 (@laurenmwhite) 2021 년 2 월 25 일
Tom Cruise의이 비디오를 보시겠습니까?
글쎄, 톰 크루즈가 아니야.
Deepfakes를 사용하여 TikTok 사용자에게 Tom Cruise를 묘사하는 AI 생성 합성 미디어입니다.
보는 것은 더 이상 믿지 않습니다. 트윗 담아 가기
— Mckay Wrigley (@mckaywrigley) 2021 년 2 월 25 일
한국에서는 딥 페이크 기술 남용에 대한 우려가 커지고 있습니다. 특히 지난주 방송 된 SBS ‘알고 싶다’는 딥 페이크 관련 범죄 추적 과정에서 피해자의 신원을 보호하기 위해 모자이크가 아닌 딥 페이크 기술을 활용했다. 너무나도 자연스러워서 많은 시청자들이 모를 정도였습니다.
SiO가 최근 몇 년 동안 중국의 인터넷 방송사에서 인기 가수 IU 닮은 꼴 중 하나가 딥 페이크 기술을 활용하고 있다는 사실도 알게된다면. 딥 페이크 탐지 기술 업체 ‘딥 트레이스’에 따르면 딥 페이크 웹 사이트에 게시 된 동영상의 25 %는 K-pop 가수를 대상으로합니다.
김임수 편집자 : [email protected]