거짓 정보와 딥페이크에 속지않는 법
알파캠퍼스에서 만나보세요

출처: YTN, 딥페이크로 되살아난 독립운동가들

맑은 눈매의 유관순 열사, 기백이 넘치는 윤봉길 의사, 결연한 눈빛의 안중근 의사까지. 살아 움직이는 독립운동가들의 영상을 보신 적 있나요? 눈앞에서 말하는 듯 생생한 독립운동가들의 모습은 딥페이크 기술을 활용한 결과인데요. 기술의 발전으로 진짜 이미지와 인공지능으로 만들어낸 이미지를 구별하기 어려운 수준에 이르렀습니다. 진짜보다 더 진짜 같은 가짜, 딥페이크는 우리 생활에 어떤 영향을 미치고 있을까요? 일상에서 딥페이크 같은 거짓 정보를 판별하려면 어떻게 해야 할까요? 과학 잡지 스켑틱(SKEPTIC)과 알파캠퍼스의 콜라보! 지식 콘텐츠를 통해 알기 쉽게 정리해드립니다

일상생활을 넘어 국가안보를 위협하는 딥페이크 기술

딥페이크(Deep Fake)란?

딥페이크는 Deep Learning과 Fake의 합성어로 인공지능 기술을 활용해 생성된 사진, 오디오, 영상 위조물 혹은 프로세스 그 자체를 의미 합니다. 생성적 적대 신경망(GAN: Generative Adversarial Network) 모델로 두 개의 머신러능 시스템이 경쟁적으로 학습하는 과정을 통해 더욱 사실적인 위조 데이터를 생성해낸 결과인데요. 위조지폐범이 진짜 같은 가짜 돈을 만들고자 노력할수록, 경찰은 이를 더 날카롭게 구별하기 위해 노력하겠죠. 이 과정을 반복하면 더 정교한 위조지폐 즉, 딥페이크 영상이 만들어지게 됩니다.

딥페이크 활용 사례

딥페이크 기술은 엔터테인먼트 목적으로 대중화 된 이후 역사적 인물의 재현, 희귀 질병의 진단 등 다방면에서 활용되고 있습니다. 그러나, 딥페이크가 포르노 영상, 보이스 피싱 등 악의적 목적으로 사용될 경우 심각한 문제를 초래하기도 합니다. 유명인의 말과 행동의 조작이 가능해지면서 거짓정보의 무분별한 확산 또한 우려되고 있습니다.
2022년에는 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 동영상이 SNS를 통해 확산되었습니다. 이는 딥페이크로 위조된 가짜 뉴스로 밝혀졌고, 유튜브와 페이스북은 유포된 영상을 삭제했습니다. 딥페이크는 이제 일상을 넘어 국가안보를 위협하는 상황에 이르렀습니다. 우리는 이러한 상황에 어떻게 대처할 수 있을까요?

출처: Inside Edition : Deepfake of Zelenskyy Tells Ukrainian Troops to ‘Surrender’

진짜와 가짜 구별하기, 딥페이크에 속지 않는 법

미국 정부는 딥페이크가 안보에 미칠 영향을 우려하며, 위조기술을 검출하기 위한 연구를 지원하고 있습니다.1) MedFor(Media Forensics), SemaFor(Semantic Forensics) 프로그램을 통해 딥페이크에서 발견되는 시청각적 불일치 식별 기술을 연구하고, 이미지 자동 감지 알고리즘을 개발하는 것이 목적입니다.
딥페이크 감지를 위한 기술이 개발되고 있지만, 기술만으로 허위 정보의 확산을 완벽하게 막아내기는 어렵습니다. 수백 만 명이 거짓 영상을 접한 후에야 위조된 정보라는 사실이 밝혀지기도 하기 때문인데요. 나날이 발전하는 속임수를 피하려면 스스로의 판단 능력을 기르는 것이 중요할 것입니다. 일상에서 딥페이크 영상, 위조된 이미지 등 거짓정보를 판별하려면 어떻게 해야 할까요?

① 사실확인 기관(팩트체크 센터) 활용하기

이미지나 정보의 진위를 확인하기 위해 공신력 있는 ‘사실확인 기관’의 웹사이트를 활용해보세요. 대표적인 곳으로 미국의 팩트체크(www.factcheck.org) 스놉스(www.snopes.com), 폴리티팩트(www.politifact.com)가 있습니다. 관련 키워드를 검색하면, 자료를 바탕으로 사실과 거짓을 판단해줍니다.

출처: 폴리티팩트(Politifact)

② 영상출처 찾아보기

영상의 출처를 확인하면 위조영상 판별에 도움이 됩니다. 영상의 진위가 의심된다면, 인비드(InVID) 브라우저 확장 프로그램, 국제사면위원회의 유튜브 데이터 뷰어(https://citizenevidence.amnestyusa.org/)를 활용해보세요. 영상이 과거에 유튜브나 트위터에 업로드 된 적이 있는지, 촬영 이후 수정된 시점 등 조작 여부를 확인할 수 있습니다. 인비드(InVID) 확장 프로그램은 구글 Chrome 웹 스토어에서 다운 가능합니다.

③ 역 이미지 검사하기

영상의 스크린샷을 구글 혹은 틴아이(TinEye.com)에 업로드하거나 링크를 입력하면 다른 웹사이트에 게재된 비슷한 이미지를 찾을 수 있습니다. 조작되기 전 원본 영상이 다른 웹사이트에 게재되어 있지 않은지 검토해봅니다.

과학적 통찰의 교차점, 스켑틱과 알파캠퍼스 콜라보 주목!

이 외에도 딥페이크 영상, 가짜 이미지 등 거짓정보를 판별할 수 있는 노하우가 궁금하다면? 사회적 현상에 대해 질문하며 탐구하는 ‘과학적 사고’를 기르고 싶다면? 알파캠퍼스의 스켑틱(SKEPTIC) 채널을 구독해보세요. 스켑틱은 ‘비판적 태도’와 ‘과학적 사고’를 바탕으로 사유하는 사람들을 위한 과학 잡지입니다. 그리고 이제 알파캠퍼스에서 스켑틱 기사를 생생한 지식 콘텐츠로 만나보실 수 있습니다.

SKEPTIC(스켑틱) 이란?

- 1992년 창간 이후 현재까지 5만여 명의 독자가 구독하는 교양 과학 잡지
- 비판적 태도를 바탕으로 현대 사회를 진단하고 과학에 대한 통찰 제시

이런 분들께 추천 드립니다

- 유사과학, 초자연적 현상 등 다양한 분야를 검증하고, 과학적 사고를 기르고 싶으신 분!
- 과학, 심리학, 인류학 등 여러 분야를 포괄하는 통찰력을 키우고 싶으신 분!

어떤 내용을 다루나요?

- 감정은 이성의 반대가 아니다
- 딥페이크 판별의 기술
- 식물의 반격
- 전자기기 사용이 정신 질환을 일으킨다고?