[인더스트리뉴스 김기찬 기자] 생성형 인공지능(AI)의 발달로 '딥페이크'(AI 기술을 악용한 합성 콘텐츠) 영상·사진이 확산조짐을 보이면서 국민은 물론 기업의 골칫거리로 급부상하고 있다. 특히 6·3 조기 대선을 앞두고 '가짜 영상·사진'이 퍼지며 우려를 더하고 있다.

14일 국회 중앙선관위 등에 따르면 이재명 더불어민주당 예비후보 캠프는 최근 이 예비후보의 얼굴을 합성한 딥페이크 영상물 등에 대해 유포 시 엄정 대응하겠다며 공식 경고에 나섰다.  

박수현 선거대책위원회 공보단장은 지난 11일 국회에서 기자회견을 열고 "이재명 예비후보가 김혜경 여사에게 욕하는 동영상이라는 내용의 딥페이크 영상을 만들어 유포를 시도한다는 제보가 선대위에 접수됐다"고 언급, 딥페이크 비상령을 구체화했다. 

이처럼 딥페이크로 만들어 낸 '가짜 영상'이 선거철에 확산될 조짐을 보이면서 여론을 호도할 수 있다는 우려가 갈수록 팽배해지고 있다.  특히 이같은 가짜 영상 및 사진은 한 번 퍼지기 시작하면 그 내용을 바로잡는 것이 매우 어렵기 때문에 딥페이크는 국민 특히 유권자가 올바른 정보를 습득하는 것을 방해하는 최대의 복병이자 걸림돌이 될 전망이다. 

또한 틱톡 등 사회관계망서비스(SNS)에는 '차기 대통령 선거 여권 후보 최강 라인업'이라는 제목으로 국민의 힘 대선 주자들을 희화화하는 내용의 딥페이크 영상이 다수 올라와 있기도 하다.

이처럼 딥페이크 영상 등이 확산되는 배경에는 생성형 AI의 엄청난 발전 속도가 원인으로 꼽히고 있다. 생성형 AI를 활용해 누구나 쉽게 사진 또는 영상을 악의적으로 합성할 수 있을 뿐 아니라 이를 유포하는 것도 어렵지 않아 '진짜같은 가짜 영상'이 급속도로 퍼질 수 있는 환경이 조성됐다는 의미다. 

선거철에는 악의적 여론을 만들어내는 딥페이크 영상·사진만 문제가 되는 것은 아니다. 삼성SDS 등 보안 업계에 따르면 기업 오너나 경영진 얼굴 등을 합성한 딥페이크 영상이 번지게 되면 이를 미끼삼아 주가 등 기업 경영에 악영향을 끼치려는 행위도 덩달아 확산될 수 있기 때문이다.

심지어 해킹 등 침해사고에서도 딥페이크가 활용될 여지가 있다는 것이 전문가들의 지적이다. 해커들이 직접 기업을 공격하는 것이 아니라 딥페이크 영상 및 사진을 바탕으로 가짜 신분을 만들어 '위장 취업'을 하는 등 다양한 침투방식이 숨어있다는 것이다. 이후 기업의 기밀 정보를 유출하거나 빼돌리는 사례도 해외에서는 어렵지 않게 찾을 수 있다.

한편 8일(현지시간) CNBC에 따르면 한 음성 인증 스타트업은 러시아 출신 코더 지원자의 표정과 말투가 어긋난다는 것을 적발해냈다고 보도했다. 조사 결과 이 지원자는 스타트업 회사에 채용되기 위해 딥페이크와 기타 생성형 AI를 활용한 것으로 드러났다. 

그는 AI를 활용해 사진이 부착된 신분증을 조작하고 경력 정보를 생성해 면접에서 답변하는 구직자로 행세하다가 들통이 난 것으로 파악되고 있다. 만약에 이런 식으로 취업에 성공한다면 당사자는 회사에 악성코드를 설치하고 회사에 몸값을 요구하거나, 데이터, 영업비밀, 자금 등을 빼내갈 수 있다는 우려가 나올 수 밖에 없다.  

사이버 보안 및 암호화폐 기업들은 최근 이같은 '가짜 구직자'들이 늘어나고 있다고 있다고 토로하고 있다. 실제로 연구 및 자문 회사인 가트너는 AI가 생성하는 프로필이 증가하면서 2028년에는 전 세계 구직자 4명 중 1명은 '가짜'일 것이라고 경고하기도 했다.

한국인터넷자율정책기구(KISO)와 중앙선거관리위원회(선관위)는 최근 서울 서초구 KISO 대회의실에서 '선거 기간 인터넷 정보서비스 운영을 위한 간담회'를 갖고 "'실제와 구분하기 어려운'이라 함은 직관적으로 유권자가 일반적인 상식을 가지고 구별할 수 있어야 함을 의미한다"며 "조금이라도 오인할 가능성이 있다면 법 위반에 해당한다"고 강조했다. 딥페이크에 대한 가이드라인을 제시했다는 점에서도 의미가 있어 보인다. 

김기찬 기자 다른기사 보기