인공지능, AI가 만든 영상과 실제 촬영한 영상을 구별하는 일이 점점 어려워진다. AI에이전트를 써서 누구나 손쉽게 영상을 제작할 수 있게 되면서 영상의 진위를 확인하는 일, 딥페이크 영상의 위험을 막는 일은 우리가 맞닥뜨린 새로운 사회적 과제다.
최근 소셜미디어에서 유행한 AI로 만든 댄스 영상 사례를 보자. 대표적인 사례는 얼마 전 데뷔하며 큰 주목을 받은 걸그룹 에이투오 라이트(A2O LITE)의 타이틀곡 'NEON'이다. 노래의 도입부 안무가 화제를 모으면서 영화 '올드보이'의 최민식과 유지태, ‘무한도전’에 출연한 정준하와 박명수, 드라마 '내 남자의 여자'의 김희애와 하유미 등 커플링 가능한 유명인들이 해당 안무를 추는 AI 합성 영상이 확산됐다.
비슷한 현상은 프랑스 영화감독 로맹 가브라스(Romain Gavras)의 프로젝트 제네레이션(GENER8ION)과 래퍼 영 린(Yung Lean)이 함께한 '스톰(STORM)' 뮤직비디오와 관련해서도 나타났다. 실제 출연자들이 연습하고 촬영한 군무 장면의 난이도, 일사불란한 댄서들이 연출한 압도감이 화제에 올랐고, 이는 AI를 통해 동물이나 유명인이 등장하는 패러디 영상으로 손쉽게 재탄생했다.
두 사례는 AI가 영상 제작의 문턱을 얼마나 낮췄는지 보여준다. 실제 촬영하지 않은 장면도 영상으로 구현할 수 있고, AI로 만들었다는 사실을 알고 즐기는 패러디는 새로운 놀이 문화가 됐다. 재미있다. 하지만 기술로 존재하지 않는 사람을 전문가처럼 꾸미고, 실제로 하지 않은 말을 하도록 만든다면 이야기는 달라진다.
존재하지 않는 의사가 제품을 추천할 때
2026년 6월, 식품의약품안전처는 AI로 만든 가짜 의사를 내세워 식품을 허위 광고한 유통업체를 검찰에 송치했다고 발표했다. 업체는 가상의 중년 남성을 성형외과 원장처럼 등장시켜 비타민C와 효모식품 등이 노화 방지와 신체 나이 감소에 효과가 있는 것처럼 홍보했다. 해당 업체는 약 9개월 동안 제품 65만 개를 판매해 약 81억 원의 매출을 올렸다. 광고 속 의사는 실제 존재하는 의료인이 아니었지만, 소비자는 전문가가 제품의 효과를 보증하는 것처럼 받아들일 수 있었다.
이러한 광고는 일부 업체에 국한된 문제가 아니다. 식약처에 따르면 2025년 한 해 동안 AI로 생성한 가짜 전문가를 활용한 부당광고 63건이 적발됐다. 2026년에도 AI 제작 부당광고가 계속 적발되면서 정부는 온라인 광고에 대한 감시를 강화하고 있다.
가짜 전문가 광고가 문제인 이유는 영상이 정교하기 때문만은 아니다. 의사의 흰 가운이나 전문적인 말투, 병원 진료실처럼 꾸민 배경은 소비자에게 신뢰를 주는 요소다. AI는 이러한 장면을 실제 의료인의 참여 없이도 만들어 낼 수 있다. 소비자는 제품의 효능을 직접 검증하기 어려울수록 전문가의 설명에 의존하기 쉽다. 존재하지 않는 전문가가 제품을 추천하는 광고는 이러한 신뢰를 이용해 구매 판단에 영향을 미친다. 특히 건강과 관련된 정보라면 경제적 손실뿐 아니라 적절한 의료적 판단을 방해할 위험도 있다.
진짜 영상도 의심받는 사회
AI 허위영상의 영향은 가짜를 진짜로 믿는 문제에만 머물지 않는다. 실제로 촬영된 영상까지 조작됐다고 의심받을 수 있다는 점도 문제다. 학계에서는 이러한 현상을 '거짓말쟁이의 배당금(Liar's Dividend)'이라고 부른다. 딥페이크 기술이 널리 알려지면서 실제 증거가 존재하더라도 당사자가 AI로 조작된 자료라고 주장해 책임을 회피할 여지가 생긴다는 뜻이다.
예를 들어 기업의 안전사고나 환경오염 현장을 촬영한 영상이 공개됐을 때, 영상 자체의 진위가 논쟁의 중심이 될 수 있다. 실제 피해 사실을 확인하기 전에 조작 가능성을 둘러싼 공방이 벌어진다면 문제 해결도 늦어질 수 있다. 사회적 신뢰는 시민이 정보를 바탕으로 판단하고, 기업과 공공기관에 책임을 물을 수 있게 하는 기반이다. 영상이 사실을 증명하는 수단으로 기능하기 어려워진다면 기업의 투명성과 책임성을 검증하는 과정에도 영향을 미칠 수 있다.
다만 모든 AI 생성물이 허위정보인 것은 아니다. AI로 제작했다는 사실을 알고 즐기는 패러디와 실제 사건인 것처럼 속이는 영상은 구분해야 한다. 핵심은 기술 사용 여부가 아니라 시청자가 영상의 성격을 제대로 인식할 수 있는지에 있다.
AI 영상에 표시를 요구하는 이유
그래서 각국 정부는 AI 생성물의 투명성을 높이는 방향으로 제도를 마련하고 있다.
한국에서는 2026년 1월 22일부터 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)'이 시행 중이다. 법 제31조는 생성형 AI를 이용한 제품이나 서비스를 제공하는 사업자에게 AI 생성물에 대한 표시 의무를 부과한다. 특히 실제와 구별하기 어려운 가상의 음향, 이미지, 영상에는 이용자가 이를 명확히 인식할 수 있도록 고지해야 한다. 과학기술정보통신부는 같은 날 공개한 투명성 확보 가이드라인에서 의무 주체를 AI 제품과 서비스를 직접 제공하는 사업자로 명확히 했다. 일반 이용자가 AI로 만든 영상을 게시하는 모든 행위에 동일한 의무가 적용되는 것은 아니다. 정부는 기업의 제도 적응을 위해 최소 1년 이상의 계도기간도 운영하고 있다.
유럽연합(EU) 역시 2026년 8월 2일부터 인공지능법(Artificial Intelligence Act, AI Act)의 투명성 규정을 적용하고 있다. AI로 생성하거나 조작한 콘텐츠에 기계가 판독할 수 있는 표시를 적용하도록 하고, 딥페이크 영상 등을 공개할 때는 AI 생성 사실을 알리도록 규정했다. 다만 예술, 창작, 풍자 작품에는 감상을 방해하지 않는 방식으로 공개할 수 있도록 별도 규정을 두었다. 두 제도의 공통점은 AI 영상 제작 자체를 금지하기보다 이용자가 콘텐츠의 성격을 판단할 수 있도록 정보를 제공하는 데 있다. 이는 영상의 진위를 개인의 눈썰미에만 맡기지 않겠다는 접근이기도 하다.
GENER8ION의 군무와 'NEON'의 안무를 재현한 영상은 시간이 지나면 다른 유행으로 대체될 것이다. 하지만 그 영상들이 보여준 현상은 남는다. 이제 화면 속 장면이 얼마나 자연스러운지만으로는 실제 여부를 판단하기 어렵다. 영상이 무엇을 보여주는가에 더해, 누가 어떤 방식으로 만들었는지를 확인할 수 있는 정보가 새로운 신뢰의 기준이 되고 있다.
by Editor N