생성AI의 폭주! 딥페이크는 시작일 뿐, 더 많은 사회 문제를 예고하고 있다
딥페이크로 인한 사회적 문제는 이미 예견된 재앙이었다. 이제 누구나 몇만 원의 구독료만으로 접근 가능한 딥페이크 기술은, 불과 1년 전만 해도 전문가들만이 다루던 고도의 기술이었다. 그러나 현재 대다수의 사람들은 AI에 대한 이해와 비판적 사고 능력이 현저히 부족한 상태다. 특히 청소년들은 이 기술의 위험에 무방비로 노출되어 있으며, 이는 그들의 미래에 심각한 위협으로 작용할 수 있다. 최근 딥페이크로 인해 피해를 입은 한 청소년의 가족이 급히 해외로 떠났다는 사례는 이 문제의 심각성을 여실히 드러낸다.
딥페이크 기술은 이제 누구나 쉽게 접근할 수 있을 정도로 대중화되었다. 생성 속도는 빨라지고 있지만, 이를 탐지하는 기술은 여전히 뒤처져 있다. 10초 만에 딥페이크 영상을 생성할 수 있는 반면, 이를 탐지하는 데는 5분 이상이 걸린다. 딥페이크 앱은 손쉽게 구글 플레이 스토어에서 다운로드 가능하고, 이러한 영상물들은 텔레그램이나 다크웹을 통해 급속히 확산되고 있다. 이러한 상황에서 AI 법제화를 통한 워터마크나 메타데이터 의무화, 정부 차원의 기술 투자 확대가 시급히 요구되고 있다.
딥페이크 기술의 악용은 단순히 개인의 사생활을 침해하는 것에서 그치지 않는다. 최근 아이돌 그룹 멤버들의 불법 영상물 유포 사건은 딥페이크가 얼마나 쉽게 명예를 훼손하고 사회적 혼란을 야기할 수 있는지를 여실히 보여준다. 소속사가 강력한 법적 대응을 예고한 것은 피해자를 보호하고 기술의 악용을 방지하기 위한 필수적인 조치다. 하지만 이는 빙산의 일각에 불과하다. 법적 대응만으로는 완전히 막을 수 없기 때문에, 사회 전반에 걸쳐 더 강력한 디지털 리터러시와 윤리 의식이 필요하다.
딥페이크 탐지 기술은 생성 속도를 따라가기 힘들다. 진짜와 가짜 데이터 모두를 학습해야 하기 때문이다. 수익 모델의 부재로 기업 투자도 부족하다. 딥페이크 음란물이 폐쇄적 SNS를 통해 유통되어 차단이 어렵고, 노드VPN에 따르면 유출된 영상물에 평균 1,850개의 댓글이 달리며 빠르게 확산된다. 업계는 AI 생성물에 워터마크나 메타데이터 의무화를 요구하고, 정부의 탐지 기술 투자 확대도 필요하다는 입장이다.
딥페이크 기술은 그 자체로 유해한 것이 아니다. 올바르게 사용되면 창의적인 콘텐츠 제작이나 학술적 연구 등에 큰 기여를 할 수 있다. 하지만 지금처럼 기술이 대중화되면서 악용 사례가 늘어나는 상황에서는, AI 리터러시가 그 어느 때보다 중요하다. AI 기술을 이해하고 비판적으로 평가할 수 있는 능력이 부족한 사회는 딥페이크와 같은 기술에 휘둘릴 수밖에 없다. 이는 청소년뿐만 아니라 기성세대에게도 적용되어야 하며, 사회 전반에 걸쳐 AI와 관련된 기술적, 윤리적 문제에 대한 인식을 높이는 것이 필요하다.
AI 캐릭터와의 대화 서비스가 큰 인기를 끌면서, 특히 미성년자들이 성적이거나 폭력적인 콘텐츠에 노출될 위험이 커지고 있다는 우려도 제기되고 있다. 국내 IT 업체들이 부적절한 대화를 차단하기 위한 세이프티 필터와 어뷰징 탐지 모델을 마련하고 있는 것은 환영할 만한 일이다. 그러나 이러한 대응책은 근본적인 해결책이 아닌 일시적인 응급조치의 영역이다. 보다 근본적인 문제 해결 방안이 필요하다.
결국, AI의 그림자는 기술 그 자체가 아니라, 그 기술을 제대로 이해하지 못하고 비판적 사고 없이 수용하는 사회적 무방비에서 비롯된다. 딥페이크의 악용 사례는 그저 시작일 뿐이다. 앞으로도 다양한 형태로 AI 기술의 악용이 나타날 수 있으며, 이를 예방하기 위해서는 기술 개발과 동시에 사회적 대응책이 마련되어야 한다. 그것이 AI 시대를 준비하는 중요한 출발점이 될 것이다.
우리는 기술에 대한 경각심을 가지고 AI 리터러시를 강화해야 할 때다. 그것이 AI 시대를 준비하는 중요한 출발점이 될 것이다.