10대 딥페이크 범죄의 근본적인 대안, AI 리터러시 교육이 시급하다
최근 딥페이크 기술을 악용한 성범죄가 급증하면서 사회적 우려가 커지고 있다. 특히 놀라운 사실은 이러한 범죄의 가해자 중 상당수가 10대 청소년이라는 점이다. 법적 제재가 강화되고 있지만, 그것만으로는 책임 있는 기성세대의 옳바른 해결 방안이 될 수 없다. 딥페이크의 잘못된 활용이 범죄가 될 수 있다는 청소년의 인식 부족이 크게 작용하고 있기 때문이다. 청소년을 위한 AI 리터러시 교육이 시급하다.
2024년 9월 25일 기준으로 전국에서 수사 중인 딥페이크 성범죄 사건은 총 812건에 이른다. 불과 2주 전보다 58%나 증가한 수치로, 딥페이크 범죄의 확산 속도가 매우 빠름을 보여준다. 더욱 심각한 문제는 이들 범죄의 가해자 중 83.7%가 10대 청소년이라는 점이다. 기술에 익숙한 세대인 청소년들이 딥페이크 기술을 손쉽게 접하고 있기 때문이다. 적어도 그들의 범죄 환경을 제공한 것은 기성세대이고, 그들에게 온전한 선택권이 있었다고 보기는 어렵다. 그들은 일정 정도 피해자이기도 하다.
딥페이크 문제의 확산은 AI 기술의 예상치 못한 빠른 발전에 기인한다. 불과 몇 개월 전까지 딥페이크 기술은 전문가의 영역이었지만, 이제 누구나 값싸고 손쉽게 접근할 수 있게 되었다. 지난 8월 미국 월스트리트저널은 사이버보안 업체 '시큐리티 히어로'의 딥페이크 전 세계 피해 현황 보고서를 보도했다. 전체 피해 대상자 중 여성이 99%였고, 그중 한국 가수가 80%에 달했다. 국내에 한정된 문제가 아니라 국제적인 문제이며, 그 핵심에는 AI 기술의 빠른 발전이 있다.
최근 국회는 딥페이크 성범죄 방지법과 청소년 성보호법 개정안을 통과시켰다. 딥페이크 성착취물을 소지하거나 시청하는 행위까지 처벌 대상에 포함되었고, 제작자에 대한 형량도 최대 7년 이하의 징역으로 강화되었다. 처벌 일변도의 대응이다. 지금의 청소년은 인터넷을 사용하지 않고 학습하는 것이 불가능에 가깝다. 우리 중 누구라도 자신의 일이 될 수 있다. 호기심 많고 미성숙한 자아 형성 단계의 청소년은 누구든 잠재적 가해자일 수 있다.
상황이 이러한데 기성세대의 책임 있는 목소리는 들리지 않는다. 강화된 법적 제재에도 불구하고, 청소년들은 여전히 딥페이크 기술을 이용한 범죄의 위험성과 심각성을 제대로 인식하지 못하고 있다. 대부분 단순한 장난이나 호기심으로 시작된 행동이 범죄로 이어지고 있다. 청소년들에게 AI에 대한 적절한 이해와 비판적 사고 능력을 키울 수 있는 'AI 리터러시' 교육을 제공해야 한다.
청소년들을 대상으로 한 AI 리터러시 교육이 시급하다. 이는 단순히 코딩과 같은 기술의 사용법을 가르치는 것이 아니다. 활용에 치우친 교육은 슈퍼카의 가속 페달을 알려 주면서 제동장치를 가르치지 않는 것과 유사하다. AI 리터러시 교육은 세 가지 핵심 영역을 포함해야 한다. AI의 원리와 작동 방식, 잠재적 위험성과 윤리적 측면을 포함한 '이해', AI의 한계와 오류 가능성을 인식하고 법적 책임을 판단할 수 있는 '비판적 사고', 그리고 AI와의 상호작용에서 통제력을 유지하는 '능동적 활용 능력'이다.
AI 리터러시 교육은 학교에서만 이루어져서는 안 된다. 가정과 지역사회, 미디어 등 다양한 채널을 통해 AI 범죄의 심각성과 위험성을 알리고, 사회 전체가 경각심을 가져야 한다. 딥페이크 문제는 시작일 뿐 보다 심각한 문제들이 예상되고 있다. 최근 공개된 챗GPT의 고급 음성 모드는 인간의 감성을 담아 대화하기 시작했다. 오픈AI는 외로움에 취약한 사람일수록 크게 의존하는 경향을 보인다고 경고했다. 청소년뿐만 아니라 사회 전반의 생애주기 교육 차원에서 AI 리터러시 교육을 통해 대비해야 한다.
청소년뿐만 아니라 사회 전반의 생애주기 교육 차원에서, AI 리터러시 교육을 통해 대비해야 한다.