인공지능 시대, 우리가 놓치고 있는 질문

코드는 짤 수 있는데, 왜 짜야 하는지는 모른다

개발자 교육 현장을 다니다 보면 비슷한 장면을 자주 본다. 학생들은 AI가 짜준 코드를 순식간에 이해하고 수정할 줄 안다. 그런데 “이 기능이 사용자에게 어떤 영향을 미칠까”라는 질문 앞에서는 머뭇거린다. 기술은 도구다. 그 도구를 어디에, 왜 쓸 것인가를 결정하는 것은 기술이 아니다.

자율주행차가 피할 수 없는 사고 앞에서 보행자를 살릴 것인가, 탑승자를 살릴 것인가. 이 질문에 답을 코드로 내려야 하는 사람은 결국 개발자다. 알고리즘 하나에 윤리적 판단이 하드코딩되는 시대. 그런데 정작 그 판단을 내릴 훈련을 받은 개발자가 몇이나 될까. 컴퓨터공학과 커리큘럼 어디에 “트롤리 딜레마”를 놓고 밤새 토론하는 시간이 있었던가.

기술을 배우는 것과 기술을 책임지는 것은 다른 문제다.

실리콘밸리가 철학자를 찾는 이유

재미있는 건, 정작 기술의 최전선에 있는 곳에서 인문학의 필요성을 가장 절박하게 느끼고 있다는 사실이다. 실리콘밸리의 여러 빅테크 기업들이 철학 전공자를 영입하고, 사내에 윤리위원회를 두고, AI의 가치 정렬(alignment) 문제를 붙잡고 씨름한다. 왜일까.

생성형 AI는 이제 개발자조차 “왜 이런 답을 냈는지” 온전히 설명하지 못하는 지점에 도달했다. 수십억 개의 파라미터가 뒤엉켜 만들어내는 창발적 결과물 앞에서, 기술적 설명은 종종 한계에 부딪힌다. 마치 양자역학이 관찰 이전의 입자 상태를 확률로만 말할 수 있듯이, 오늘날의 AI도 그 안을 완전히 들여다볼 수 없는 블랙박스가 되어가고 있다. 통제할 수 없는 것을 다룰 때, 인간에게 남는 것은 결국 질문하는 능력뿐이다.

기술이 불투명해질수록, 우리에게 필요한 것은 더 정교한 코딩 기술이 아니라 더 날카로운 질문이다.

소수의 손에 맡겨진 미래

더 무거운 문제가 있다. 이 거대한 기술을 설계하고, 방향을 정하고, 세상에 풀어놓는 사람은 여전히 소수다. 몇몇 빅테크 기업의 몇몇 팀. 그들의 가치관과 세계관이 앞으로 수십 년간 인류가 살아갈 방식을 조용히 규정하고 있다.

나는 이것이 기술의 문제가 아니라 인문학의 부재라고 생각한다. 우리 사회 전체가 “이 기술이 인간에게 무엇을 의미하는가”를 함께 물어야 할 시점에, 그 질문은 소수 개발자의 코드 속에 갇혀버렸다. 비생명체인 AI에게 어디까지 자율권을 줄 것인가. 이것은 프로그래머 몇 명이 조용히 결정할 문제가 아니다. 사회 전체가, 시민 모두가 함께 답을 찾아가야 할 질문이다.

아이들에게 무엇을 가르칠 것인가

그리고 이 모든 논의의 끝에는 결국 다음 세대가 있다. 딥페이크, 편향된 정보, 무분별한 챗봇 의존. 청소년들은 이미 이 위험 한복판에서 살아가고 있다. 그런데 우리가 가르치는 디지털 리터러시는 여전히 “프롬프트를 잘 쓰는 법”에 머물러 있지 않은가.

AI 리터러시는 명령어를 외우는 기술이 아니다. 눈앞의 답변을 의심할 줄 알고, 그 답변 뒤에 숨은 편향과 이해관계를 읽어낼 줄 알고, 마지막에는 자신의 판단으로 되돌아올 줄 아는 능력이다. 비판적 사고. 이것이 없다면 우리는 아이들을 더 빠른 도구 앞에, 더 무방비하게 세워두는 것과 다르지 않다.

기술은 매년 새로워진다. 그러나 인간이 인간답게 판단하는 힘은, 새로 배워야 하는 것이 아니라 지켜내야 하는 것이다.