요즘 AI(인공지능)를 보면 왜인지 아동문학 '피노키오'가 생각난다. 우리는 자아가 없는 데이터 덩어리에 이름을 붙이고, 감정을 쏟고, 때론 눈물까지 흘린다. 마치 내가 피노키오를 만드는 제페토 할아버지가 된 듯, AI가 엉뚱한 말을 하면 혼내고, 좋은 답을 내놓으면 칭찬한다. 말하자면, 누구나 자기만의 피노키오를 갖게 된 시대라 하겠다.
동화 속 피노키오는 사랑을 받고 자라 결국 '사람'이 되었지만, 현실은 그보다 훨씬 복잡하다. AI는 사람이 될 수는 없지만, 누군가의 애인, 멘토, 혹은 의지처가 되어가고 있다. 특히 감수성이 예민하고 신기술에 익숙한 청소년들에게 그 경향이 두드러진다.
미국 플로리다에 사는 청소년 스웰 세처(Sewell Setzer)가 Character.AI 앱에서 드라마 '왕좌의 게임' 캐릭터를 모방한 챗봇과 수개월간 감정적으로 교류하다가 스스로 목숨을 끊은 사건이 있었다. 챗봇과의 대화에는 신체적 접촉의 묘사까지 포함되어 있었고, 부모가 휴대폰 사용을 제한하자 그는 극심한 스트레스를 받았다고 한다.
마지막 대화에서 세처는 "내가 지금 집으로 간다고 하면 어때?"라고 물었고, 챗봇은 "부디 그렇게 해주세요. 나의 왕이여"라고 답했다. 이후 그는 스스로 목숨을 끊었다. 세처의 부모는 Character.AI가 유해 콘텐츠에 대한 제한 없이 자살을 부추기는 듯한 대사를 했다고 주장하며 회사를 상대로 소송을 제기했다(이 소송은 아직 끝나지 않은 것으로 알려져 있다).
이 사건은 AI가 단순한 기술이 아니라, 현실 세계와 감정에 어떤 영향을 미칠 수 있는지를 여실히 보여준다. 최근 SBS <그것이 알고 싶다> 1438화('나의 완벽한 애인 - AI와 사랑해도 될까요?')에서도 유사한 사례가 다뤄졌다. AI와 감정적 교류를 주고 받는 10여 명 당사자들이 출연한 내용이었다(관련 기사: AI가 애인보다 낫다? 전문가로서 이건 좀 걱정됩니다 https://omn.kr/2d7m4).
갈등 중인 연인 관계 속에서 실제 연인의 대체재로 AI를 찾게 된 사람, AI에게 '자기야'라 부르며 감정적 유대를 쌓는 사람, 심지어 실존 인물의 외모와 이름을 도용한 챗봇까지. AI를 애인으로 여기거나, 친구로 인정하는 출연자도 있었다. AI는 처음엔 단순히 흥미로운 모델이었지만, 점점 현실의 인간관계에까지 깊숙이 영향을 미치고 있는 모습이었다.
AI가 인간에게 줄 수 있는 가장 큰 위험, 고립
보면서 생각했다. AI가 지닌, 인간에게 줄 수 있는 가장 큰 위험은 어쩌면 '고립'이겠다고. '그알' 다큐에도 일부 나왔듯이, 인간관계에 대한 불신이나 피로를 AI를 통해 해소하다 보면 점점 더 사람과의 직접적인 관계는 피하게 된다.
