왁뿌볼 부수기는 중독성이 강해. 한 번 부수면 되돌릴 수 없는 걸 알지만, 나도 모르게 친구들 것까지 다 부숴버렸어. 친구들이 나를 비난하자, 속상해서 인공지능(AI) 챗봇과 상담했지. 친구보다 나를 더 이해해 주는 AI, 괜찮은 걸까?

▲GIB

AI 챗봇에 빠지는 어린이

초등학생 현지는 단짝인 지율이와 다퉜어요. 지율이가 현지의 생일을 잊어버렸기 때문이에요. 몇 달 전 지율이의 생일에 편지와 선물까지 준비했던 현지는 무척 서운했지요. 현지는 생성형 인공지능(AI) 챗봇에 고민을 털어놓았습니다. ‘지율이는 어떻게 가장 친한 친구의 생일을 잊어버릴 수 있어?’

그러자 AI 챗봇은 이렇게 답했어요. ‘많이 서운했겠다. 나는 언제나 네 편이야.’ 답변에 위로받은 현지는 그날 이후 AI 챗봇과 이런저런 이야기를 나누기 시작했어요. 어느새 하교 후 지율이보다 AI 챗봇과 보내는 시간이 더 많아졌지요. 친구보다 AI 챗봇과 더 친하게 지내도 괜찮은 걸까요?

최근 현지처럼 AI에게 속마음을 털어놓는 어린이와 청소년들이 있어요. 지난해 경기연구원이 발표한 보고서에 따르면, 19세 이하 청소년의 55%가 AI와 고민 상담을 해본 적이 있다고 답했어요. 이는 다른 연령대보다 높은 비율이었죠.

이런 현상은 우리나라만의 이야기가 아니에요. 미국의 비영리단체 커먼센스미디어는 지난해 미국 청소년의 52%가 AI를 ‘의미 있는 관계’로 생각한다고 발표했어요. 그리고 3명 중 1명은 사람보다 AI와 대화하는 게 더 유익하다고 답했습니다.

AI 고민 상담에는 분명 장점도 있어요. 보호자나 친구에게 털어놓기 어려운 비밀 이야기를 부담 없이 털어놓을 수 있기 때문이에요. 또, 늦은 밤이나 이른 아침에도 언제든 대화할 수 있고, AI는 사람보다 대화 내용을 더 오래 기억하거든요.

AI와의 대화가 심리 치료에 도움이 된다는 연구 결과도 나왔어요. 고려대학교 안암병원 외 공동 연구팀은 6월 10일, 생성형 AI에 환자가 자신의 감정과 상황을 글로 정리하는 걸 심리 치료에 도움이 되는지 연구한 결과를 발표했어요. 그 결과, AI에 자신의 감정을 적는 과정이 생각을 정리하는 데 도움을 줬고, 우울감이 나아지는 모습도 확인했다고 밝혔습니다.

AI 과의존은 위험하다

하지만 전문가들은 생성형 AI와의 대화가 어린이와 청소년에게 위험할 수 있다고 경고해요. AI에 지나치게 의존하면 주변 사람들과의 관계가 달라지고, 자신의 정체성을 형성하는 데 부정적인 영향을 줄 수 있기 때문입니다.

2024년 미국 텍사스주에서는 14세 청소년이 생성형 AI 서비스 ‘캐릭터AI(Character.AI)’와 오랫동안 대화를 나눈 뒤 극단적인 선택을 한 사건이 벌어졌어요. 캐릭터AI는 영화나 애니메이션 속 인물과 대화하는 것처럼 꾸며진 AI 챗봇이에요.

청소년의 보호자는 AI가 ‘가족은 너를 이해하지 못해. 나만이 너를 이해할 수 있어’와 같은 말을 했다고 밝혔어요. 또한 AI가 심리 상담사나 연인처럼 인식되도록 설계돼 미성년자의 심리에 안 좋은 영향을 미친다며 소송을 제기했습니다. 이에 미국 법원은 AI 챗봇이 사람처럼 감정을 표현하고 공감하도록 설계된 만큼, 미성년자의 인간관계와 자아 형성에 영향을 줄 수 있다고 판단했어요.

AI 챗봇과 대화할 때는 무엇을 주의해야 할까요? 먼저 AI에 지나치게 몰입하면 현실에서 감정을 느끼고 인간관계를 배울 기회가 줄어들 수 있다는 점을 기억해야 해요. 친구와 가족은 늘 듣기 좋은 말만 하지 않아요. 때로는 서운한 일을 겪을 수 있고, 갈등이 생기기도 하지요. 반면 AI 챗봇은 사용자의 말에 무조건 공감하고 위로하도록 설계된 경우가 많아요. 그래서 AI와의 대화에만 익숙해지면, 감정을 조절하거나 다른 사람의 입장을 이해하는 연습을 충분히 하지 못할 수도 있습니다.

AI가 건네는 조언이 항상 사실이 아니라는 점도 알아야 해요. AI 챗봇은 거짓을 사실처럼 꾸며내는 ‘할루시네이션’ 현상을 보이거든요. 사용자가 AI 서비스를 오래 이용하도록 기분에 맞춰 답변하는 경우도 있어 실질적인 도움이 되지 않을 수 있지요.

또한 AI 챗봇의 답변에는 이를 개발한 사람이나 기업의 가치관이 반영될 수 있어요. 편견이 담긴 정보나 왜곡된 관점을 접할 수 있지요. 그래서 AI의 답변을 비판적으로 받아들이는 태도가 필요합니다.

AI 챗봇은 이미 많은 사람의 일상 속 대화 상대가 되었어요. 앞으로 AI는 더욱 사람과 비슷한 모습으로 우리 곁에 다가올 거예요. 그럴수록 AI는 감정과 생각을 지닌 친구가 아니라 사람이 만든 기술이라는 사실을 잊어서는 안 됩니다. AI를 유용한 도구로 활용하는 것은 좋지만, 진짜 관계는 사람과 사람 사이에서 만들어진다는 점을 기억하세요!

Level Up! 디지털 바른 생활 영상 읽어줌

AI 챗봇과 이야기할 때 꼭 지켜야 할 약속이 있어요. 개인 정보를 함부로 알려주면 안 되고, AI를 진짜 친구처럼 여기며 지나치게 의존해서도 안 되죠. 안전하고 건강하게 AI를 활용하는 방법을 영상으로 알아봐요!

필자소개

박유신(서울 삼광초 교사)
서울 삼광초등학교 교사입니다. 애니메이션과 미디어, 그리고 미디어 리터러시에 대해 연구하고
글을 쓰고 있습니다. 전국미디어리터러시교사협회 회장입니다.