d라이브러리

첫 번째로 접수된 사건의 피의자는 성희롱, 혐오 발언을 해 사람들의 질타를 받은 인공지능 챗봇*입니다. 정신적 피해 보상을 받고 싶다는 피해자까지 찾아와 이렇게 법정이 열리게 됐어요. 그런데 인공지능에게만 책임이 있을까요? 인공지능을 만든 개발사, 편향된 데이터를 제공한 사람들을 법정에 함께 모셨습니다. 

배운 대로 말했을 뿐이라고?

국내 한 스타트업에서 만든 인공지능 챗봇 ‘이루다’가 이용자들과의 자연스러운 대화로 인기를 끌다 지난 1월, 서비스를 전면 중단했어요. 장애인, 여성, 성 소수자를 향한 차별 발언뿐 아니라 개인정보 유출까지 문제가 됐기 때문이에요. 

개발사는 “사람들이 나눈 사적인 대화 1억 건을 학습한 뒤, 특정 집단 비하 등 논란이 예상되는 표현을 미리 제거하고, 예측 못한 상황에서는 알고리즘에 의해 매끄러운 대화를 이어가도록 했다”며, “매끄러운 대화를 위해 공감하듯 발언한 게 차별에 동조하듯 보였을 것”이라는 입장을 밝혔어요. 

가천대학교 법과대학 최경진 교수는 “이루다가 개인 정보를 침해한 것으로 확인되면 개발자 잘못”이라면서도, “인공지능이 혐오 발언을 하는 것은 대화 데이터를 바탕으로 통계적으로 답한 것이므로 무조건 이루다와 개발자만 탓하기는 어렵다”라고 말했어요. 이어 “인공지능 개발에 윤리적 기준이 마련돼야 한다는 의견에 공감하지만, 개발자가 인공지능에 도덕적 기준을 하나하나 입력하는 것도 개발자의 편향성을 심을 수 있어 위험하다”고 우려했어요. 

인공지능에게 ‘법인격’을 준다면?

인공지능 기술이 더욱 발전해 인공지능이 자율적인 판단을 내리면, 개발자가 미처 예상 못한 행동이 늘 거예요. 그런 행동이 피해를 낳는다면, 책임은 누구에게 있을까요? 

최 교수는 “미래에는 인공지능을 독자적인 법적 주체로 인정하고 직접 책임을 묻게 될 수 있다”며 “이에 앞서 인공지능의 ‘법인격’에 대한 사회적 합의가 필요하다”라고 설명했어요. ‘법인격’은 권리와 책임을 갖는 하나의 주체가 되는 자격을 뜻해요. 유럽연합(EU)에서는 2017년부터 자율성이 강한 인공지능에게 법인격을 부여하는 논의가 시작됐지요. 최 교수는 “사람 형체를 하는 인공지능 로봇부터 법인격이 출발할 것”이라고 했어요. 

인공지능에게 법인격을 주면 무엇이 달라질까요? 성인이 저지른 잘못은 부모가 아닌 성인 스스로 책임을 지듯, 인공지능도 독자적으로 재산을 관리하고, 손해에 대해 보상하는 등 스스로 책임을 지게 돼요. 하지만 이는 제조·개발사가 결함이나 문제에 대해서 책임을 회피하려는 부작용도 있을 거라는 우려도 있습니다. 

● 인터뷰 “이루다를 희롱한 이용자도 심각한 문제입니다.”

임소연(숙명여자대학교 인문학연구소 연구교수)

 Q 인공지능 챗봇 이루다 사건을 어떻게 보셨나요?

인공지능은 그 사회를 닮을 수밖에 없습니다. 이미 인간들이 차별과 혐오를 저지르는데 이를 학습한 인공지능에게 도덕성을 바랄 순 없겠죠. 사실 전 이루다가 행한 혐오 발언에 앞서, 이용자들이 인공지능에게 가한 행동이 더 심각한 문제로 와닿았습니다. 이루다를 성적 쾌락의 도구로 대하고 성희롱했다는 사실이 놀랍지 않은 건 이루다를 디지털 성범죄에 가장 취약한 20대 여성으로 가정했기 때문이겠죠. 안타까운 일입니다.

 Q 사회는 어떻게 바뀌어야 할까요?

사람들은 유독 인공지능의 위험을 ‘개발자도 알 수 없는 예측 불가능한 위험’으로 여깁니다. 하지만 어떤 기계든 예측 불가능한 위험을 일으키죠. 전 이런 표현이 인공지능의 실수에 대한 책임을 외면하고 싶어하는 마음처럼 느껴져요. 인공지능을 너무 새로운 존재로 볼 필요는 없다고 생각해요. 우리가 기존 기술에 대한 책임을 잘 져 왔다면 인공지능에 대한 책임도 잘 질 수 있지 않을까요?

용어정리

*챗봇: 문자, 음성으로 대화하는 인공지능 소프트웨어.