인공지능(AI)이 공정하다 또는 편견을 갖는다는 것은 정확히 무엇을 의미할까. 최근 지속적으로 벌어지고 있는 AI의 편향성 논란을 철학적으로 점검하기 위해서는 AI의 공정성 또는 편견이라는 개념의 정의를 점검할 필요가 있다.
현실의 AI는 아직 공정함을 이해하지 못한다
먼저 현재의 AI가 어떤 존재인지부터 직시해야 한다. 우리는 흔히 SF 영화를 포함한 대중매체를 통해 AI에 대한 이미지를 형성하는데, 그곳의 AI는 인간과 구별되지 않는 수준의 감정 능력과 도덕적 판단 능력까지 발휘한다.
하지만 현실의, 그리고 가까운 미래에 등장할 AI는 인간의 특정한 능력을 ‘흉내’낼 목적으로 만들어진 특수지능일 뿐이다. 이는 생각보다 중요한 의미가 있다.
우선 최근 논란이 된 ‘이루다’와 같은 AI가 아무리 성차별적 발언을 한다고 해도, AI는 상식적 의미에서 성차별적 의도나 감정을 갖지 않는다. 실은 성차별을 포함해 자신이 만드는 문장의 의미를 통상적인 의미에서 이해한다고 볼 수도 없다. 예를 들어 이루다가 산출하는 문장 기호를 우리가 읽고 이루다의 ‘마음 상태’를 유추할 뿐이지, 실제로 이루다가 의식적으로 그런 마음을 갖고 있지는 않다.
더불어 현재의 AI는 사람처럼 여러 능력을 동시에 갖출 수 없다. 가령 이루다를 비롯한 대화형 AI가 지금보다 훨씬 더 발달해 인간과 다름없는 수준의 대화를 나눌 수 있게 되더라도, 그 AI가 평범한 인간처럼 시각이나 음성을 통해 사람을 알아보거나 가게에 가서 물건을 사는 일까지 할 수는 없다. 물론 시각이나 음성을 통해 사람을 구별하거나 물건을 집거나 들어 올리는 일을 할 수 있는 AI 혹은 AI 로봇은 지금도 존재한다. 하지만 평범한 사람처럼 이 모든 일을 포함해 수많은 다른 일, 예를 들어 다른 사람과 협력해서 공동 작업을 수행하는 일 등을 인간 수준으로 해낼 수 있는 ‘일반지능(General Intelligence)’을 갖춘 AI는 아직 존재하지 않는다. 관련 연구조차 극히 시작 단계여서 가까운 시일 내에 우리 삶에서 볼 수 있을 가능성도 거의 없다.
이 같은 이유에서 현재의 AI는 공정이란 단어의 의미도 알 수 없고, 공정과 관련된 복잡한 의미론적, 사회적, 윤리적 관계를 이해할 수 있는 ‘의식적 마음’도 가질 수 없다. 그러므로 ‘AI가 사람보다 더 혹은 덜 공정한가’라는 질문은 ‘의식적 마음을 갖지 않는 복잡한 기계가 엄청난 양의 데이터에 기반한 기계학습을 통해 산출하는 결과물이 사람이 보기에 동일한 일을 수행하는 사람이 산출한 결과물보다 더 혹은 덜 공정한가’를 의미한다.
이렇게 정리하고 나면 처음 제기한 문제인 ‘AI가 공정하거나 편견을 갖는다는 것은 정확히 무엇을 의미할까’에 대해 쉽게 답할 수 있다. AI가 공정하다는 것은 최대한 공정하게 결괏값을 내도록 만들어졌다는 뜻이고, 편견을 갖는다는 것은 그런 결괏값을 내지 못하게 만들어졌다는 뜻이다. AI가 공정해지길 바란다면 최대한 공정하게 결괏값을 내게 하면 된다.
AI 산출물에는 공정성을 요구할 수 있지만 범주가 다양하다
그런데 이 지점부터 문제가 복잡해진다. 우리는 AI의 결괏값이 항상 공정하기를 원하지 않는다. 우리가 AI를 활용하는 목적에 따라 AI에 요구하는 공정성이 달라진다는 뜻이다.
우선 ‘공정’이 무엇인지 생각해 보자. 표준국어대사전은 공정을 ‘공평하고 올바름’으로 정의한다. 핵심은 공정이란 개념은 평가적 혹은 규범적 개념이라는 점이다. 이 말이 무엇을 의미하는지 이해하기 위해 예를 들어보자.
‘여성의 평균 키는 남성의 평균 키보다 작다.’ 이는 통계적 사실이고 이 사실을 말한다고 해서 성차별적이고 공정하지 않다고 말할 사람은 없다. 반면 ‘국내 100대 기업의 최고경영자 중에서 남성이 여성보다 많다’는 말 역시 통계적 사실이지만, 많은 사람은 이 사실을 성차별적이고 공정하지 않다고 여긴다.
두 문장의 차이는 대다수 사람이 남녀 평균 키가 같은 것이 도덕적으로 더 바람직하다고 보지 않지만, 남성과 여성이 비슷한 비율로 최고경영자가 되는 것은 바람직하다고 보는 데 있다. 그러니까 ‘공정’이란 세상이 어떠하다는 사실적 주장과 관련된 것이 아니라 세상이 마땅히 어떠해야 한다는 규범적 주장과 관련됨을 알 수 있다.
공정성이 규범적 개념이라고 인정해도 여전히 남는 문제가 있다. 규범적 개념은 하나의 층위로만 존재하지 않는다는 사실이다. 만약 여성 최고경영자가 남성에 비해 적은 이유가 실제로 현재 기업 환경 조건에서 남성 최고경영자가 여성보다 더 높은 성취를 보여주기 때문이라고 해보자. 이 경우에는 남성과 여성이 최고경영자로서의 능력이 평균적으로 완전히 동등하더라도, 기업에서는 남성 최고경영자를 임용하는 것이 기업 실적에 도움이 될 거라 예상하기 때문에 남성 최고경영자를 선호할 수 있다.
이런 점까지 고려하면, 결국 최고경영자 비율에서 남녀차이가 공정하지 않다고 지적하는 것은, 현재 기업 환경 조건을 포함해 우리 사회 전체에 존재하는 여성에게 불리한 사회적 조건 전체를 비판하는 일이 된다.
결국 ‘공정’에 대한 규범적 판단은 모두의 지지를 얻는 것부터 논쟁의 여지가 다분한 주장까지 다양한 스펙트럼으로 존재한다. 우리가 AI에게 요구해야 할 공정성 역시 이렇게 다양한 스펙트럼 안에서 어떤 공정성인지 파악할 필요가 있다. 극단적으로는 우리 사회의 공정하지 못한 측면을 파악하고 이에 대한 대응책을 마련하기 위해 AI를 활용하는 상황도 고려해 볼 수 있다. 최근 사회정책을 수립하거나 사회문제를 해결하는 데 AI를 활용하면 좋을 것이라는 생각이 점점 인기를 얻고 있으니 충분히 가능한 상황이다. 이런 목적이라면 오히려 우리 사회에 어떤 불평등한 모습이 있는지를 가감 없이 그대로 드러내는 AI가 필요할 것이다.
어느 정도의 공정함을 요구해야 할까
이처럼 AI의 용도에 따라 AI의 공정성, 즉 AI 산출물의 공정성은 추구할만한 가치일 수도 있고 그렇지 않을 수도 있다. 더구나 현재 사용되는 AI 대부분이 현재까지 수집된 데이터를 기계학습하고, 그 데이터 집합에서 발견되는 규칙성 혹은 패턴이 가까운 미래에도 성립할 것이라는 전제하에 미래를 예측한다는 점을 기억해야 한다. 이런 목적으로 만들어진 AI의 산출물이 공정하지 못하다고 비판하는 것은 그 자체로는 맞는 이야기지만 초점을 잃은 비판일 수 있다.
이제 질문을 좀 더 정교하게 가다듬어 보자. AI의 제작 목적에 따라 그 산출물의 공정성을 요구하지 말아야 할 AI가 분명 존재한다. 그러므로 이런 종류의 AI를 제외하고 우리가 산출물의 공정함 자체를 요구해야 할 AI가 분명 있을 것이고, 그에 대해 공정하기를 요구하는 것은 윤리적으로 바람직하다. 이번에 문제가 된 이루다는 수많은 사람과 예측하기 어려운 방식으로 상호작용하는 사회적 대화형 AI로, 이런 AI에 대해서는 공정성에 대한 요구가 강해질 수밖에 없다.
하지만 이렇게 분명히 공정해야 할 AI조차 고려해야 할 사안이 많고 복잡하다. 요구되는 공정함이 어느 정도 수준이어야 하는지 사람들 사이의 직관이 쉽게 일치하지 않기 때문이다. 또 헌법이 보장하는 표현의 자유와 충돌하는 문제도 있다. 다만 표현의 자유가 다른 모든 사회적 가치를 희생하면서까지 반드시 지켜야 할 절대적 가치는 아니다. 국제적으로 여러 국가가 자국의 역사적, 문화적, 사회적 상황에 따라 특정 종류의 혐오 표현에 대해 법적으로 처벌할 근거를 마련하고 있다.
중요한 점은 이루다와 같은 공정함을 요구할 필요가 있는 AI의 기획 및 제작 단계에서 어느 정도의 공정함이 적절한 수준인지를 미리 고민하고, 이를 알고리즘이나 데이터 수집 및 활용 과정에 반영하는 것이다. 이를 논의하는 데 세계적인 전기전자공학자 단체인 국제전기전자공학회(IEEE)가 주장하는 ‘윤리원칙에 일치하는 디자인(ethically aligned design)’ 개념이나, 최근 발표된 유네스코(UNESCO)의 AI 윤리 권고 초안이 강조하는 윤리적 영향평가 개념이 그 기반이 될 것이다.
결국 기억해야 할 것은 AI가 단순히 공학자만이 만드는 기술이 아니라 우리 사회 전체의 윤리적 공감대를 반영해야 할 문화적 산물이라는 점을 인식하고 실천하는 것이다.
