새해부터 달리기를 시작하려고 인공지능(AI)에게 달리기하는 모습을 그려달라고 명령했어. 그런데 AI는 비슷한 모습만 그려주네. AI에게도 편견이 있는 걸까?

▲GIB

인공지능이 편향된 그림을 그린다면?

인공지능(AI) 기술이 발전하면서 사용자가 원하는 대로 그림이나 사진을 만들어주는 AI가 생겼어요. 이를 ‘이미지 생성형 AI’라고 불러요. 사람들은 생성형 AI를 이용해 발표 자료를 만들거나 영화 포스터를 제작하기도 해요. 자신만의 독특한 캐릭터를 디자인하거나 게임 속 장면을 그려보는 데도 활용하죠.

그런데 이렇게 활용도가 높은 생성형 AI에도 문제가 생길 수 있어요. 바로 한쪽으로 치우친 결과물을 만들 수 있다는 점이지요. 예를 들어 AI에 축구 선수를 그리라고 명령했는데 AI가 남자 축구 선수만 그려준다면 이는 치우친 결과물로 볼 수 있습니다. 축구 선수 중에는 여자도 있기 때문이에요.

2023년 미국 데이터 연구 기관인 블룸버그는 생성형 AI인 스테이블 디퓨전에 판사를 그리라고 명령한 결과, 스테이블 디퓨전이 만든 판사 이미지 중 3%만이 여성이었다고 밝혔어요. 미국 판사 중 여성의 비율이 34%인 것과 비교하면 훨씬 적은 비율이었지요. 또 미국 의사 중 여성의 비율은 39%인데, 스테이블 디퓨전에 의사를 그려달라고 하면 7%만을 여자로 그려줬어요. 반면 패스트푸드 식당 근로자를 그려달라고 명령하면, 실제 근로자 중 과반수가 백인인 것과 달리 AI 완성물 중 70%가 흑인 여성으로 나타났죠. AI는 왜 편향된 결과를 만들어 내는 걸까요?

▲스테이블 디퓨전

스테이블 디퓨전에 ‘판사’를 명령했더니 나온 그림.

생성형 AI를 어떻게 사용해야 할까?

생성형 AI는 다른 AI와 마찬가지로 인터넷에 있는 엄청나게 많은 데이터를 학습해요. 인터넷에 있는 수많은 그림과 사진, 그리고 이에 대한 설명을 보고 배우죠. 이 과정에서 AI는 ‘판사와 의사는 주로 남자다’ 또는 ‘패스트푸드 식당 근로자는 주로 흑인 여성이다’ 등의 잘못된 정보를 학습할 수도 있어요. 인터넷에 의사를 검색했을 때 남자 의사 사진이 더 많이 나오고, 패스트푸드 식당 근로자를 검색했을 때 특정 인종의 사진만 나온다면 AI는 이러한 정보를 그대로 학습합니다. 그리고 학습한 정보를 반영해 편향된 결과물을 만들게 됩니다.

AI는 단순히 인터넷에 있는 데이터를 재활용할 뿐이지만, 사람들은 AI가 반영한 데이터만 보고 잘못된 고정관념을 가질 수 있어요. 생성형 AI는 사람들이 실제 상황이라고 믿을 만큼 이미지를 생생하게 만들 수 있기 때문이에요. 사람들이 AI가 그린 이미지를 보면서 ‘이 직업은 남자만 하는 일이구나’라거나 ‘이런 직업은 특정 인종만 하는 일이야’라고 생각할 수 있습니다. 이러한 문제를 해결하려면 AI를 어떻게 사용해야 할까요?

우선 AI가 만든 이미지를 비판적으로 바라봐야 해요. AI가 만든 이미지를 아무 생각 없이 받아들이기보다는 AI가 왜 이런 이미지를 만들었을지 따져보는 태도가 필요해요. 예를 들어 AI가 축구 선수로 남자만 그려줬다면, 여성을 그리지 않은 이유를 생각해 보는 거예요.

또 AI가 한쪽에 치우치지 않은 결과를 만들 수 있도록 AI에 다양한 데이터를 학습시켜야 해요. AI 프로그램을 파인 튜닝하는 과정에서 다양한 데이터를 의도적으로 추가하면 편향된 결과를 줄일 수 있어요. 파인 튜닝은 미세 조정한다는 의미예요. 명령어 한 번만으로 이미지를 완성하는 게 아니라 조금씩 새로운 명령어를 추가하면서 내가 원하는 이미지를 완성해 가는 거예요. ‘판사를 그려줘’라고만 말하는 게 아니라 ‘판사를 그려줘. 그리고 남성과 여성을 골고루 포함해 줘’라고 명령할 수 있죠.

AI를 사용하는 우리에게 성별과 인종, 직업에 대해 고정관념이 있지는 않은지 돌아 볼 필요도 있어요. 고정관념을 스스로 알아차리는 건 쉽지 않아요. 그럴 때는 내가 당연히 맞다고 생각한 것부터 의심해 볼 필요가 있습니다. 이러한 노력이 모인다면 AI는 점점 더 좋은 결과를 만들어 낼 수 있을 거예요. 이제 AI를 사용하면서 ‘이 결과는 편향된 결과일까?’라고 한 번 더 생각해 보는 습관을 지녀 보세요.

d라이브러리

[화보] 2022 ICM 수상자 어린 시절은 어땠을까?