생성형 인공지능이 그렸다는 그림, 처음 본 그림인데 어쩐지 낯설지가 않아요. 제가 예전에 그려서 소셜 미디어(SNS)에 올렸던 그림과 묘하게 닮은 것 같기도 한데 대체 어떻게 된 일일까요?

▲GIB

생성형 인공지능이 지적 자산을 도둑질하고 있다?!

생성형 인공지능(AI)로 그림을 그린 적 있나요? 명령어만 넣으면 뚝딱 완성되는 생성형 AI의 그림이 어떻게 만들어지는지 알아봅시다. 먼저 생성형 AI가 그림을 그리려면 많은 그림 데이터를 학습해야 해요. 그림 데이터의 품질이 좋을수록 AI의 성능은 좋아지죠. 그래서 생성형 AI를 개발하는 회사들은 품질이 좋은 데이터를 구하기 위해 여러 방법을 써요. 그림이나 사진을 많이 가지고 있는 콘텐츠 회사와 제휴를 맺기도 하고, 개인에게 대가를 지불하고 데이터를 받기도 해요. 다만 이 과정은 기업 입장에서는 비교적 번거롭고 시간과 돈이 많이 든다는 단점이 있어요.

그래서 일부 생성형 AI 회사는 정식으로 데이터를 사는 대신, 인터넷에 올라온 미디어 콘텐츠를 저작권자의 허락을 받지 않고 무작위로 수집해 AI 학습에 사용하기도 해요. 무단 학습으로 데이터를 얻은 AI는 실제 사람이 작업하는 것보다 훨씬 저렴하고 빠르게 창작물을 만들어낼 수 있어요.

창작자들은 자신만의 고유한 작품을 만들기 위해 많은 시간과 자원을 들여요. 그런데 그 결과물을 아무런 대가도 없이 사용한다면 창작자 입장에서는 도둑질을 당한 것과 같지요. 그래서 우리나라뿐 아니라 전 세계의 수많은 작가, 일러스트레이터, 디자이너 같은 창작자들이 생성형 AI의 상업적 사용을 비판하고, 생성형 AI 기업을 상대로 소송을 제기하기도 했어요. 창작자의 권리를 침해하고 일자리를 위협하는 무단 학습, 막을 수는 없을까요?

▲박현선,SEAART.AI

애니메이션 스튜디오 지브리의 그림체를 학습한 AI에게 사진(왼쪽)을 보고 그림을 그려달라고 했을 때 나온 결과물(오른쪽).

AI의 무단 학습을 막으려면?

그림이나 글, 동영상, 음악 등 모든 창작물에는 저작권이 있어요. 그 창작물을 만든 사람의 권리를 보호하기 위해서지요. 그런데 디지털 미디어 환경에서는 다른 사람의 저작물을 복제하거나 가져가기 쉬워요. 저작권자 몰래 인터넷에 올라온 저작물을 가져가 AI 학습에 사용해도 알아채기 어렵고요.

문제는 생성형 AI가 발전하고 널리 쓰이기 시작한 것이 비교적 최근이기 때문에 무단 학습과 관련된 명확한 법적 보호장치가 아직 부족하다는 거예요. 기존의 저작권법만으로는 창작자의 권리를 보장하기 힘들뿐더러, 생성형 AI가 만든 그림을 사용한 사람이 저작권을 침해했는지 판단하는 것도 어려워요. 어떤 작가의 그림을 허락 없이 가져가 AI 학습에 활용하는 건 명백히 저작권 침해지만, 학습의 결과로 생성형 AI가 그린 그림에는 저작권이 없기 때문이에요. 현재 저작권법에서 저작권은 인간이 만들어 낸 창작물에 한정하여 인정하고 있거든요.

이러한 이유로 최근에는 인터넷에 그림을 올릴 때 AI가 무단 학습하지 못하도록 하는 기술이 등장하고 있어요. 대표적으로 2023년 미국 시카고대학교 컴퓨터공학과 벤 자오 교수팀이 발표한 ‘글레이즈’와 ‘나이트셰이드’가 있어요.

글레이즈는 원본 이미지에 인간의 눈으로는 거의 인지할 수 없는 미세한 변화를 주어, AI가 해당 이미지를 학습할 때 원래의 스타일을 정확하게 인식하지 못하게 하는 도구예요. 나이트셰이드는 이미지에 ‘독’이라고 불리는 변형데이터를 주입해 AI를 공격하는 도구지요. 글레이즈와 나이트셰이드는 전면 무료로 공개되었고 지금도 버전을 갱신하고 있어요.

AI 기술이 발달하는 속도는 매우 빨라서 필요한 법이나 사회적 제도를 제때 만들어 대처하기 쉽지 않아요. 하지만 아무 대응도 하지 않으면 창작자들은 일자리를 잃고 더는 작품을 만들지 않게 될 거예요. 잠깐은 AI가 그린 그림을 쓸 수 있겠지만, 곧 한계에 부딪힐 수밖에 없어요. 창작자가 사라지면 AI가 학습할 새로운 고품질 데이터도 사라지기 때문이죠. 그러면 우리가 볼 수 있는 좋은 그림은 점점 줄어들고 말 거예요. 이런 일을 방지하기 위해 저작권법을 강화하거나 이미지에 워터마크를 삽입하는 등 여러 방법이 논의되고 있어요.

한편, 어떤 사람들은 AI 산업의 발전을 위해서 인터넷에 공개된 자료는 학습할 수 있도록 해야 한다고 주장하기도 해요. 인간과 AI가 조화롭게 공존하려면 어떻게 해야 할지, 여러분의 생각을 들려주세요!

d라이브러리

국제축구연맹(FIFA), 득점 전자심판기술 테스트 중