올해 초 세계 최대 이미지 데이터베이스 회사인 ‘게티 이미지’는 이미지 생성 AI 모델인 ‘스테이블 디퓨전’을 개발한 영국 회사를 상대로 무려 2000조 원의 손해배상을 청구했다. AI 이미지 생성 서비스가 저작권을 침해했다는 이유에서다.

누구나 손쉽게 생성형 AI를 이용할 수 있는 시대, AI 창작물의 저작권을 둘러싼 쟁점 3가지를 짚어보자.

쟁점 1. 인간 창작자의 작품을 허락 없이 AI 학습 데이터로 사용할 수 있을까?

최근 미국에서는 생성형 AI 이미지 생성 서비스에 대한 소송이 연달아 제기됐다. 게티 이미지는 스테이블 디퓨젼을 제작한 ‘스테빌리티 AI(Stability AI)’사가 자사의 이미지 1200만 개 이상을 무단으로 사용해 AI를 훈련시키고, 자사가 제공하는 것과 유사한 이미지를 제공해 저작권을 침해했다고 소송을 제기했다. 같은 시기 미국의 그림 작가들도 생성형 AI 제조사들을 상대로 집단 소송을 제기했다. 이들은 AI 제조사들이 자신들의 작품을 무단으로 학습에 사용하고, 자신의 작품을 침해하는 결과물을 만들어내 저작권을 침해하고 있다고 주장했다.

AI가 인간 저작권자의 저작물을 허락 없이 AI 학습에 사용해도 되는가는 비교적 오래 전부터 논의된 문제다. 사진이나 그림을 생성하는 AI 모델을 개발하려면 사진가나 화가가 저작권을 갖는 작품을 학습 데이터로 사용하게 되고, 언어 생성 AI를 학습시키려면 원본 텍스트를 이용해야 한다.

이런 학습에 저작권자로부터 일일이 허락을 받는 것은 사실 불가능에 가까운 일이다. 그래서 많은 AI 개발자와 산업계는 저작권이 있는 데이터라도 AI 학습을 위해서는 사용할 수 있도록 허용해달라고 요구해왔다. 이에 따라 각국의 정책 결정자들은 AI 기술 발전에 맞게 저작권법을 어떻게 수정할 것인지 고민해왔다. 저작권자 보호를 소홀히 할 수 없지만, 반면에 자국만 저작권법이 까다로우면 AI 산업 발전이 저해될 수도 있기 때문이다.

일본은 2019년 저작권법을 개정해 AI 모델 학습을 위한 데이터 마이닝(방대한 데이터로부터 유용한 정보를 추출)은 저작권 적용의 예외로 정했다. 한국은 일본과 비슷하게 저작권법 개정안을 만들어서 발의된 상태지만 아직 국회에서 통과되지 않았다. 유럽의회도 2019년 텍스트 데이터 마이닝의 경우 저작권의 효력이 미치지 않도록 저작권 지침을 개정했다. 미국의 경우 별도로 입법은 없지만, 법원의 판결은 빅데이터로서의 활용은 저작권 침해에 해당하지 않는다고 해석하고 있다. 여기까지만 보면 저작권자의 허락 없이도 저작물을 AI 학습에 사용하는 것은 큰 문제가 없는 것처럼 여겨진다.

하지만 생성형 AI가 등장하면서 상황이 달라졌다. 당시 논의한 것은 자율주행차 AI와 같이 새로운 기능을 수행해 가치를 창출하는 AI였던 반면, 요즘 논란이 되는 생성형 AI는 AI가 생성한 결과물과 AI 학습 데이터가 같은 시장을 두고 서로 경쟁하는 관계에 놓이기 때문이다. 따라서 생성형 AI가 본격적으로 등장하기 시작한 2022년 이전의 입법이나 판례는 앞으로 달라질 수 있다. 예컨대 데이터 마이닝을 전면 허용하는 방향으로 나아가던 영국 정부는 2023년 초에 방향을 재검토하겠다고 발표했다. 대부분의 나라에서 생성형 AI 관련 정책이나 법 해석은 아직 명확하지 않은 상태다.

쟁점 2. 생성형 AI 출력물의 저작권은 누가 가지는가?

최근 들어 AI 서비스를 이용해 생성한 그림이나 글 등이 자신의 것이라고 주장하는 경우가 많아지고 있다. 법적으로 보면 AI의 출력물에 대해서도 저작권이 부여될 수 있고, 그 저작권이 AI 서비스의 이용자에게 속한다고 주장하는 것이다. 하지만 AI 출력물이 저작권의 대상이 되는지부터 쉽게 답하기 어렵다.

대부분의 국가에서 저작권은 ‘인간의 창작적 표현’을 보호한다. 아무리 작품이 독특하고 멋져도 인간이 창작한 것이 아니라면 저작물이 아니고, 저작권법의 보호 대상이 아니라는 것이다. 유명한 사례로, 미국의 원숭이 셀카 작품 사건이 있다. 한 작가가 밀림에서 사진을 촬영하는데 갑자기 원숭이가 사진기를 가져가 셀카를 찍었다. 멋진 원숭이 셀카 이미지가 촬영됐고, 작가는 그 이미지에 대한 저작권을 주장했다. 그러나 미국 법원은 이를 인정하지 않았다. 사진을 찍은 것은 원숭이이지 사람이 아니므로 인간의 창작적 표현에 해당하지 않는다고 본 것이다. 그 셀카 이미지는 무척 유명해졌지만, 작가는 돈을 벌지 못했다.

이 사건에서의 원숭이를 AI로 치환해서 생각해볼 수 있다. 매우 단순한 명령으로 AI가 만들어낸 결과물은 결국 원숭이가 찍은 사진과 같은 것일 뿐이어서 인간의 창작적 표현으로 보호되기 어려울 수 있다. 반면 생성형 AI가 카메라와 같이 도구의 역할만 한 경우도 생각해 볼 수도 있다. 누군가가 생성형 AI에 주의 깊게 작성한 지시문을 입력해서 이미지를 얻어낸 다음, 이 출력된 이미지를 기초로 사람이 직접 수정해서 최종 작품을 만들었다고 생각해 보자. 그러면 인간이 카메라를 도구로 멋진 작품을 촬영한 경우와 마찬가지로, 이용자에게 저작권이 인정될 가능성이 크다.

위 두 가지 사례의 중간에 해당하는 사례는 더욱 많을 것이다. 예를 들어, 많은 시행착오를 거쳐서 작성된 지시문을 이용해 이미지를 얻은 뒤 추가적인 변형 없이 그냥 사용했다면, 해석은 최종 결과물을 얻기까지의 일련의 행위가 창작 행위라고 인정될 수 있는가에 따라 달라질 것이다. 이와 같은 창작 행위의 수준은 저작권을 주장하는 사람에게 입증할 책임이 있다. 따라서 앞으로 생성형 AI 모델을 사용해 창작 행위를 하려는 경우, 창작 과정을 구체적으로 기록하는 것이 더욱 중요해질 것이다.

쟁점 3. 생성형 AI의 결과물이 기존 작가의 작품과 유사하다면 원저작권 침해인가?

사람들의 오해가 가장 많은 지점이다. 많은 사람이 생성형 AI가 만들어낸 결과물은 저작권 침해로부터 자유롭다고 여기고, 심지어 일부 사람들은 다른 사람의 작품을 가져다 AI 모델에 돌려서 결과물을 뽑아내면 문제없다고 말하기도 한다. 그러나 이는 명백한 오해다. 생성형 AI를 통해 출력된 작품이 학습 데이터에 포함된 작품과 상당 부분이 동일 또는 유사하다면 저작권 침해에 해당할 수 있다.

구글 AI 연구팀은 2023년 1월 텍스트 기반 음악 생성 AI 모델 ‘뮤직LM’ 을 개발했다. 뮤직LM은 28만 시간 분량의 음악 데이터를 학습했고, 복잡한 글을 입력해도 그에 상당히 어울리는 음악을 만든다고 발표했다. 하지만 구글 측은 아직 뮤직LM 모델을 서비스로 제공하진 않고 있다. 연구팀 분석 결과 뮤직LM이 생성한 음악의 1% 정도가 학습 데이터를 직접 복제한 것으로 나타났기 때문이다. 이는 분명히 저작권 침해 소지가 있다. 그래서 구글은 상당한 노력을 기울여 개발한 서비스의 출시를 늦추고 있다. 앞서 소개한 게티 이미지와 미국 작가들의 집단 소송 사례처럼 이미지 생성 AI 모델에서도 저작권 침해 논란은 뜨겁다.

한편 아직까지 생성형 AI의 결과물을 사용한 사용자에게 제기한 소송은 없는 것처럼 보인다. 개인 사용자는 큰 손해배상 책임을 부담할 능력이 없으니, 당분간 개인 사용자에 대한 직접적인 소송이 이뤄질 것 같지는 않다. 하지만 소송이 없다고 해서 그 사용자에게 책임이 없다고 볼 수 있을까. 만약 어떤 사용자가 원작 학습 데이터와 유사한 생성형 AI의 결과물로 유명해지거나 돈을 많이 번다면, 그 사용자에 대한 소송도 충분히 제기될 수 있을 것이다.

이처럼 법적 쟁점이 불거지면서 생성형 AI 개발사들은 새로운 대비책을 마련하기 시작했다. 한 예로 작가들이 AI 학습 데이터에 자신의 작품이 포함돼있는지 확인하고, 만약 포함돼 있다면 자신의 작품을 AI 학습 데이터로 사용하지 않도록 요구하는 기능을 추가하기 시작했다. 그 밖에 생성형 AI가 학습 데이터에 포함된 저작물과 같거나 유사도가 큰 결과물을 출력하지 않도록 선택 가능한 필터를 제공하는 경우도 있다. 작품 공유 플랫폼 중에서는 AI 생성 결과물일 경우 이를 표시할 것을 정책으로 하는 곳도 늘고 있다. ‘챗GPT(ChatGPT)’의 경우, 사용자 가이드라인을 통해 결과물을 사용하는 경우 AI 모델의 역할과 인간 사용자 역할을 명확히 설명하는 문구를 붙일 것을 제안하며 문구 예시를 제시하고 있다. 이런 유의 사항을 잘 참고할 필요가 있다.

요컨대 지금 우리는 중요한 변화의 순간에 서 있다. 사회 구성원들이 투명하게 약속을 지키며 생성형 AI 모델을 사용한다면 큰 문제나 부작용 없이 AI 모델이 더욱 발전할 수 있을 것이다. 하지만 AI 모델이 오남용돼 부작용이 커진다면 불필요한 분쟁과 법적 제한으로 AI 모델의 발전은 타격을 입을 수 있다. 즉 우리가 지금 어떻게 AI 모델을 사용하는지가 앞으로 AI 모델이 어떻게 발전하고 사회에 적용될지를 결정할 것이다.

책임있는 태도로 유용하게 AI 모델을 사용하는 성숙한 자세가 필요하다. 그리고 동시에 무엇이 정당한 것인지, AI 모델의 발전에 따른 비용과 이익을 사회적으로 어떻게 배분해야하는지 깊이 있는 논의를 펼쳐나가야 할 것이다.

전정현

1990년대, 기술입국의 꿈을 안고 서울대 전기공학부에서 학사와 석사 학위를 받았다. 그 후 공학을 둘러싼 사회적 환경에 더욱 관심을 가지며 사법시험을 통해 법조계에 입문했다. 미드에 속아 로펌에 입사한 뒤로는 쓸 곳 없을 줄 알았던 공학 학석사 학위 덕분에 삼성 vs. 애플의 소송을 비롯한 국내 주요 기술 분쟁 사건들을 담당할 기회를 가졌다.

국내 탄탄한 AI 기술 업체의 CLO를 역임한 뒤, 현재는 리앤전 법률사무소를 열어 AI 기술 스타트업들을 위한 자문을 제공하고 있다. Junghyon.jun@leejunlaw.com