반장 선거에 나온 후보들이 멋진 사진을 들고 왔어. 그런데 그 사진 내용이 AI로 만든 가짜라면? AI 기본법의 내용과 AI를 현명하게 쓰는 방법을 함께 알아보자!

 

 

내 성적이 최하위 라고? AI에도 규칙이 필요해요

 

초등학생 민아에게 요즘 고민이 생겼어요. 얼마 전 학습 수준을 평가해 이미지로 만들어 주는 AI 서비스를 이용했거든요. 민아는 학교에서 본 단원평가와 받아쓰기 성적을 입력하고, 그동안 쓴 독후감과 숙제도 첨부했어요. 얼굴 사진도 함께 올렸지요.

 

그런데 AI는 민아의 얼굴을 우스꽝스러운 그림과 합성해 ‘지식 수준 최하위’라는 이미지를 만들었어요. 민아는 단원평가에서 늘 100점을 받는데, AI가 엉뚱한 평가를 내놓은 거예요.

 

민아는 걱정이 됐어요. 사람들이 AI가 잘못 만든 이미지인 줄 모르고 그대로 믿으면 어쩌지? 내가 올린 성적과 얼굴 사진을 누가 나쁘게 쓰면 어쩌지? AI를 안전하게 쓰려면 어떤 법이 필요할까요?

 

 

AI는 사람과 달리 자기가 만든 결과물에 책임을 지지 못해요. AI를 안전하게 쓰려면 기준과 규칙이 필요해요. 유럽연합(EU)은 2024년 AI 전반을 폭넓게 다루는 인공지능법(AI Act)을 세계 최초로 채택했어요. AI를 안전하고 윤리적으로 활용하기 위해서예요.

 

한국은 2026년 1월 22일부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’을 시행하고 있어요. AI 기술이 발전하도록 지원하면서도 부작용은 줄이고 AI를 안전하게 쓰도록 돕는 법이에요.

 

AI 기본법이 모든 AI에 똑같은 규칙을 적용하는 건 아니에요. 법 제2조는 사람의 생명과 신체 안전, 기본권에 큰 영향을 주거나 위험을 일으킬 수 있는 AI를 ‘고영향 AI’로 정했어요.

 

고영향 AI는 잘못 작동하면 큰 피해를 줄 수 있는 AI예요. 학생의 학습 수준을 평가하는 AI, 범죄 수사에서 얼굴을 인식해 신원을 확인하는 AI, 자율주행차가 도로 상황을 판단하는 AI 등이 대표적이지요. 이런 AI를 만들고 제공하는 기업은 위험을 줄이도록 관리해야 해요. 사람에게 어떤 영향을 미칠지도 미리 평가하려고 노력해야 하고요.

 

AI를 안전하게 쓰는 현명한 디지털 시민이 되려면 무엇을 지켜야 할까요?

 

 

GIB

 

 

나도 현명한 디지털 시민! AI 똑똑하게 쓰는 법

 

요즘은 AI로 진짜 같은 그림과 영상을 만들 수 있어요. 글이나 그림, 노래를 AI가 만들었는지 알 수 없다면 어떨까요? 진짜와 가짜를 구분하기 어려워 혼란이 생길 거예요.

 

AI 기본법은 AI 서비스를 제공하는 기업이 AI를 쓴다는 사실을 이용자에게 알리도록 정했어요. 특히 실제처럼 보이는 이미지나 영상, 음성을 AI로 만들었다면 그 사실을 표시해야 해요. 예를 들어 사진이나 영상 한쪽에 ‘AI로 만든 이미지’라는 문구를 넣거나 눈에 보이지 않는 워터마크를 심는 방식이 있어요.

 

어린이가 AI를 쓰다가 실수하더라도 AI 기본법에 따라 처벌받지는 않아요. 그래도 AI 기본법을 참고해 AI를 올바르게 쓰는 습관을 기르면 좋아요.

 

AI는 똑똑하지만 늘 정답을 알려 주지는 않아요. 그러니 중요한 결정을 AI에게 맡기지 마세요. AI가 평가한 내 학습 수준이 이상하다면 선생님께 조언을 구해요. AI가 추천한 진로가 마음에 들지 않으면 보호자와 상의하고, 스스로 충분히 생각해 나만의 길을 찾으면 돼요.

 

개인 정보도 소중히 지켜야 해요. 주민등록번호나 집 주소, 얼굴 사진처럼 나를 알아볼 수 있는 정보는 AI에 함부로 입력하지 않는 게 좋아요. 친구의 사진이나 개인 정보도 내 것처럼 소중히 다뤄야 하고요.

 

누군가 AI로 나와 관련된 이상한 이미지나 영상을 만들었다면 혼자 끙끙 앓지 마세요. 내 사진으로 만든 가짜 영상, 즉 딥페이크 피해를 입었다면 바로 보호자나 선생님께 알려요.

 

영상이 올라온 플랫폼의 신고 기능을 이용하거나 경찰(112)에 신고할 수도 있어요. 중앙디지털성범죄피해자지원센터(02-735-8994)에 상담을 요청하는 방법도 있지요.

 

AI는 사실이 아닌 정보를 그럴듯하게 꾸며 내기도 해요. 이런 현상을 ‘할루시네이션(환각)’이라고 불러요. AI가 잘못된 정보를 알려 주거나 어린이에게 알맞지 않은 콘텐츠를 계속 추천한다면 AI 서비스 제공자에게 알려 주세요. 이용자가 문제를 알리고, 개발자가 고치고, 다시 확인하는 과정을 거칠수록 AI는 더 안전하고 정확해져요.

 

AI는 교육, 의료, 과학, 문화 등 여러 분야에서 우리를 도와줘요. AI 기본법은 한국에서 AI를 안전하고 올바르게 쓰기 위한 첫걸음이 될 거예요. AI가 알려 준 정보는 한 번 더 확인하기, 개인 정보 지키기, 잘못 쓰이는 걸 보면 목소리 내기! 이것이 AI 시대에 필요한 디지털 시민의 힘이에요. 

 

 

 

[Level UP! 디지털 바른생활 영상 읽어줌]

AI 기본법은 AI를 만들고 쓰는 여러 상황과 관련이 있어요. 그렇다면 AI로 작곡한 음악을 대회에 내서 상을 받으면 AI 기본법을 어기는 걸까요? 정답이 궁금하다면 영상을 확인해 봐요!

 

 

 

 

차은영(경기 남양주 다산별빛초 교사)

빠르게 변하는 디지털 세상에서 어린이가 안전하고 현명하게 자라는 방법을 고민하는 초등학교 선생님입니다. 기술을 두려워하지 않고 올바르게 사용하는 디지털 교육에 관심을 두고 글을 씁니다.