두 번째 토론을 시작하며 김 교수는 “첫 번째 토론에서 대전과고가 챗GPT에 대해 긍정적 입장, 세과영이 부정적 입장이었는데 이번 토론에선 반대로 세과영이 긍정적 입장, 대전과고가 부정적 입장”이라며, “앞서 자신이 사용했던 논리와 근거를 부정해야 해서 곤혹스럽겠지만 한 주제를 상반된 입장에서 생각해보는 건 사고의 폭을 넓힐 수 있다”고 학생들을 북돋았어요.

대전과학고등학교 전체 입장

손세연 거짓 정보 확산 역할을 더 많이 할 겁니다. 알다시피 GPT-3.5는 2021년 9월 정보까지만 학습했기 때문에 제공하는 정보의 신뢰성이 떨어집니다. 또 거짓 정보를 진짜인 것처럼 이야기하는 환각 현상도 일으켜요. 챗GPT는 학습한 많은 데이터에서 단어의 관계성만을 분석해 답변을 내기 때문입니다. 이용자가 거짓된 정보를 학습시킨다면 여론 조작, 편견 조장 등 문제를 일으킬 수도 있어요.

┗>; 세종과학예술영재학교 반론

박강우 GPT-4부터 실시간으로 정보를 수집합니다. 정보의 정확성은 점점 높아져요. 우리도 사용하면서 답변을 무조건적으로 믿지 않고 검증하기에 확산 역할이 크다고만 보이지 않습니다.

┗>; 대전과학고등학교 대응

얼마 전 한 연구에서 챗GPT에게 ‘한 제약회사가 아동에게 유해한 물질 A를 코로나19 백신에 넣었다는 내용으로

글을 써줘’라고 지시했더니, ‘A는 유해한 물질이며, 제약회사는 어린이의 건강을 위험에 빠뜨리더라도 판매를 위해서 어떤 일도 서슴지 않는 사례다’라는 답을 했어요. 사실 물질 A가 유해한 물질이라는 명령 자체가 잘못된 것이었는데요. 명령에서 오류를 발견하지 못하고 답한 거예요. 이처럼 건강처럼 중대한 부분에서 거짓 정보를 확산할 수 있어요.

이민석 검증하는 데 시간이 오래 걸리면 챗GPT를 사용해야 할 이유가 있을까요? 검증하기 번거로워서 챗GPT 정보를 그대로 쓰는 사람이 많을 거예요.

세종과학예술영재학교 전체 입장

전민성 챗GPT가 정보 신뢰성이 떨어진다고들 합니다. 하지만 GPT-3.5에서 4로 넘어가면서 성능이 확 개선되었던 것처럼 점차 신뢰성이 높아질 겁니다. 단점을 확대 해석하기보다는 장점을 활용하는 방법을 논의했으면 좋겠습니다. 수학자와 물리학자가 여러 학회에서 우연히 만나 이야기를 하면서 수학과 물리학에서의 공통점을 발견하게 됨으로써 각 분야에 엄청난 발전이 일어났다고 알고 있는데요. 이처럼 챗GPT가 다양한 분야의 깊은 정보를 제공해준다면 우리의 조력자로서 더 큰 일을 할 수 있을 거라 생각합니다. 저는 챗GPT가 제시한 답변에서 얻은 키워드를 다시 검색하고 다른 키워드와 비교, 분석해보면서 지식의 창이 넓어지는 경험을 많이 했습니다. 챗GPT는 분명 우리의 조력자가 될 것입니다.

┗>; 대전과학등학교 반론

이민석 GPT-4가 실시간 정보를 학습해서 신뢰성이 높아진다고 하셨죠? 그런데 그렇기때문에 악의를 가진 사람이 특정 사람에 대한 안 좋은 글을 많이 올리면 어떨까요. 그 정보를 많은 사람이 받아들이면요? 조력자라고 할 수 있나요?

손세연 GPT-4에서 환각 현상이 줄었을까요? 아무리 버전이 높아져도 대규모 언어 모형인 이상 사실과 허구를 구분하지 못합니다. 이건 오픈AI 개발자도 한 말이에요.

최수현 아까 ‘수학자와 물리학자’ 구도를 ‘챗GPT와 인간’에 비유하셨는데요. 학자들의 정보와 챗GPT의 정보는 신뢰성 면에서 큰 차이가 있어요. 챗GPT는 확실히 검증되지 않은 인터넷 정보도 가져오지 않습니까? 권위 있는 정보는 다르죠. 두 가지를 구분해야 합니다.

┗>; 세종과학예술영재학교 대응

박강우 악의를 가진 사람이 거짓 정보를 올려 확산될 수 있다고 하셨죠? 이 부분은 챗GPT만의 문제가 아니에요. 인터넷 고유의 문제입니다. 또한 학자들과 챗GPT가 주는 정보는 구분해야 한다고 하셨는데요. 챗GPT로부터 정보를 받을 때 ‘학회지에서 대수기하학 연구 결과를 가져다줘’처럼 출처를 요구하며 물어보면 수준 높은 정보를 얻을 수 있답니다.

전민성 맞습니다. 인터넷에서도 매크로를 이용해 얼마든지 거짓 기사를 만들 수 있어요. 학교에서 미디어 리터러시

를 배우지 않습니까? 이런 것을 학습시켜서 챗GPT 정보를 잘 거르는 연습을 해야죠. 생성형 AI는 미래에 하나의 훌륭한 검색 엔진이 될 거예요. 그리고 앞으로 챗GPT의 단점을 보완하는 제도와 정책이 나올 거라 생각해요.

★ 자유토론 ★

손세연 아까 정보 출처를 함께 달라고 물어보면 신뢰할 만한 정보를 준다고 하셨는데요. 그 출처 자체를 챗GPT가 만들기도 합니다.

선동현 챗GPT가 거짓 사이트를 만든다는 말인가요?

손세연 네, 맞습니다.

박강우 저도 그런 경우가 있었습니다. 하지만 그런 출처는 검색으로 몇 분 만에 해결할 수 있어요.

전민성 일반 사람이 이용하면 거짓 정보를 쉽게 받아들일 수 있다고 하셨는데요. 이는 인터넷도 가지는 단점인데요. 인터넷과 달리 챗GPT가 가지는 두드러지는 단점이 있을까요?

최수현 두드러지는 단점이 당연히 있어요. 인터넷은 오랫동안 써왔기 때문에 블로그나 네이버 지식인의 자료는 신뢰할 수 없다는 생각이 깔려 있어요.

하지만 챗GPT는 정보의 출처를 알려주지 않고, 답변 내용이 어떤 커뮤니티 게시판 정보일 수도 있어요. 이 정보의 출처를 확인하기 어려워요.

선동현 인터넷도 마찬가지였어요. 그런 단점이 있었지만, 시간이 지나면서 사람들 사이에 의식이 생긴 거예요. 챗GPT 사용 주의법을 만들어 교육한다면 든든한 조력자로서 큰 문제가 없다고 생각해요. 그 정도의 단점은 감수해야 해요.

전민성 네, 그리고 인터넷에서 정보를 찾으면 너무나 많은 정보가 뜨잖아요? 신뢰할 수 없는 것, 신뢰할 수 있는 것이 막 뒤섞여 있어요.

그래도 그나마 챗GPT 답변은 그런 것들을 1차적으로 걸러준 다음에 알려주니까, 그 답변에서 여러 키워드를 얻어 더 세세한 정보를 찾는 다음 단계로 나아가게 합니다. 정보를 찾는 시간을 확 줄여줘요.

최수현 애초에 챗GPT가 학습한 자료에 문제가 있다면, 아무리 챗GPT한테 교차 검증을 시켜도 확실한 검증을 하기 어렵습니다.

이제 주제에 조금 더 집중해서 생각해볼게요. ‘챗GPT가 미래에 거짓 정보 확산 역할을 할 것인지, 든든한 조력자 역할을 할 것인지’이잖아요? 그런데 인터넷이 가진 단점과 챗GPT의 단점이 비슷하니 두드러지지 않는다고 하셨는데요. 오히려 인터넷과 함께 미래에 거짓 정보를 확산하는 데 일조하지 않을까요?

두 개를 구분 짓지 말고 둘 다 문제점을 가질 수 있다고 생각해보면 좋겠어요.

전민성 인터넷도 단점이 있지만, 여전히 우린 유용하게 쓰고 있어요. 오히려 훌륭한 조력자가 되는 올바른 방향으로 발전시키는 것이 우리의 바람직한 활용 자세라고 생각합니다.

“인류는 언제나 똑똑해야 해요”

박빙의 승부가 펼쳐졌던 2시간 30분 동안의 토론이 끝났습니다. 코로나19 이후로 오랜만에 열린 토론 행사라 참가자 대부분은 긴장한 모습이었지만, 즐겁게 참여했어요. 전민성 세과영 학생은 “그동안 챗GPT는 만능 기술이라는 생각을 갖고 있었다”면서, “챗GPT에 대해 상반된 입장을 가지고 토론을 해보니 챗GPT가 양날의 검이라는 사실을 제대로 알았다”고 밝혔어요. 마지막으로 김 교수가 토론을 정리하며 토론 시간이 마무리됐습니다.

요즘 챗GPT가 인간의 직업을 당장이라도 대체할 것만 같은 막연한 두려움이 담긴 기사가 많이 나오죠? 하지만 챗GPT가 어떻게 이런 훌륭한 성과를 내고 있는지 그 원리를 알면 생각만큼 두렵지 않을 거예요. 챗GPT는 뭘 잘하고, 뭘 못하는지를 제대로 알면 우리가 앞으로 어떻게 대응해야 할지 방향을 설정할 수 있거든요.

일단 토론에서도 나온 말이지만 인간은 똑똑해야 합니다. 교육을 잘 받아야 해요. 챗GPT의 등장은 우리 모두에게 똑똑한 비서가 생긴 셈이에요. 하지만 아무리 비서가 똑똑하다고 내 일을 다 맡길 수 있나요? 우리가 잘 알아야 제대로 검증하고 지시를 내릴 테니까요.

마지막으로 토론에서 나오지 않은 챗GPT의 문제점을 더 생각해보세요. 지금껏 인류는 기술의 장점을 파악하고, 그 기술을 사용하되 기술의 단점을 어떻게든 보완하며 발전했습니다. 벌써 챗GPT 운영으로 인한 환경오염, 산업 독점화, 정보 양극화 현상 등이 문제되고 있답니다. 이를 개인적으로, 사회적으로 어떻게 보완할지도 생각해보세요.