d라이브러리

마지막으로 여러분을 위해 딥러닝마트 새단장 기념 공연을 준비했습니다. 저 딥러닝맨이 주인공으로 출연하는 마술쇼입니다. 지금까지 딥러닝이 어떤 원리로 작동하는지, 결과를 도출한 논리적인 근거가 무엇인지 모른다는 생각에 걱정하셨던 분들을 위해 준비했습니다!

짜잔~! 이 블랙박스 속을 보시죠. 청진기와 법봉, 그리고 자동차 운전대가 들어 있습니다. 이게 다 뭐냐고요? 딥러닝을 적용할 수 있지만 조심스러운 분야를 상징하는 물건들입니다. 의료와 법, 그리고 자율주행이죠. 

질병을 진단하거나 범죄자를 잡아 범죄 여부를 따지고, 자율주행하는 데 딥러닝을 적용할 수 있다는 연구는 많습니다. 하지만 쉽게 못하는 이유는 바로 ‘신뢰성’ 때문입니다. 딥러닝은 분석 결과를 내놓을 뿐 왜 그런 판단을 내렸는지 논리적인 근거를 제시하지는 않기 때문이죠.

그래서 컴퓨터과학자들은 판단 근거를 알 수 있는 ‘설명 가능한 인공지능(XAI)’을 연구하고 있습니다. 딥러닝 기술을 자유롭게 활용하고 딥러닝이 악용되는 걸 막기 위한 중요한 연구 주제라고 할 수 있죠.

여러 가지 방법이 있지만 가장 기본적이면서 대표적인 알고리듬은 ‘LRP’ 기법입니다. 예를 들어 이미지를 인식하는 딥러닝이 고양이 사진을 판단한다고 가정해 보겠습니다. 신경망 함수는 여러 단계의 계산을 거쳐 고양이일 때 1, 아닐 때 0이라는 값을 결괏값으로 내놓게 됩니다.

LRP는 결괏값에서부터 합성함수의 각 단계를 거꾸로 되짚어가면서 해당 함수에서 각각의 변수가 1 또는 0이라는 결과를 내놓는 데 얼마나 기여했는지를 계산하는 방식입니다. 이렇게 하면 정보가 입력된 뒤 순서대로 각 단계의 함수에서 어떤 변수가 중요하게 기여했는지 확인할 수 있고, 함수를 평면에 투사한 일종의 지도를 통해 어떤 부분이 중요한지를 알 수 있습니다.

최재식 KAIST AI대학원 교수는 UNIST에서 연구하던 2018년에 설명 가능한 딥러닝 기법을 적용한 인공지능 컬링 프로그램을 개발해 일본에서 열린 ‘디지털 컬링 대회’에서 우승했습니다. 컬링은 바둑처럼 상대의 전략에 대응해 스톤의 위치를 정해야 해서 경우의 수가 복잡한 게임입니다. 최 교수팀은 단순히 학습을 통해 가장 좋은 전락을 내놓은 것이 아니라 왜 그런 전략을 내놓았는지까지 설명 가능한 딥러닝 기술을 만들어 뛰어난 성과를 얻었다는 점에서 의미가 있습니다.