d라이브러리

AI라고 하면 가장 먼저 떠오르는 딥러닝이 이렇게 오랜 역사를 지닌 기술인 줄 몰랐지? 이번에는 만화에서 소개한 딥러닝의 발전에 나왔던 개념 중 중요한 개념 3가지를 설명해줄게!

딥러닝 키워드1 퍼셉트론

인간은 막 태어났을 때는 아무것도 모르는 상태지만, 학습을 통해 점차 많은 것을 알아갑니다. 인간의 지능을 모방해서 만든 AI 역시 학습을 통해 목표로 하는 기능을 습득합니다. 이처럼 AI가 특정한 기능을 하도록 훈련시키는 방법을 ‘기계학습’이라고 합니다. 딥러닝은 바로 이 기계학습의 일종입니다.

앞서 만화에서 본 것처럼 딥러닝은 ‘퍼셉트론’에서부터 시작됐습니다. 퍼셉트론은 뇌에 있는 신경세포인 뉴런과 비슷한 역할을 하는 인공 뉴런이에요. 아래 그림을 보면 뉴런에는 자극을 수용하는 돌기가 여러 개 있습니다. 각각의 돌기들은 자극에 반응하는 민감도가 다릅니다. 예를 들어 빨간 돌기는 다른 돌기에 비해 작은 자극에도 더 민감하게 반응하는 식이죠. 이렇게 각 돌기가 받은 자극을 모두 더했을 때 그 크기가 일정 수준을 넘으면 다른 뉴런으로 신호를 전달합니다. 퍼셉트론도 여러 입력값이 들어오면, 그 입력값마다 정해진 가중치를 곱한 뒤 이것을 모두 더한 값이 일정한 값을 넘으면 출력합니다. 

딥러닝 키워드2 인공신경망

인공 뉴런인 퍼셉트론을 여러 개 연결해 숨겨진 층(은닉층)을 추가한 것이 다층 퍼셉트론입니다. 다른 말로 ‘인공신경망’이라고 하죠. 은닉층이라고 해서 특별한 것은 아니에요. 여러 개의 퍼셉트론을 잇다 보니 입력층과 출력층 사이에 층이 많이 생겼는데, 이 층들을 모두 은닉층이라 일컫습니다.

다층 퍼셉트론이 처음 등장했을 때는 사람이 직접 입력값과 출력값을 보며 가중치를 조절해야 해서 복잡한 계산을 하기 번거로웠어요. 아래처럼 2개의 층에 3개씩 있는 퍼셉트론을 연결하는데도 9개의 가중치가 필요하니까요. 

딥러닝 키워드3 오류 역전파

복잡하고 번거로운 가중치 조절 문제를 해결한 것이 바로 ‘오류 역전파’ 방법입니다. 오류 역전파는 쉽게 말해 신호를 전달해 온 과정을 되짚어가면서 AI가 스스로 가중치를 조절하는 방법이에요. AI가 내놓은 출력값과 미리 알고 있던 정답을 비교해 오차가 작아지도록 계산 과정을 되짚어가면서 가중치를 최적의 값으로 바꾸는 거죠.

이 방법을 통해 인공신경망 기술은 첫 번째 침체기에서 벗어날 수 있었습니다. 하지만 신경망을 형성하는 층이 많고 복잡해지면서 오류 역전파로 계산 과정을 되짚는 일이 너무 복잡해졌어요. 또 특정 문제는 잘 풀지만 일반적인 문제는 해결하지 못하는 ‘과적합 문제’가 발생했죠. 그렇게 인공신경망은 다시 두 번째 어려움을 맞았습니다. 하지만 그사이 컴퓨터 하드웨어의 성능이 빠르게 발전하면서 복잡한 신경망에서도 가중치를 조절할 수 있게 됐어요. 2006년 제프리 힌튼 캐나다 토론토대학교 교수는 ‘깊은 사고 학습 네트워크를 위한 빠른 학습 알고리듬’이라는 논문에서 수백만 개의 은닉층으로 구성된 인공신경망은 사전 학습을 통해 더 빠르게 학습할 수 있다면서 복잡한 신경망을 사용해 학습하는 것을 ‘깊은(deep)’이라는 단어로 표현했어요. 이후 인공신경망으로 AI를 학습하는 것을 딥러닝이라 부르기 시작했고, 기계학습 분야에서 핵심적인 학습법이 됐죠. AI는 딥러닝 기술을 활용해 사람의 목소리를 똑같이 재현할 수 있고, 진짜보다 더 진짜 같은 그림도 그려낸답니다.