d라이브러리

사람들이 생성 인공지능(AI)에 열광하는 이유는 기계가 인간의 ‘자연어’를 이해하고 생성하기 때문이다. 그 기술의 시작은 2017년 구글 브레인의 아시시 바스와니 연구원팀이 발표한, ‘Attention Is AII You Need’ 논문의 ‘트랜스포머 모델’이다. 트랜스포머 모델은 입력된 값들 사이의 연관성을 스스로 학습하는 ‘셀프 어텐션’ 기법으로 학습 효율을 크게 개선시켰다. 트랜스포머 모델의 구조를 구조를 샅샅이 들여봤다.