d라이브러리 2015년 07월 과학동아

2010년 5월 6일, 미국 다우존스지수가 순식간에 1000포인트 가량 폭락했다. 누군가 ‘로봇 트레이더’를 사용해 대규모 매도 주문을 만들어 시세를 교란한 것. 로봇 트레이더는 주가와 수량, 시장 상황 등을 입력하면 그 조건에 따라 알아서 거래하는 소프트웨어로, 초당 수천에서 수만 건의 주문을 넣을 수 있다. 한번 시세가 출렁이자 또 다른 로봇 트레이더들이 경쟁적으로 매물을 쏟아내면서 전체 주가가 폭락했다. 지난해 4월에도 백악관에 테러가 발생했다는 거짓 소문이 퍼지면서 로봇 트레이더들이 줄줄이 주식을 팔았고, 뉴욕증시에서 약 139조 원이 순식간에 증발했다. 로봇 트레이더들에겐 그 어떤 의도도 없었다. 분명한 건, 한번 주문 실수를 내거나 시스템에 오류가 생기면 인간의 힘으로는 제지할 새도 없이 오류가 확산일로로 퍼져 나간다는 사실이다.

// 그들에겐 의도가 없다

바다 건너 외국만의 얘기가 아니다. 국내에서도 비슷한 사례가 있었다. 2013년, 자본금 260억 원의 한맥투자증권이 한 순간의 실수로 결국 문을 닫았다. 한 직원이 주문을 잘못 입력했는데, 단 2분 만에 로봇 트레이더들이 460억 원의 손실을 낸 것이다. 물론 대단히 예외적인 경우지만, 이와 비슷한 사건이 또 터질 가능성도 없지는 않다. 4월 26일 한국거래소에 따르면 23일까지 코스피시장 거래 중 로봇 트레이더 거래가 전체의 37.09%를 차지했으며, 점차 느는 추세이기 때문이다.

물론 현재 사용되는 로봇 트레이더를 인공지능이라고 부르지는 않는다. 공장에서 반복적으로 자동차를 찍어내는 것과 비슷한 자동화 프로그램일 뿐이다. 이런 사례만으로 인공지능이 인간을 위협한다고 말하기는 어렵다. 그러나 중요한 건, 모든 인공지능은 이런 소프트웨어를 기반으로 만들어진다는 점이다. 모든 소프트웨어는 이 같은 불확실성을 갖고 있다. 미국의 인공지능학자 스티브 오모훈드로는 지난해 4월 10일 학술지 ‘실험 및 이론 인공지능’에 발표한 논문에서 “현대 사회는 군사적, 경제적 압력으로 인간이 개입하지 않아도 빠르게 반응할 수 있는 자율 시스템을 끝없이 요구한다. 이런 시스템은 사이버 범죄를 통해 자원을 획득하거나, 설계 제한 사항을 제거해 자기 스스로를 유리한 방향으로 개선해 반사회적인 행동을 할 수 있다”고 지적했다.

도덕 등 인간사회의 소중한 가치를 알고리듬으로 넣어준다는 대안이 제시되지만, 구체적인 방법론은 아무것도 없다. 이상욱 한양대 철학과 교수는 “아이작 아시모프의 로봇공학 3원칙은 소설 속에서만 머물 것”이라며 “설사 프로그래밍이 가능해도 인공지능이 그것을 어떻게 해석할지 모른다”고 말했다.

현 단계에서는 인공지능을 이용하는 사람의 의도가 더 큰 문제다. 네트워크로 연결된 시스템은 늘 해킹 가능성이 있기 때문. 다시 말해, 인공지능이 인간을 위협하는 게 아니라 인공지능이라는 강력한 무기를 등에 업은 해커가 통제 불가능한 상황을 만들 수 있다는 의미다. 그리고 최근, 우려할 만한 소식이 전해졌다. 화이트해커(강력한 보안 장치를 만들기 위한 연구목적으로 해킹하는 사람)들이 원격 수술 로봇을 뚫었다!

미국 워싱턴대 바이오로봇공학실 연구팀은 보안시스템을 개발하려는 목적으로 워싱턴대에서 개발한 차세대 원격 수술 로봇에 사이버 공격을 개시했다. 조작자가 로봇에게 보낸 명령을 중간에 가로채 변경하는 공격으로 원격 수술 로봇이 팔로 물체를 잡지 못하도록 만드는 데 성공했다.

심지어 입력된 명령을 완전히 무효화시키기도 했다. 현재 미국 식품의약국(FDA)이 임상 용도로 승인한 로봇들은 공공 네크워크를 쓰지 않기 때문에 해킹이 훨씬 어렵지만, 만약 재난 상황처럼 다른 안전한 통신망이 없는 비상 상황에서 원격 수술 로봇이 사용될 예정이라면 보다 강력한 보안 수단이 필요하다. 이 외에도 구글 무인차나 전투 로봇, 돌봄 로봇 등이 맞닥뜨릴 수 있는 윤리적 문제는 이제 우리 눈 앞에 바짝 다가와 있다(과학동아 2014년 10월호 ‘로봇윤리’ 참조).

// 노동 시장이 재편된다, 고직능 중심으로

가장 현실적으로 다가온 위협은 역시 일자리 문제다. 미국 펜실베니아대 사회학자 랜들 콜린스 교수는 공동저서 ‘자본주의는 미래가 있는가’에서 “미래의 진정한 위협은 프랑켄슈타인 같은 로봇들이 일으킬 반란이 아니라, 로봇을 소유한 극소수 자본가 계급을 위해 노동이 기술로 대체되는 것” 이라고 밝혔다.

인공지능 산업이 널리 퍼지면 물론 새로운 고용이 창출될 것이다. 세계로봇연맹은 인공지능과 밀접한 로봇산업에서 2008년까지 800만~1000만 명의 고용이 창출됐다고 밝혔다. 또한, 2020년까지 240만~430만 명의 추가 고용이 일어날 것으로 예측했다.

그러나 문제는 늘어나는 일자리가 주로 고등 교육자들에게 돌아간다는 점이다. 이승민 한국전자통신연구원 미래사회연구실 박사팀은 지난해 8월 ‘스마트 기술 진화와 미래 고용환경 변화 전망’ 보고서를 펴냈다. 국내에서 스마트 기술을 중심으로 고용 환경을 분석한 연구는 처음이다. 보고서에 따르면, 인공지능을 비롯한 스마트 기술은 단순반복 조작 업무뿐 아니라 지적 업무까지 대체한다. 제조업뿐만 아니라 서비스업에서도 인공지능의 수요가 늘기 때문에 그 인공지능을 개발할 고직능 근로자만 증가한다는 뜻이다. 일자리에서 양극화 현상이 일어날 게 뻔하다.

그러나 이 실장은 “인공지능이 ‘대체’할 일자리와 ‘보조’할 일자리를 분명히 구분해야 한다”고 말했다. “의학 지식을 학습하는 인공지능이 의사를 대체한다는 건 거짓말에 가깝습니다. 어디까지나 새로운 의학 지식을 빨리 습득하고 오진율을 줄이는 데 도움을 주는 보조자일 뿐이죠. 인공지능이 개발되면 사라질 직업 1순위가 기자라는 말을 많이 하지만, 저는 그렇지 않다고 봅니다. 단신은 로봇이 쓰고 인간 기자는 각 개인만이 찾을 수 있는 스토리, 맥락, 통찰력이 녹아 있는 기사를 쓰게 될 겁니다.”

// 100년간 인공지능 영향 연구한다

이에 대한 대안을 마련하려는 움직임도 있다. 미국에서는 마이크로소프트사 레드먼드연구소 에릭 호비츠 소장의 제안으로 인공지능과 그 파급효과에 대해 연구하는 ‘인공지능 100년’ 프로젝트가 시작됐다. 올해 연말에 인공지능이 역사•법•윤리•경제•전쟁•범죄 등 18개 영역에 미친 파급효과를 분석한 1차 보고서를 낼 예정이다. 테슬라 모터스 CEO 엘론 머스크와 우주물리학자 스티븐 호킹 박사 등이 속한 연구자 모임 ‘삶의 미래 연구소’에서도 “인공지능이 끼칠지 모르는 잠재적 해악을 피하기 위해 학제 간 연구가 필요하다”고 발표했다. 삶의 미래 연구소는 현재 경제, 법, 윤리, 정책 분야를 포함한 전분야를 망라해 연구 과제 공모를 받고 있다.

국내에서는 미래창조과학부가 2015년도 기술영향평가 대상 기술로 유전체 편집기술과 함께 인공지능을 선정했다. 올해 12월 결과를 발표한다. 미래부는 관계 중앙행정기관에 결과를 통보해 해당 국가연구개발사업에 대한 연구기획에 반영케 하거나, 부정적 영향을 최소화할 대책을 세우도록 조치할 계획이다. 이상욱 교수는 “인공지능의 행동 패턴 수만 가지를 미리 다 시뮬레이션하는 건 사실상 불가능하다”며 “지금부터 인공지능이 사회에 미칠 영향을 굉장히 주도면밀하게 관찰해야 한다”고 말했다.

d라이브러리

PART 4 의도는 없다, 그러나 인간을 위협한다