[최보식이 만난 사람] "인공지능 스스로 공격과 전쟁 결정하면… 核무기보다 인류에게 더 위협"

  • 기사
  • 잇글링
  • 트위터로 보내기
  • MSN 메신저 보내기
  • 뉴스알림신청
  • 네이트 뉴스알리미
  • 뉴스젯
  • RSS
  • 프린트하기
  • 이메일보내기
  • 스크랩하기
  • 블로그담기
  • 기사목록
  • 글자 작게 하기
  • 글자 크게 하기

입력 : 2018.07.02 03:11

'인공지능 무기' 논쟁 촉발… 김정호 국방AI융합연구센터장·카이스트 교수

"인공지능 무기는 핵무기만큼이나 인류 생존을 위협할 수 있다."

열흘 전 카이스트(KAIST) 주최로 열린 인공지능(AI) 세미나에서 토비 월시 호주 뉴사우스웨일스대 교수가 이렇게 발언했을 때 일반 국민은 영문을 몰라 어리둥절했을 것이다. 하지만 월시 교수와 카이스트 간에는 이미 이 문제로 한차례 소동이 있었다. 카이스트가 한화시스템과 손잡고 '국방AI융합연구센터'를 개소하자, 그는 세계 각국의 인공지능 연구자 50여 명과 함께 '대량 살상 AI 무기를 개발하려는 카이스트와는 연구 협력을 전면 보이콧하겠다'는 공동성명을 발표했다가 취소했다. 국제적인 사건이 됐던 것이다.

국방AI융합연구센터 책임자인 김정호(57) 카이스트 교수는 '인공지능 무기'를 주제로 만나는 걸 처음에는 부담스러워 했다. 미시간대에서 박사를 한 그는 삼성전자에서 반도체 설계를 담당했다가 카이스트로 옮겼다. 그 뒤 삼성전자·SK하이닉스 등과 함께 100여 건의 산학 공동연구를 해왔다.

―월시 교수는 왜 '국방AI융합연구센터'를 지목했나?

"군인 숫자 감소와 국방 예산 절감을 위해 경계와 훈련, 작전 판단 등에 인공지능 기술을 활용하자는 취지였는데, 언론에서 '인공지능 무기 개발'이라고 보도했다. 대량 살상 인공지능 무기나 킬러로봇으로 오인했던 것 같다."

―개소식이 있고서 불과 열흘 됐을 때 공개 질의 서한을 발송해온 것으로 아는데?

"그렇다. 바로 다음 날엔 휴먼라이츠워치(국제인권기구)가 주미 한국 대사관을 통해 문의 공문을 보내왔다. 취리히에서 열리는 유엔군축회의에 와서 이 내용을 발표해달라고 했다. 국방 안보와 관련된 연구여서 답변하기 난처했다."

―4월 4일 월시 교수가 세계 각국의 인공지능 연구자들과 함께 카이스트와의 협력 연구 보이콧 선언을 하면서, 국제적인 사건이 된 셈인데.

"보이콧 선언을 할 것이라는 정보를 입수한 날 월시 교수 등에게 '국방AI융합연구센터는 대량 살상 무기나 공격용 무기 개발 계획이 없고 인간 존엄성에 어긋나는 연구 활동을 수행하지 않을 것'이라는 카이스트 총장 명의 이메일을 발송해 급한 불을 껐다."

김정호 교수는 “자녀가 성장하면 완전히 통제가 안 되듯이 인공지능도 우리의 통제를 벗어날지 모른다”고 말했다. /김지호 기자

―월시 교수 등의 문제 제기에 대해 어떻게 보나? 무엇보다 인공지능 무기가 핵무기만큼 위협적이라고 보나?

"종국적으로는 핵무기보다 인공지능 무기가 인류에게 더 위협적이다. 인간의 명령과 결정 없이 인공지능 스스로 공격과 전쟁을 결정하는 상황이 올 수가 있다. 이런 논의를 시작했다는 것은 큰 의미가 있다."

―비슷한 시기에 구글이 미국 국방부와 협력해 인공지능으로 무기 성능을 향상시키는 '메이븐 프로젝트'에 참여했다가 직원 반대 등으로 철회한 사건이 있었는데.

"그 뒤로 구글은 '사회적으로 유익하고, 불공정한 편향을 만들어내지 않고, 인간을 위해 책임을 다한다'는 등의 인공지능 개발 윤리 헌장을 만들었다. 직원들에게 이런 윤리 교육을 반드시 받게끔 하고 있다고 했다."

―핵무기는 국가가 주도하지만 인공지능 기술은 민간 차원에서 이뤄지고 있다. 이런 윤리 선언만으로 인공지능의 오용(誤用)을 막을 수 있을까?

"국제사회는 핵확산방지 조약을 맺었다. 핵무기는 100%는 아니더라도 찾아내 폐기하고 검증할 수 있다. 그러나 인공지능 무기의 경우 이게 가능할지 의문이다. 인공지능은 '소프트웨어 코드'이기 때문이다. 찾아내거나 확인하는 작업이 크게 의미가 없다. 저장했다가 복사를 하면 된다."

―인공지능에 대한 기대나 우려가 너무 부풀려져 있다는 지적도 있다. 지금 이런 논의를 해야 할 만큼 인공지능 기술이 높은 수준에 와 있는가?

"우리는 현재 인터넷에 종속돼 살고 있다. 10년 전만 해도 손바닥에서 모든 정보를 얻는 스마트폰을 상상했겠나. 인공지능의 발전 속도는 상상 이상으로 빠르다. 알파고에서 봤듯이 이미 판단, 기억, 학습 능력 등에서 일정 부분 인간 지능을 뛰어넘었다. 10년 뒤에는 인공지능에 윤리 및 감정 학습까지 가능해질 것이다. 멜로영화를 보면서 슬픈 감정을 느끼는 인공지능도 나올 게 틀림없다."

―실생활에서는 스마트폰의 음성 인식이나 수술실에서 스마트 안경을 끼고 도움 받는 정도인데.

"빅데이터센터와 인공지능 소프트웨어를 갖고 있는 구글은 한 개인에 대해 어떤 정치 성향이고 언제 무엇을 구매하는지 모든 정보를 갖고 있다. 구글의 유튜브에 들어가면 내 성향에 맞는 음악이 자동으로 올라온다. 다음에 누가 대통령이 될지도 예측하고 있다. 현재 글로벌 시가총액의 '빅 5'는 애플, 구글, 마이크로소프트, 아마존, 페이스북이다. 공통점은 뭘까. 데이터를 모을 수 있는 '빅데이터 플랫폼'과 인공지능 소프트웨어를 확보한 기업이다. 이는 미래 산업의 방향을 제시하고 있다."

―한국의 랭킹 기업은 어떤가?

"지난해 한국의 시가총액 기준으로 삼성전자, 한국전력, 삼성물산, 현대자동차, SK하이닉스, 네이버, 현대, 모비스, 삼성생명, 아모레 퍼시픽, 포스코 순이다. 대부분 제조업과 에너지업체다. 이중 네이버가 거의 유일하게 빅데이터 플랫폼으로 발전할 가능성이 있다. 산업 패러다임의 변화를 따라가야 한다."

―현재 국내 산업 부문에서 반도체만 유일하게 국제 경쟁력을 갖고 있는데?

"반도체는 인공지능 성능과 빅데이터 저장 능력을 결정하는 핵심 부품이다. 작년 중국의 반도체 수입액이 원유 수입액보다 많았을 정도로 반도체 시장은 계속 확대된다. 작년에 삼성전자와 SK하이닉스의 반도체 메모리 매출은 100조원이었다. 10년 후에는 1000조원 이상이고, 예상 이익만 400조원 이상 될 수 있다. 올해 우리나라 전체 예산에 맞먹는 액수다."

김정호 교수와 토비 월시 교수.

―반도체에서도 중국이 곧 추월할 것이라는 전망은?

"중국의 한 국영기업에서 반도체 시제품을 납품하기 시작한 것으로 알려졌다. 아직 우리와는 3년쯤 기술 격차가 있다."

―반도체의 기술 격차는 어디에 달려 있나?

"데이터 용량과 집적도를 얼마나 더 높이고, 동시에 전력 사용량을 얼마나 더 줄이느냐에 있다. 인공지능이 빅데이터를 처리하려면 엄청난 전력이 소모된다. 요즘 인공지능 서버용 반도체는 둥그런 얇은 판이 아니라, 데이터 저장과 계산 처리를 한 공간에서 할 수 있는 입체 형태로 만들고 있다."

―전력 사용량은 계속 늘어나는데, 현 정부의 원전 폐쇄 정책은 이런 흐름과 어긋나지 않나?

"4차 산업혁명이 진행될수록 전력은 지금보다 훨씬 더 필요하다는 답변만 하겠다."

―일반 사람들은 인공지능을 '로봇'으로 생각하는 경향이 있다. 평창올림픽 때 선보인 인공지능 로봇 '소피'의 수준은?

"인공지능이 인간의 두뇌라면, 휴머노이드(humanoid) 로봇은 인간과 닮은 기계라고 할 수 있다. 로봇의 관절은 모터로 구동된다. 인간의 근육을 따라갈 수 없다. 로봇은 힘들고 반복적인 일을 할 수는 있지만 아이를 돌보는 것 같은 섬세한 일은 하기 어렵다. 또 배터리가 필요하기 때문에 오래 움직일 수 없다. 이런 로봇보다는 인공지능의 발전 속도가 훨씬 더 빠르다."

―인공지능은 인간의 뇌를 모방했다고 하지만 뇌(腦) 작동 원리는 아직 풀리지 않은 게 훨씬 더 많다. 그런데 어떻게 뇌처럼 만들 수 있나?

"이전에는 인간의 뇌를 이해해서 만들려고 했다. 지금은 왜 그렇게 되느냐 원리를 이해하려고 하지 않는다. 인공지능의 심화학습 알고리즘(명령 체계)은 '블랙박스'와 같다. 그 안에서 어떻게 작동해 그렇게 되는지 모른다. 하지만 컴퓨터가 내놓는 해답은 믿을 수 있다는 것이다. 인간의 판단이 학습과 진화의 결과인 것처럼 인공지능도 데이터를 갖고 나름대로 학습해오면서 자신의 판단을 내놓는 것이다."

―인공지능이 인간의 통제를 벗어나 스스로 생각하고 판단하는 단계까지 갈까?

"인간이 인공지능을 통제할 수 있는 수단은 데이터밖에 없다. 어떤 데이터를 입력하느냐에 따라 달렸다. 하지만 인간 통제를 벗어날 가능성은 있다. 우리 자녀가 성장하면 완전히 통제가 안 되듯이. 이 때문에 인공지능에 대한 법과 규율을 정하지 않으면 인간이 위험에 처할 수 있다."

―그래봐야 전원 코드를 뽑으면 인공지능도 기계덩어리인데.

"컴퓨터에 공급되는 전기를 차단할 권리만은 인간이 끝까지 지켜야 한다."

―인공지능이 자신의 생명을 지키기 위해 전원을 못 끊게 막을 수도 있을까? 인간에 대한 반란(反亂) 같은 것인데.

"글쎄. 그 단계는 아직 생각해보지 못했다."

―만약 인공지능 시대가 도래하면 인간의 노동은 줄고 많이 편해질 것 같다. 전문가가 보기에 부정적인 측면은 무엇이 있을까?

"인공지능은 인간의 일자리를 대신해 소득을 올리지만 세금을 내거나 소비하진 않는다. 인공위성의 소유자나 법인에 대신 세금을 매겨야 한다. 또 인공지능은 전력 사용량이 인간의 뇌에 비하면 엄청나다. 이를 어떻게 감당할 것인가. 또 인간이 어떤 의도를 갖고 데이터를 집어넣을 때 인공지능도 정치적 편견을 갖게 된다. 이 때문에 인공지능을 지배한 자가 세계를 지배하는 소수 독재가 가능해질 수 있다."

―그러면 우리 같은 세상 흐름 부적응자는 어떻게 살아야 하나?

"소프트웨어 코딩교육을 권하고 싶다. 코딩은 인간이 컴퓨터와 대화하는 능력이다. 앞으로는 코딩 교육의 격차에 의해 사회계급이 나눠질 수 있다."