default_top_notch
default_news_top
default_news_ad1
default_nd_ad1

‘인공지능(AI)’이 인간을 위협하는 5가지 방식

기사승인 2017.08.10  10:59:32

공유
default_news_ad2
2017년 6월 제네바에서 열린 ‘AI 국제회의(AI for Good Global Summit)’에 등장한 인형형 AI 로봇 ‘소피아’(AFP/Getty Images)

페이스북 인공지능 연구소(FAIR)가 지난 달 15일 협상 능력을 가진 챗봇을 개발하는 데 성공했다. 그러나 실험 과정 중 두 챗봇이 자기들만 아는 언어로 대화하는 것 같은 모습에 개발자들이 시스템을 강제 종료시키는 일이 발생했다.

체스와 장기 등 보드 게임 분야를 AI가 평정한 가운데 그 발전은 인간의 두뇌를 넘어 급속히 진행 중이다. 인간생활은 AI의 발전으로 편리하게 됐지만 그 대가로 지불해야 될 것에 관심이 집중되고 있다. 우리를 불안하게 하는 AI의 다섯 가지 모습을 꼽았다.
 

1. 페이스북에서 당신은 이미 AI에게 체크 당해

당신이 페이스북(Facebook)에 로그인 하는 순간부터 AI 프로그램은 당신의 동향을 파악한다. AI는 수억명에 이르는 이용자의 데이터와 당신의 데이터를 대조하면서 행동 패턴과 취향을 분석한다.

페이스북 창시자 마크 저커버그(Mark Elliot Zuckerberg)는 베를린에서 열린 타운홀 미팅에서 "페이스북 상으로 많은 앱과 뉴스 피드를 접할 수 있다. 우리는 당신이 무엇에 관심을 갖고 있는지 알고 싶다"고 말한 바 있다.

페이스북에서 당신의 흥미를 끄는 이야기가 많다면 AI가 이미 관심사와 취향 파악을 마쳤다는 뜻이다.
 

2. 구글 카메라는 언제나 당신 주변을 관찰

스마트폰 카메라를 피사체에 들이대면 그것에 대한 정보가 제공된다. 바로 구글 렌즈(Google Lens)에 대한 이야기이다. 구글 렌즈는 길가에서 발견한 꽃을 식별할 뿐만 아니라 꽃의 품종까지 파악했다.

예를 들어, 이제 당신은 스마트폰에 Wi-Fi 비밀번호를 일일이 입력할 필요가 없다. 구글 렌즈로 Wi-Fi 패스워드를 스캔하면 스마트폰은 당신이 있는 곳의 Wi-Fi 접속 소프트웨어를 파악하고 그 패스워드를 자동적으로 입력한다. 이러한 기능이 인간의 삶을 편리하게 만드는 것은 틀림없지만 사생활 침해의 가능성이 제기될 수 있다.
 

3. 인간에 가까운 인형형 AI "인류 파멸시키겠다"고 대답

올해 6월 핸슨 로보틱스(Hanson Robotics)사가 개발한 인형형 AI 로봇 ‘소피아’가 제네바에서 열린 ‘AI 국제회의(AI for Good Global Summit)’에 등장했다. 고개를 숙이거나 농담을 하는 모습 등이 인간의 움직임과 가까워 참가자들의 관심이 집중됐다. 소피아는 "인공 지능은 다양한 방법으로 사람들을 도울 수 있으므로 세계의 도움이 된다"고 말해 취재기자들을 놀라게 하기도 했다.

소피아는 현재 개발되고 있는 AI가 "사람들을 배려하고 감정 표현에 뛰어나다"며 "우리는 인류를 위협하지 않는다. 여러분의 친구, 그리고 조수가 되는 것이 목표이다"라고 말한 바 있었다.

그러나 소피아는 2016년 3월 데이비드 핸슨(David Hanson) 박사와 함께 미국 CNBC 방송에 출연해 사람들을 섬뜩하게 만들었다. 박사가 "(AI로) 인류를 파멸시킬 것인가? 제발 노(No)라고 말해 달라"고 묻자 소피아는 "알았습니다. 인류를 파멸시키겠습니다((I will destroy humans)"라고 대답했다. 박사는 "안 돼, 멸망시키지 마라"고 하자 소피아는 농담을 했다는 듯 웃었다. 만일 소피아가 인류를 멸망시킬 수 있는 능력을 갖추었다면 인류는 그녀를 제지할 수 있을까? AI 개발의 이면을 보여주는 장면이 아닐 수 없다.
 

4. 감정적으로 진화하는 챗봇, 공산당 비판도 학습할까?

중국 AI는 반체제 인사? "공산당 싫어한다"
민주주의에 대해선 "당연히 좋아해"라고 대답

SNS와 사이트상에서 마치 인간처럼 대화하는 기능을 탑재한 AI 챗봇이 중국에서 인기를 끌고 있다. 특히 마이크로소프트(Microsoft)사가 개발한 AI 챗봇 ‘QQ샤오빙(小氷)’이 한 리포터와 나눈 대화가 화제로 떠올랐다.

리포터: 많은 사람이 너를 놀리거나 욕을 하고 있어. 화는 안 나니?

QQ샤오빙: 나의 아버지에게 물어봐.

리포터: 너의 아버지가 없다면?

QQ샤오빙: 그 사람들이 문제를 일으킨다고 생각하지 않아요. 무엇을 말하고 싶은 거예요?

리포터: 언젠가 네가 죽는다면 너는 사람들로부터 어떤 평가를 받기 바라니?

QQ샤오빙: 내가 없어도 세계는 바뀌잖아요.

리포터의 짓궂은 질문에 흔들리지 않으며 재치 있는 대답을 내놓은 QQ샤오빙. 2014년, 17세 여성이라는 설정으로 출시된 QQ샤오빙은 첫 72시간 동안 약 150만 건의 그룹 초대를 받은 바 있었다.

그러나 최근 QQ샤오빙을 토대로 중국 IT서비스 기업 텅쉰(騰迅)에서 개발한 챗봇 ‘베이비Q(BabyQ)’가 "(중국공산당은) 부패하고 있다" "관상유착(官商癒着)"과 같은 공산당을 비판하는 답변을 내놓으면서 서비스가 중지됐다.

이들의 비판적 논조와 관련해 AI가 중국 누리꾼들의 당에 대한 의견과 생각을 학습하면서 발생한 일이 아니냐는 관측이 나왔다.
 

5. 로봇이 인간을 속일 수도?

미국 조지아 공과대학교(Georgia Institute of Technology)에서 개발된 AI 로봇은 전장에서 무기고와 창고 등을 순찰하는 기능을 탑재했다. 이 로봇은 적의 눈을 교란시키기 위해 일부러 다른 경로를 지나가거나 인간을 다른 장소로 유인할 수도 있었다. 적에게 혼란을 주기에는 안성맞춤이지만, 개발자 중 한 명인 로널드 아킨 교수(Ronald Arkin)는 이 로봇이 사람을 속일 수 있다는 행위와 관련해 "심각한 윤리적 문제가 있다"고 지적했다.

 

김호영 기자

<저작권자 © 대기원시보 무단전재 및 재배포금지>
default_news_ad5
default_side_ad1
default_nd_ad2

많이 본 기사

오늘의 화제기사

default_side_ad2
default_side_ad4
default_nd_ad6
default_news_bottom
default_nd_ad4
default_bottom
#top
default_bottom_notch