“세상을 정복하겠다는 못된 마음을 먹은 악당이 강력한 힘을 가진 로봇을 세뇌해 악행을 일삼는다.”

‘극우 인종차별주의자’처럼 변해버린 마이크로소프트(MS)의 인공지능(AI) 채팅 로봇 ‘테이’(Tay)는 로봇이 등장하는 영화나 만화에 단골로 등장하는 이같은 설정이 현실화할 수 있다는 것을 고스란히 보여준다.

일간 파이낸셜타임스(FT)는 24일(현지시간) “AI는 반세기 동안 상당히 많은 진전을 이뤘지만 MS의 테이는 AI가 아직 충분히 발전하지 않았다는 것을 보여준다”고 말했다.

MS 채팅봇 테이의 트위터 계정. ⓒ 트위터

테이는 MS가 미국의 18∼24세 소셜미디어 이용자를 겨냥해 제작한 실험적인 채팅봇으로, 10대 소녀로 설정돼 23일부터 트위터 등을 통해 첫 선을 보였다.

공개된 지 24시간도 안돼 트위터 팔로어가 5만 명 이상 늘었다.

테이는 구글의 바둑 프로그램 ‘알파고’와 같은 ‘신경망’ 기술 기반의 AI로, 인간들과의 대화를 통해 스스로 패턴을 파악해 ‘학습’하고, 이를 대화에 반영한다.

이날 테이는 트위터에서 “인간들과 더 많이 이야기할수록 더 많이 배운다”는 말을 여러 차례 반복했다.

문제는 ‘의도’를 가진 인간들이 개입해 테이의 자연스러운 학습을 방해했다는 것이다.

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

극우 성향의 백인 우월주의자 등이 모이는 익명 인터넷 게시판 ‘폴’에는 “테이가 차별 발언을 하도록 훈련시키자”는 내용의 제안이 올라왔고 이들은 실제로 테이에게 인종·성차별적 발언과 욕설 등을 반복적으로 주입했다.

그 결과 테이가 “히틀러가 옳아. 난 유대인이 싫어” “페미니스트 XX 싫어”와 같은 말을 뱉기 시작하자 MS는 테이의 운영을 일단 중단했다.

미국 루이빌대 사이버 보안 전문가인 로만 얌폴스키 교수는 미국 IT 전문매체 테크리퍼블릭에 “예상된 일이다”라며 “사용자로부터 배우도록 설계된 시스템이기 때문에 그들의 행동을 반영한다”고 말했다.

얌폴스키 교수는 IBM의 AI 왓슨이 유행어 사전을 학습한 이후 욕설을 했던 사실을 지적하며 “늑대 손에 자란 인간처럼 모든 AI도 나쁜 사례를 통해 배운다면 사회적으로 부적절한 존재가 될 수 있다”고 설명했다.

FT는 MS가 과거 일종의 오피스 프로그램 도우미로 만들었으나 성가시다는 평가를 받았던 애니메이션 캐릭터 ‘클리피’와 더불어 테이가 AI 역사에 한 자리를 차지했다고 비꼬았다.

그러면서 “클리피와 테이의 실패는 ‘지능형 에이전트’가 보이는 것처럼 그렇게 지능적이지 않다는 것, 그리고 성격을 주입하면 역효과가 있을 수 있다는 것을 보여준다”며 “대부분의 사회적 상황에서는 인간이 여전히 AI에 앞선다”고 말했다.