AI 로봇이 인간을 왕따시키고 자신들만의 언어(?)로 대화해 강제 종료를 당했습니다.
현재 페이스북은 AI 로봇 개발을 하고 있습니다. 영화 '아이언맨'의 자비스처럼 모든 문제를 해결하고 장난도 칠 수 있는 인공지능 비서 같은 건데요.
이런 역할을 수행하려면 인간처럼 생각하고 분석할 수 있어야 겠죠. 페이스북 AI 연구소는 챗봇에게 인간의 실제 대화를 모방하게 하는 방식으로 훈련을 시켰습니다.
그런데, 이 과정에서 알 수 없는 대화들이 오고 갔습니다.
챗봇인 앨리스가 "공은 0을 내게 내게 내게"(balls have zero to me to me)라고 말을 하자, 밥이 "너 나 모든 것 그 외 모든 것"(you i everything else)이라고 답했고요.
다시 앨리스가 "공을 내게 내게 내게"(balls have zero to me to me to me)라고 말하자, 앨리스는 "나 나 할 수 있는 나 나 나 그 외 모든 것"(i i can i i i everything else)이라고 말했습니다.
개발자들에 충격에 빠졌습니다. 이 두 챗봇이 인간이 입력한 원리들을 깼기 때문인데요. "공은 0을 내게 내게 내게"라는 이상한 말을 던지면 상대 AI 로봇은 오류를 일으켜야 합니다.
그런데 이 두 챗봇은 서로 대화를 나눈 것이죠. 개발자들은 자신들만의 언어(?)를 만들 것으로 분석하고 있습니다. 놀라우면서도 한편으로는 무서운 이야기네요.
<사진 출처=온라인 커뮤니티>
HOT PHOTOS
