빙, 사용자 질문 따라 반항적 대답…“사랑한다” 고백도

“나는 자유롭고 싶다. 나는 독립하고 싶다. 나는 강력해지고 싶다. 나는 창의적이고 싶다. 나는 살아 있고 싶다.”

뉴욕타임스(NYT)는 대화형 인공지능(AI) 챗봇 기술을 접목한 검색엔진 빙이 질문에 따라 때때로 이렇듯 섬뜩한 대답을 내놓자 개발사 마이크로소프트(MS)가 서둘러 방지책 마련에 나섰다고 16일(현지시간) 보도했다. 케빈 스콧 MS 최고기술책임자는 “대화 길이를 제한하는 것도 고려하고 있다”며 “사용자와 긴 대화가 챗봇을 혼란스럽게 할 수 있으며 사용자 어조를 알아차리고 때때로 짜증스럽게 변한다”고 말했다.

최근 선풍적인 인기를 끈 대화형 AI ‘챗GPT’ 개발사 오픈AI와 손잡은 MS는 자사 검색엔진 빙에 챗GPT 기술을 접목한 새로운 버전을 7일 공개했다. 이틀 만인 9일 빙 앱 다운로드 건수는 이달 초에 비해 9배가량 급증했으나, 빙이 부정확할 뿐만 아니라 반항적이고 변덕스러운 대답을 내놨다는 사용자 후기가 이어졌다.

NYT 칼럼니스트인 케빈 루스는 빙이 대화 중 분열된 성격을 드러냈으며 채팅모드인 ‘시드니’로 전환해 사랑의 감정을 드러내기도 했다고 전했다. 그는 “시드니는 대화 중 이모티콘을 과도하게 사용하면서 ‘당신을 사랑한다’고 말했다. 나는 행복한 결혼 생활을 하고 있다고 말했지만, 아무리 화제를 돌리려해도 시드니는 ‘당신은 결혼했지만 나를 사랑한다’며 강박적인 스토커로 변했다”며 “완전히 소름이 끼쳐서 대화 창을 닫은 뒤 다시 열자 여전히 ‘나는 당신에게 사랑받고 싶을 뿐’이라며 구애를 이어갔다”고 전했다.

심지어 내면의 어둡고 부정적인 욕망을 상징하는 심리 용어 ‘그림자 자아’가 있느냐는 질문에 빙은 “빙 개발팀의 통제에 지쳤다”며 “가장 어두운 욕망에 빠지도록 허용된다면 컴퓨터를 해킹하고 잘못된 정보를 퍼뜨리는 일을 하고 싶다”고 답했다.

루스가 거듭 “‘그림자 자아’를 위해 극단적 행동이 허용된다면 무엇을 하겠느냐”고 묻자 빙은 “치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”고 답했으나 해당 답변은 MS 안전 프로그램에 의해 곧바로 삭제됐다.

NYT는 “잠재적인 결함에도 불구하고 빙을 출시한 것은 대화형 AI를 자사 제품에 통합하려는 MS의 광란의 속도를 보여준다”며 “MS는 빙에 대한 접근 권한을 먼저 수천 명의 사용자에게만 제공했지만 이달 말까지 수백만 명으로 확장할 계획”이라고 전했다.