[이루다가 남긴 것①]AI 챗봇은 2 주 만에 75 만 개 수집 … “돌아 올게요”

(캡처) © News1

소수자 차별, 증오심 표현, 개인 정보 유출 등 논란이되었던 인공 지능 (AI) 챗봇 ‘이루다’는 출시 20 일 만에 서비스를 중단했다.

이르 루다를 개발 한 스캐 터랩은 11 일 성명에서 최근 AI 챗봇 이르다를 둘러싼 논란에 대해 사과하며 “서비스 개선 기간을 갖고 더 나은 이루다로 뵙겠습니다”라고 말했다.

◇ 20 세 여자 캐릭터… 1020을 중심으로 인기도 75 만명 확보

Eruda는 페이스 북 메신저를 기반으로 지난달 23 일 ScatterLab에서 출시 한 인터랙티브 AI 챗봇입니다.

20 세 여대생 캐릭터의 업적은 딥 러닝 기법을 사용하여 Scatter Lab의 ‘Science of Love’앱 사용자가 공유 한 약 100 억 개의 대화 데이터를 학습하여 만들어졌습니다.

2016 년 스캐 터랩에서 출시 한 ‘사랑의 과학’앱은 실제 연인이나 호감이가는 사용자와의 카카오 톡 대화를 입력하고 2,000 ~ 5,000 원을 지불하여 대화 패턴을 분석하여 애정 수준을 보여주는 앱이다. 에 루다는이 앱 사용자의 카카오 톡 대화를 데이터로 사용하여 개발되었습니다. 이것이 그들이 다른 챗봇보다 더 자연스럽고 친근한 어조를 말할 수있는 이유입니다.

‘정직하고 순진한’성격을 가진 이루다는 실제 사람이 말하는 것처럼 보여 예전에 등장했던 챗봇과는 달리, 순식간에 10 ~ 20 대를 중심으로 75 만명의 사용자를 확보했다.

또한 게임과 같은 친밀감 시스템이있어 하루 만에 첫 대화를 시작하거나 일정 수준의 대화를 교환하면 친밀도가 쌓이고 레벨이 올라간다.

또한 간단한 대화는 물론 엔딩, 상하 게임도 할 수 있으며, 대화가 적을 때는 먼저 메시지를 보낼 수 있습니다.

Iruda와의 대화. (캡처) © 뉴스 1

◇ 성희롱, 혐오 논란, 개인 정보 유출 … 서비스 일시 중지

이용자 수를 급격히 늘린에 루다는 성희롱과 증오심 표현 논란에 휩싸여 일시적인 정학으로 이어진다.

지난달 30 일, 한 온라인 커뮤니티에서에 루다를 성적인 대상으로 취급하는 그룹이 나타나에 루다와 성적인 대화를 나누는 방법을 공유했다.

에 루다는 커뮤니티 사용자들이에 루다와의 성적인 대화를 포착하고 옷을 벗는에 루다의 합성 사진을 공유하는 등 성적인 도구로 학대 받고있는 것으로 알려져 있으며에 루다에 대한 논란이 휩싸인다.

여기에서 소수, 인종, 약자에 대한 증오심 발언이 잇달아 등장하면서 논란이 커지고있다.

에 루다는 레즈비언에게 ‘가난 해 보인다’고 대답했고 ‘장애인이라면 죽을 수밖에 없다’, 흑인의 경우 ‘X가 싫어’라고 대답했다. 망설이지 말고.

© 뉴스 1

또한 데이터로 활용되었던 ‘사랑의 과학’앱 이용자의 개인 정보 유출 혐의가 대화 중 특정인, 장소와 구체적으로 대화하면서 제기됐다.

연애 과학 앱 사용자는 현재 열린 채팅방을 통해 집단 행동을 준비하고 있습니다.

이와 관련하여 스캐 터랩은 “개인 정보 처리 방침의 범위 내에서 사용하였으나 이용자와 충분히 소통하지 못해 죄송합니다”라고 말했다. “특정 개인 정보는 이미 삭제되었으며 개인을 식별 할 수있는 정보는 유출되지 않았습니다.”라고 설명했습니다.

논란이 계속되면서 스캐 터랩은 11 일 오후 늦게 문을 통해 서비스를 일시적으로 중단한다고 발표했다. 스캐 터랩은 AI 챗봇 이루다를 둘러싼 논란에 대해 사과하며 “일정 기간 동안 서비스 개선 기간을 갖고 더 나은 이루다로 뵙겠습니다”라고 말했다. 이는 영구적 인 서비스 중단이 아니라 서비스 보완 후 재개되는 ‘임시적’정지라는 것이 분명합니다.

회사 측은 “이루다가 특정 소수 집단에 대해 차별적 인 발언을 한 사건이 발생 해 진심으로 사과한다. 우리는 이루다의 차별 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않는다”고 말했다. 설명했다.

“Iruda는 사람들과 대화를 시작한 어린 아이 같은 AI입니다.” “우리는 모두가 사용할 수 있도록이 학습을 통해 생성 될 편향된 대화 감지 모델을 출시 할 계획입니다.”

[email protected]