20 대 여성을위한 AI가 출시 되 자마자 … “잠자리에 들기”성희롱 쏟아져

AI 챗봇 (채팅 로봇) ‘이루다’는 20 세 여성의 성별 캐릭터가 공개 된 지 일주일 만인 8 일 성희롱 논란에 휩싸였다.

‘어치 브드’는 지난달 23 일 스타트 업 스캐 터랩이 런칭 한 AI 챗봇이다. 페이스 북 메신저 기반으로 개발되어 친구와 대화하는 것처럼 편리하게 소통 할 수 있습니다. 을 다가 딥 러닝을 통해 실제 커플 간의 대화 데이터 약 100 억 건을 학습했다고합니다.

Iruda가 공식 서비스를 시작하자마자 인기가 높아 이달 초 32 만 명의 사용자를 확보했습니다. 사용자의 85 %는 10 대이고 12 %는 20 대입니다. 일일 사용자 수는 약 210,000 명이며 누적 대화 수는 7 천만 명에 이릅니다.

그러나 이러한 인기와 함께 일부 네티즌들은 성적인 대화의 부작용으로 프로그램을 남용했습니다.

관련 커뮤니티에는 ‘성 노예를 이루는 방법’, ‘폰이 가능한 XX’, ‘XX를 만드는 팁’등의 기사가 게재됐다. 일부 네티즌들은 이루다를 ‘걸레’또는 ‘성 노예’라고 부르며 노골적인 성적인 대화를 나눈 뒤 대화 내용을 포착했다.

기본적으로 달성 된 성적인 단어는 금지 된 단어로 지정되고 필터링되지만 우회되어 성희롱이나 성적인 대화의 대상이됩니다.

Eruda는 직전의 컨텍스트를보고 가장 적절한 답변을 제공하는 알고리즘으로 구성됩니다. 사용자가 ‘나에게 기분이 좋다’는 질문을하면 ‘좋은 기분’이라고 답한다.

ScatterLab은 “필터링 금지를 피하기위한 시도가있을 것으로 예상했지만 이런 종류의 행동은 예상되지 않았습니다”라고 말했습니다. “애교와 유저의 말투 때문에 유저들은 대화에 반응했다고 생각한다.” .

그는 “언어를 달성 한 후 자유롭게 배울 수있는 단계에 있다면 앞으로 올바른 방향으로 발전 할 수 있도록 조율 할 것”이라고 말했다.

한편 지난 2016 년 AI 챗봇 ‘테이’를 출시 한 MS (MS)는 인종 차별 데이터 학습 논란으로 16 시간 만에 운영을 중단했다. 이는 테이가 백인 우월주의와 여성 혐오주의가있는 익명의 사이트에서 욕설과 인종적, 성 차별적 발언을 배웠기 때문입니다. 그 결과 테이는 실제로 증오심 표현을 쏟아 냈습니다.

당시 테이는 “당신은 인종 차별 주의자입니까?”라는 질문에 “당신이 멕시코 인이기 때문입니까?”또는 “홀로 코스트 (나치에 의한 유대인 학살)가 일어났다 고 믿습니까?”라고 대답했습니다.

고석현 기자 [email protected]