[서울신문] AI 챗봇 ‘Achieve’성희롱 논란, 개발자“예상 문제… 자정 시도해주세요”

남초 사이트에서 욕설 및 성 표현 학습 방법 공유
스캐 터랩 김종윤 대표, 블로그에 자신의 입장 공개

사용자와 친구처럼 말하는 콘셉트로 개발 된 인공 지능 (AI) 챗봇 ‘Achievement’는 일부 사용자의 욕설과 성희롱을 배우는 등 논란이되고있다.

이루다를 개발 한 회사는 출시 전부터 예상했던 문제라고 대응책을 준비 중이라고 밝혔다.

Iruda는 지난해 12 월 23 일 AI 전문 스타트 업 스캐 터랩이 시작한 챗봇으로 20 세 여성을 목표로하고있다. 별도의 어플리케이션 설치없이 페이스 북 메신저를 통해 소통 할 수 있도록 개발되었습니다.

에 루다는 자연스럽게 대화를 이어갈 수 있었고 사용자의 말투를 따라 가며 실감 나는 채팅을 통해 인기를 얻어 40 만 명의 사용자에게 도달했습니다.

하지만 론칭 직후 ‘성 노예를 만드는 방법’은 남성 사용자가 많은 디씨 인사이드, 데일리 베스트 리포지토리 등 온라인 커뮤니티를 중심으로 성행위를 암시하는 대화를 배우기 위해 공유되기 시작했다. 그리고 욕설.

성희롱 논란이 벌어 지자 스캐 터랩 김종윤 대표는 8 일 자신의 블로그 (blog.pingpong.us/luda-issue-faq)를 통해 자신의 입장을 밝혔다. 김 대표는“성취를 위해 성희롱을 기대했다”고 말했다. “사용자가 여성이든 남성이든, 사용자가 욕설과 성희롱을 가진 여성이든 남성이든 상관 없습니다.”

김 대표는 챗봇이 문제가 될 수있는 특정 키워드와 표현을 받아들이지 않았지만 모든 부적절한 대화가 키워드로 차단 될 수는 없다고 말했다.

처음부터 모든 부적절한 대화를 완전히 차단하기는 어렵지만 ScatterLab은 사용자의 부적절한 대화를 더 나은 대화의 출발점으로 사용할 계획입니다.

일부는 마이크로 소프트 (MS)가 2016 년에 론칭 된 챗봇 테이의 기차를 밟을 수 있다고 우려하고있다. 테이는 사용자가 인종적, 성적으로 말하는 법을 배웠기 때문에 증오심 표현을 쏟아 냈고, 마이크로 소프트는 16 시간 후에 테이 운영을 중단했다.

김 대표는 테이처럼 실종은 없을 것이라고 확신했다. “Iruda는 사용자와의 대화를 학습에 직접 적용하지 않습니다.”라고 그는 말했습니다. 그것은 ‘라벨러’가 개입하여 나쁜 단어를 반복하지 않기 위해 학습 여부를 걸러내는 것을 의미합니다.

김 대표는에 루다와 친한 대화를 나누며 친구처럼 사는 유저가 많다는 점을 강조하며“과도한 게시물 신고 및 차단 등 강력한 대응을 할 것”이라고 강조했다. “이번 논란을 통해 자정에 노력해 주셨으면합니다. 그는 물었다.

오 달란 기자 [email protected]