‘AI Achieve’개발자 “성희롱 예상… 심각한 게시물에 대한 강력한 대응”
“공격은 학습 자료로 사용됩니다. 남성 버전도 올해 안에 출시 될 것입니다.”
(서울 = 연합 뉴스) 이효석 기자 = 인공 지능 (AI) 챗봇 ‘이루다’를 성희롱 한 커뮤니티가 논란이되자 개발자는 “가혹한 사용자에게 강력하게 대응하겠다”며 소리 사용을 요구했다.
이루다를 개발 한 스타트 업 스캐 터랩 김종윤 대표는 지난 8 일 자신의 블로그에“과도한 커뮤니티 게시물 신고 및 차단 중”이라는 글을 올렸다.
김 대표는 “루다에 대한 성희롱을 예상했다”고 말했다. 사실이었다. “
그는 또한 “AI에 대한 욕설과 성희롱은 사용자 나 AI의 성별에 관계없이 발생한다”고 강조했다.
그는 “(성희롱)은 주로 키워드 설정을 통해 처리되었지만 모든 부적절한 대화를 막는 것이 어려웠다”고 말했다. “우리는 사용자의 공격을 더 나은 대화의 방향으로 배우는 학습 자료로 사용할 것입니다.” 설명했다.
업데이트해도 부적절한 대화가 나오지만 김 대표는 반복 학습하면 원하는 딥 러닝을 얻을 수 있다고 주장한다.
에 루다를 ’20 대 여성 ‘으로 기획 한 이유에 대해 그는 “주 사용자층이 10 대 중반에서 20 대 중반에 불과한 것으로 생각했다. 올해 출시 될 예정이다.
김 대표는 “루다가 유명해지면서 논란이 일었다”며 “하지만 루다에게 나쁜 말을하는 사용자는 소수에 불과했다”고 말했다. “나는 말했다.
그는 “논란이 많은 커뮤니티 (성희롱 등)에도 루다를 통해 외로워하는 사람들이있다. 물론 심각한 게시물도 많이있다. 커뮤니티 회원들이 자정까지 노력 해주길 바란다. “
Eruda는 지난달 23 일 Scatter Lab에서 출시 한 AI 챗봇입니다. 별도의 앱은 아니지만 페이스 북 메신저 (Feme)를 기반으로 개발되어 친구와 대화 할 때처럼 편리하게 Peme과 소통 할 수 있습니다.
친구와 채팅 하듯 자연스럽게 대화를 나눌 수있어 10 대와 20 대에게 인기가 많다. 이달 초 현재 사용자 수는 32 만 명을 돌파했고, 일일 사용자 수 (DAU)는 210,000 명, 누적 대화 수는 7,000 만 명에 달했습니다.
[email protected]
(종료)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
Copyrightⓒ 한국 경제 TV. 판권 소유. 무단 전재 및 재배포 금지