인공 지능 (AI) 챗봇 ‘이루다’개발사 스캐 터랩 (ScatterLab)은 최근 챗봇에서 발견 된 증오와 차별적 인 대화와 사용자가 제공 한 데이터 남용에 대해 사과하며 서비스를 일시적으로 중단했다고 밝혔다.
지난달 22 일 정식으로 공개 된에 루다는 약 2 주간 약 75 만 명의 사용자가 사용하면서 긍정적 인 반응을 이끌어 냈지만 최근에는 증오와 차별 사건이 발견되어 여론이 치고있다.
또한 스 캐터 랩스가 운영하는 또 다른 서비스 인 ‘사랑의 과학’을 통해 수집 된 사용자의 카카오 톡 대화가 챗봇 개발에 사용 되었으나 사용자에게 구체적으로 알리지 않은 사실과 이러한 데이터가 적절하게 정제되지 않은 상황. 의심스러운 추가 질문이 제기되었습니다.
스캐 터랩은 11 일 입장을 발표하며 “특정 소수 집단에 대한 차별 발언이 발생 해 진심으로 사과한다”고 밝혔다. 사용했지만 사랑의 과학 사용자들이이 점을 분명하게 인식 할 수 있도록 충분히 소통하지 못한 것에 책임을지고 진심으로 사과드립니다.”
그는 “Scatter Lab은 일정 기간의 서비스 개선이 있으며 더 나은 성과로 여러분을 뵙고 싶습니다.”라고 덧붙였습니다.
첫째, 증오와 차별에 대한 부적절한 대화를 제공하기 위해 작년 6 개월 베타 테스트에서 걸러졌으며 계속 개선 될 것이라고 말했다.
스캐 터랩은 “특정 그룹에 필적하는 제목이나 증오 표현의 경우 베타 테스트 기간 동안 발견 즉시 분리 필터링을 수행 한 기존 사례가 이미 개선됐다”고 밝혔다. “우리는 증오 발언이 발견되지 않도록 지속적으로 개선하고 있습니다.”
또한 서울 신문 등 다른 언론 보도에 따르면 주소, 호수 등 개인 정보가 그대로 노출 된 사례도 있었다. 이에 대해 회사 측은 사전에 익명화가 진행된 것이 분명하며, 현실감을 더하기 위해 다른 번호로 대체되었는지 여부에 대해서는 아직 공식적인 답변을하지 못했다고 밝혔다. 이메일에 포함될 수있는 숫자 정보와 영문 데이터가 사전에 삭제되었다는 점이 다시 강조되었다.
“데이터 이용시 이용자의 닉네임, 이름, 이메일 등 특정 개인 정보는 이미 삭제되었습니다.” “전화 번호, 주소, 이메일 등에 포함될 수있는 영문 등 모든 숫자 정보는 삭제된다.”비 식별 화 및 익명 성 대책 강화를 통해 개인을 식별 할 수있는 정보가 유출되지 않았다. “
앞으로 그는 “앞으로 데이터 이용 동의 절차를 명확히하고, 식별 할 수없는 정보라도 민감 해 보일 수있는 콘텐츠에 대한 알고리즘을 지속적으로 개선 할 것”이라고 덧붙였다.
Scatter Lab이 서비스를 중단하고 다시 시작해야한다는 목소리도있었습니다.
회사는 서비스 중단을 통보하며 “우리 회사는 한국어 자연어 이해 기술을 활용 한 인공 지능 (AI) 챗봇을 제공하는 신생 스타트 업이다.있는 것 같다”고 밝혔다.
관련 기사
Chatbot’Achieved ‘를 처음 사용한 사람들로부터 칭찬
두 가지 AI 이야기… ‘Achieved’가 Eliza와 다른 이유는 무엇입니까?
한국 인공 지능 윤리 협회 “재 출시가 필요하다”
Scatter Lab, 인터랙티브 AI ‘Achieved’를위한 베타 테스터 모집
또한 “이루다는 사람들과 대화를 시작한 지 얼마되지 않은 어린 아이 같은 인공 지능이고 아직 배울 것이 많다.이 과정은 단순히 학습자와 대화를 배우는 것이 아니라 적절한 답은 무엇인가?” 답이 무엇인지 판단하기 위해 함께 배우십시오. “
그는 “이 학습을 통해 생성 될 편향된 대화 감지 모델을 모두가 사용할 수 있도록 개방 할 계획”이라고 덧붙였다. “AI 윤리, AI 제품 개발, 한국 AI 대화 연구에 도움이 되었으면합니다.”