[전문]” ‘아이들의 AI’를 향상시킬 수있을거야 …”

인공 지능 (AI) 챗봇 ‘이루다’서비스가 11 일 일시적으로 중단됐다. (사진 제공 = Scatter Lab) © News 1

소수자 차별과 혐오 논란에 이어 개인 정보 유출로 논란이되었던 AI 챗봇 ‘이루다’서비스가 일시 중단됐다.

이르 루다를 개발 한 스캐 터랩은 11 일 성명에서 최근 AI 챗봇 이르다를 둘러싼 논란에 대해 사과하며 “서비스 개선 기간을 갖고 더 나은 이루다로 뵙겠습니다”라고 말했다.

다음은 Scatter Lab 입학 성명서의 전문입니다.

AI 챗봇 ‘이루다'(https://luda.ai/)에 관심을 가져 주셔서 감사합니다. 본사에서 개발 한 챗봇 ‘이루다’는 출시 2 주 만에 루다와 대화를 나누었습니다. 이 과정에서 혐오와 차별에 대한 대화와 개인 정보 이용에 대한 이용자의 문의가 있으므로 ScatterLab의 공식 입장을 알려 드리겠습니다.

증오와 차별에 대한 부적절한 대화

이 과정에서 특정 소수 집단에 대한 차별적 발언이 발생한 점에 대해 진심으로 사과드립니다. 우리는 Luda의 차별적 인 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않습니다.

우리는이 문제를 매우 심각하게 여기며 지난 6 개월 동안 베타 테스트를 통해 문제가 발생하지 않도록 여러 가지 조치를 취했습니다. 특정 그룹과 비교되는 제목이나 혐오 표현의 경우 베타 테스트 기간 동안 발견 즉시 별도의 필터링을 수행했습니다. 또한 기존에 알려진 사례가 이미 개선되었으며 차별이나 증오심 발언을 방지하기 위해 새로운 표현과 키워드를 추가했습니다.

Iruda는 사람들과 대화를 시작한 어린 아이 같은 AI입니다. 아직 배울 것이 많습니다. 이 과정에서 우리는 학습자와의 대화를있는 그대로 배우는 것이 아니라 무엇이 적절한 답이고 무엇이 더 좋은 답인지 판단하는 법을 배웁니다. 모든 사람이 사용할 수 있도록이 강의를 통해 생성 될 편향된 대화 감지 모델을 공개 할 계획입니다. 한국 AI 대화, AI 제품, AI 윤리 개발에 대한 연구에 도움이 되었으면합니다.

개인 정보 이용에 대해

에 루다를 개발하는 과정에서 본사는 본사에서 제공하는 사랑과 서비스의 과학을 통해 수집 된 메시지를 데이터로 사용했습니다. 사전에 동의를 얻은 개인 정보 취급 방침의 범위 내에서 사용하였으나, 사랑의 과학 이용자들이이를 명확히 인식 할 수 있도록 충분한 소통이 이루어지지 않은 점에 대해 전적인 책임을지며 진심으로 사과드립니다.

데이터를 사용할 때 사용자의 닉네임, 이름, 이메일과 같은 특정 개인 정보는 이미 삭제되었습니다. 이메일 등에 포함될 수있는 전화 번호, 주소, 영문 등 모든 숫자 정보를 제거하여 개인 식별이 가능한 정보가 유출되지 않도록 데이터에 대한 비 식별 화 및 익명 성 대책을 강화하였습니다.

향후 데이터 이용 동의 절차를 명확히하고, 지속적인 알고리즘 개선을 통해 식별이 불가능하더라도 민감 해 보일 수있는 내용을 보완 할 예정입니다.

Scatter Lab은 한국어 자연어 이해 기술을 활용하여 인공 지능 (AI) 챗봇을 제공하는 신생 스타트 업입니다. 우리는 인공 지능이 5 년 이내에 인간에 가까운 대화를 할 수 있다고 믿습니다. AI는 인간의 친구, 인간과의 의미있는 관계, 외로움을 해소 할 수있는 존재가 될 수 있다고 믿습니다. 인간과 자유롭게 소통 할 수있는 AI가 소외 계층과 소외 계층을 위로하는 따뜻한 대화 파트너가 되길 바랍니다. 에 루다는 첫 번째 단계에 불과합니다. Scatter Lab은 일정 기간의 서비스 개선을 통해 더 나은 성과로 여러분을 뵙기를 바랍니다. 앞으로도 누구에게나 친구가 될 수있는 AI를 만들기 위해 더 열심히 노력하겠습니다.

[email protected]