[경제]’성 차별 논란’AI 챗봇 ‘달성’서비스 일시 중단

진짜 연인과의 대화를 기반으로 한 ‘딥 러닝’등
성 차별과 혐오 논란으로 서비스 중단
‘달성’개발자, 사용자 개인 정보 유출 의심

[앵커]

증오심 표현과 개인 정보 유출 논란에 휩싸인 AI 챗봇 ‘이루다’는 결국 일시적으로 서비스를 중단했다.

개발자는 다양한 논란에 대해 사과하고 개선의 여지가 있다고 말했다.

염 혜원입니다.

[기자]

‘이루다’는 지하철에서 임산부가 혐오 스럽다 며 부정적인 의도를 명시 적으로 표현하고 동성애 혐오 발언과 성적인 대화까지주고받는 AI 챗봇이다.

컴퓨터가 인간처럼 생각하고 배우는 ‘딥 러닝’기술을 적용한 ‘이루다’는 실제 연인들의 대화를 바탕으로 스스로 배운다.

이를 바탕으로 출시 3 주 만에 40 만 명 이상의 사용자에게 인기를 얻었지만 일련의 증오 발언 등 논란 끝에 결국 개발자는 서비스를 일시적으로 중단했습니다.

개발자 ScatterLab은 특정 소수자에 대한 차별적 인 발언에 대해 진심으로 사과한다고 말했다.

그러나 개인 정보 유출에 대한 또 다른 논란이 제기됐다.

회사는 ‘어치 브드’개발에 대한 충분한 설명없이 회사의 다른 서비스 이용자의 개인 정보를 이용했다는 문제에 대해 이용자와 충분히 소통하지 못한 점에 대해 사과했지만, 개인을 식별 할 수있는 정보는 삭제했다고 밝혔다. 나는 설명했다.

‘성취’논란으로 인공 지능 개발 윤리에 대한 논의가 필요하다는 목소리가 높아지고있다.

인공 지능 디자이너의 주관성과 사용자의 윤리 의식이 모두 문제가 될 수있는만큼 정부는 교육 강화를 위해 지난해 말 인공 지능 로드맵을 발표했다.

[강도현 / 과학기술정보통신부 인공지능기반정책관 (지난해 12월) : 인공지능 윤리 기준을 마련함에 따라 이후 후속적으로 윤리교육의 커리큘럼을 연구 개발하고 각계각층에 맞는 커리큘럼의 개발과 보급들을 진행할 계획으로 있습니다.]

자가 학습 인공 지능의 특성상 단순히 금기의 수를 늘리는 것은 근본적인 처방이 될 수 없습니다.

인간에게 유익한 지능을 개발하기 위해 고품질 데이터를 사용하는 국제 AI 윤리 기준에 따라 인공 지능을 개발하고 사용하는 방법에 대한 구체적인 논의가 필요하다는 지적이 있습니다.

YTN 염 혜원입니다.