증오와 차별 논란 ‘AI 달성’, 왜 일어나면 안되는 걸까?

각종 증오심 · 차별 · 개인 정보 유출 논란이되었던 인공 지능 (AI) 챗봇 ‘이루다’의 서비스가 일시 중단됐다.

개발자 인 스타트 업 스캐 터랩의 입장에서는 오랜 기간 정교하게 출시 한 이후 상황이 발생하여 유 · 무형의 피해를 입었을 지 모르지만 3 주 만에 서비스가 중단되었습니다.

그러나 반대로 보면이 이상으로 남을 판촉 효과 만 본 것이 분명하다.

좋지는 않았지만 여러 언론사 소식을 통해 여러 차례 노출 된 ‘노이즈 마케팅’이 진행 됐고 논란이 계속되면서 실시간 검색어 1 위에 오랫동안 머물렀다. 그리고 무엇을 성취해야할지 모르는 사람들도 이제 알려져 있습니다.

또한 개선을위한 ‘일시 중지’입니다. 스캐 터랩은 11 일 입장에서 “결점을 집중적으로 보완 할 수 있도록 서비스 개선 기간을 거쳐 다시 뵙겠습니다”라고 밝혔다.

이루다 서비스 재개를 발표 할 때가되면 또 다시 수많은 보도가 이루어지면서 다시 한 번 홍보 효과를 누릴 것임이 분명하다.

그러나 달성해야 할 논란은 한 개발자의 챗봇 서비스가 막 시작되었고 논란으로 일시적으로 중단되었다는 것입니다.

◇ 논란 달성, 개발자 기대

돌이켜 보면 이루다는 ’20 대 여대생 ‘이라는 개발자의 초기 설정부터 문제가 될 가능성이 충분했다.

이것은 또한 개발자가 예상 한 것입니다. 스캐 터랩 김종윤 대표는 8 일 핑퐁 블로그에 게시 된 공식 입장에서 성 착취와 증오에 대한 논란이 초반에 제기되면서 “성희롱을 예상했다”고 말했다.

김 대표는 이전에 서비스를 받았던 고양이 챗봇 ‘드레 아미’와 구글 어시스턴트가 서비스 한 ‘남자 블러 프스’와 ‘파이팅 루나’의 예를 들었다. “지금까지 서비스 경험에 비추어 볼 때 인간은 AI에 사회적으로 수용 할 수 있습니다. 불가능한 상호 작용을하는 것은 너무 자명했으며 예측 가능했습니다.”라고 그는 강조했습니다. (이루다의) 성별. ”

이어 이루다의 페르소나를 ’20 대 여대생 ‘으로 설정 한 것에 대해 그는 “사용자층이 10 ~ 30 대, 10 ~ 20 대 중반이 좁기 때문에 사용자들이 친근감을 느낀다. . 할 수 있다고 생각했습니다.”

즉, 이루다에게 차별과 증오 표현을 반복적으로 주입 한 사용자의 탓이며, 개발자가 설정 한 이루다의 성별과 나이와는 관계가 없다는 인식이다.

그러나 인터넷 포털 Daum의 창립자 이재웅은 다른 생각을 가지고있다. 그는 9 일 페이스 북 페이지를 통해 “성폭력 문제도 여성이 20 세 여성 캐릭터로 선정되는 순간 발생할 수밖에없는 문제”라고 지적했다.

범용 서비스를 제공하면서 연령과 성별을 설정하는 것은 바람직하지 않다는 지적이있다.

◇ 스캐 터랩 주관 ’20 세 여대생 ‘표창 (狀)

개발자가 말했듯이 사용자의 문제는 배제 할 수 없지만 20 세 여대생에 대한 개발자의 인식 수준을 명확하게 보여주는 Eruda와의 대화에서 찾을 수 있습니다.

개발자가 대화 중에 보여준 짧은 혀 말하기, 독학, 중얼 거림, 비명, 울음 등의 말은 개발자가 20 대 여대생을 주관적인 성격이 아닌 수동적이고 보조적인 여성 이미지.

소위 ‘잘 듣고 반응하지 않는 여자’입니다. 오히려 차별을 거부하지 않고 자연스럽게 받아 들여지고 학습 과정을 통해 거꾸로 주장하는 수준으로 발전했다.

이에 이화 여자 대학교 한국 여성 연구원 권 김현영 연구원은 8 일 페이스 북을 통해 “(이루다를 둘러싼 논란)은 피해자를 만드는 것이 아니라 주체의 성과에 대한 문제 다. 가해자를 만들어 내야합니다.”라고 그는 지적했습니다.

◇ 개발자 만의 문제가 아닙니다 … AI 챗봇 전환 시대에 함께 고민하겠습니다

성 차별 논란을 필사적으로 방어하고 혐오 한 개발자는 “적절한 학습을 ​​통해 나쁜 말이 나쁜 말이라는 것을 알게 될 것”이라고 말했다. 개발자는 유출 등 불법 성 문제 이후에만 서비스를 일시적으로 중단하기로 결정했다. 개인 정보가 유출되었습니다. .

개발자가 ‘개선 할 것’이라면 서비스가 다시 돌아올 것이고, 논란이 컸기 때문에 더 많은 관심을 가지고 서비스가 재개 될 것입니다.

스캐 터랩은“특정 소수 집단에 대한 차별적 발언이있어 진심으로 사과한다”고 말했다. 이러한 발언은 회사의 생각을 반영하지 않으며 차별 및 증오심 표현이 발견되지 않도록 지속적으로 개선 할 것을 약속드립니다. 그러나 현재로서는 그 결과를 기대하기 어렵다.

우리는 개발자가 시작한 AI 챗봇의 발생으로이 논쟁을 받아 들여서는 안됩니다. 기술의 발전에 따라 AI 챗봇 서비스가 점점 더 늘어나고 있으며 사용 범위도 일상 생활로 확장 될 것입니다.

달성해야 할 논란은 그 과도기에 일어난 일입니다. 같은 논란이 반복되는 것을 막기 위해서는 AI 윤리와 차별 금지법을 모두 고려할 필요가있다.

이재웅 전 소카 대표는 12 일 페이스 북을 통해 “스 캐터 랩스 측의 급격한 서비스 중단 이후 개선을 위해 좋은 결정을 내렸다”고 평가했다. 확인의 기회가 되었으면합니다. “

특히 그는 “이 문제는 기업 지배 구조의 다양성 부족, 성 (사회성) 감수성 부족, 회사 구성원의 인권 감수성 부족 때문이라고 생각한다”며 한 걸음 더 나아갈 것을 제안했다. .

또한 논란을 시작으로 포괄적 인 차별 금지법을 제정하는 등 제도를 개선하겠다고 제안했다.

이 대표는 “종합적인 차별 금지법 제정을 통해 AI를 배우는 우리 인간의 규범과 윤리가 AI 챗봇, 인터뷰, 채용, 뉴스 추천이 인간에 대한 차별과 증오를 조장하고 있는지 사회적으로 확인하고있다. 또한 보완 될 것입니다. “

[ 경기신문 = 유연석 기자 ]

.Source