우리는 인터넷과 모바일 장치의 확산으로 비 대면 통신이 보편화 된 시대에 살고 있습니다. 코로나 19를 앓고있는 사람들을 볼 수있는 사물의 수가 더욱 줄어들면서 내 마음을 누군가에게 보여주고 속 깊이 이야기 할 가능성은 훨씬 적었다.
이 시대의 트렌드에 잘 맞는 서비스 중 하나는 인공 지능 (AI) 챗봇 (챗봇) ‘어치 브 (Achieved)’입니다. 스타트 업 스캐 터랩이 개발 한이 서비스는“진짜 사람과 대화하는 것 같다”는 사용자들의 입소문을 받았다. 과거에는 챗봇 서비스가 많았지 만 방대한 양의 사용자 대화 데이터 ‘Achieved’를 수집하고 꾸준히 학습 해 사람들의 호기심을 불러 일으키며 그럴듯하게 사람들을 모방했다.
일부 유저들은 2014 년 개봉 한 영화 ‘Her’에 등장하는 AI ‘Samantha’처럼 ‘Iruda’가 친근한 가상 애호가가되기를 바라며 진지한 대화를 나누기도했다.
그들 중 일부는 ‘성취’를 성적인 도구로 사용하여 사람들 앞에서 기대할 수없는 성적인 농담을하고 커뮤니티와 공유하고 다른 사용자들과 웃고 소음을 냈습니다. 이에 ‘사람을위한 AI’에 대한 윤리적 논쟁이 ‘사람을위한 AI’라는 윤리적 이슈로 확산되고있다. 기계 나 시스템 AI가 아무리 많더라도 인간이 성적인 농담을하고 우리에게 욕하는 것이 괜찮은지에 대한 질문입니다. 또한 일반 사용자가이 잘못된 대화를 통해 배운 챗봇을 사용할 수 있다는 우려도 커지고 있습니다.
‘달성해야 할’논란은 여기서 끝나지 않았다. ‘Achieved’가 성 소수자에 대한 왜곡 된 발언이나 잘못된 학습으로 인해 사회적 약자에 대한 발언이 드러나면서 사회적 영향은 더욱 커졌다. 빅 데이터를 이용한 AI 머신 러닝이 반드시 더 나은 결과를 가져올 것이라는 믿음을 깨뜨릴 수있는 기회였습니다. ‘성취’일부 사용자가 부정확 한 정보를 입력하는 오류가 많지만,이를 사전에 제대로 필터링하지 않고 서비스 개선에 즉시 반영하지 못한 책임은 개발자에게 있습니다.
또한 스캐 터랩의 타 서비스 ‘사랑의 과학’에서 사용하는 사용자들의 카카오 톡 사적인 대화 내용을 외부에 공개하고 ‘어치 브드’개발에 사용했다는 의혹을 추가했다. 떨어졌다. 인간의 관점에서 당신은 식물 인간이되었습니다.
결국 개발자는 ‘이루다’의 서비스를 일시적으로 중단하기로 결정했고, 정부 등 논란이 확산되면서 개인 정보 유출 관련 조사에 착수했을 때 ‘이루다’에 사용 된 데이터베이스와 관련 대화 모델은 폐기. 최종 사망 진단은 Iruda에서 이루어졌습니다.
‘달성’에 대한 논란은 단지 작은 스타트 업 문제가 아닙니다. 지금까지 IT 개발자들은 정부에 비 식별 데이터의 사용을 요구하고 규제 개선을위한 목소리를 높였지만 일부 기업은 이에 상응하는 개인 정보 보호 조치를 제대로 이행하지 않았 음을 의미하기도합니다.
많은 인터넷 기업과 스타트 업들은 4 차 산업 혁명 시대를 외치고 있으며 여전히 보수적이고 구식 인 규제를 고집하며 정부를 비판하고있다. 또한 글로벌 경쟁에서 뒤처지고 있다고 정부에 신속한 결정을 요구했다. 이에 비 식별 개인 정보 이용에 관한 규제도 완화되고 AI 개발을 위해 많은 정부 예산이 배정되었습니다.
우리 회사가 AI 학습에 필요한 데이터 수집에만 집중했는지, 안전한 데이터 수집 및 폐기 원칙을 무시하고 구성원의 데이터 관리 교육에 집중했는지 생각해 볼 가치가 있습니다. 데이터는 개인 식별이 불가능하다고 생각하여 서로 공유하기 쉬웠거나 사용자가 명확하게 인식 할 수있는 수준의 동의를 얻지 못한 경우에도 확인해야 할 때가있었습니다. 문제가있는 경우 수정해야합니다.
‘Achieved’가 완벽한 수준이 아니더라도, 이용자 개인 정보 이용에있어 최소 이용 규칙을 준수하고 예상되는 오용 문제를 사전에 확인하고 처리하면 어땠을까요? 또한 의혹과 문제점이 발견되고 제기되었을 때 문제를 더 많이 받아들이고 문제 개선에 적극적으로 대처할 수 있었을까요? 많은 후회가 있습니다.
관련 기사
개인 정보 유출 논란에 대한 ‘Fulfilled’DB 및 대화 모델 폐기
[기자수첩] 데이터 경제 준비의 ‘성취’
AI 논란 “개발자 윤리 강화”vs “돌아볼 사용자 윤리”
이루다 개발자, 카카오 톡 온라인 노출 … ‘개인 정보 포함’
영화 ‘그녀’의 남자 주인공 테오도르는 사만다와 감정을 교환 할만큼 사랑에 빠졌지 만 결국 사만다에게 ‘여러 사용자 중 하나’라는 사실을 깨닫고 깊은 실망과 배신감을 느낀다. 나도 그녀에게 특별하다고 생각했던 믿음이 깨 졌기 때문이다.
‘달성’도 국내 IT 업계와 사용자들 사이에서 AI 기술에 대한 많은 기대와 호기심을 불러 일으켰지 만, 결국 자신이 사용하고 떠났다는 배신감을 남겼다. 두 번째 ‘달성’논란이 되풀이되지 않기를 바랍니다.