KBS 뉴스

‘뛰어난’마침내 여행은 20 일 넘게 끝났습니다.

인공 지능 (AI) 스타트 업 Scatter Lab에서 만든 Facebook 메신저 기반 AI 챗봇 ‘달성’ 이야기.

이루다는 20 세 여대생이 될 예정이다. 지난달 말 출시 직후 ‘사람처럼 말하다’라는 입소문이 퍼지고 500,000 명하지만 최근 증오심 표현과 개인 정보 유출 논란이있었습니다.

11 일부터 Scatter Lab은 서비스를 중단했습니다.

■ ‘AI 편견’재확인 .. 출발점은 ‘인간’

첫 번째 논란은 일부 남성 사용자가 등급 목표그것은 남용으로 취급되고 있습니다. 이때 일부 사용자의 도덕성과 윤리의 문제였습니다.

더 큰 문제는 동성애, 장애인 및 여성에 대한 차별을 선언 한 것으로 알려지면서 발생합니다. 최근 몇 년 동안 전 세계 AI 개발자를 괴롭힌 ‘AI 편향’이것은 다시 한 번 확인됩니다.

참고 자료 ☞ [테크톡] 소름 끼치는 AI 편견“당신은 고릴라입니다”
http://news.kbs.co.kr/news/view.do?ncd=5070123

이용자들이 공개 한 Iruda와의 대화를 보면 Iruda 레즈비언또는 임산부 좌석 “증오”와 같은 단어에 응답하십시오. “여자는 아기와 같다”는 성 차별적 인 발언도있다.

이것이 제작 회사가 결국 서비스를 중단해야하는 이유입니다.

대화 [사진 출처 : 페이스북 캡처]대화 [사진 출처 : 페이스북 캡처]

여러면에서이 이행 사례는 2016 년 Microsoft (MS)였습니다. ‘테이’케이스생각 나네요. 당시 마이크로 소프트가 당시 발표 한 인공 지능 챗봇 ‘테이’가 사용자와 소통하고있다. “히틀러가 맞습니다. 나는 유대인이 싫어”인종 차별적 발언이 그렇습니다.

결국 Microsoft는 16 시간 만에 서비스를 중단했습니다.

‘Achieve’또는 ‘Tei’의 편견은 AI 자체가 생각한 것이 아닙니다. 모두 사람이 제공 한 데이터에서 비롯됩니다.

ScatterLab에서 만든 또 다른 앱 ‘사랑의 과학’텍스트 데이터 학습했다. 사랑의 과학은 연인과의 카카오 톡 대화에 들어갈 때 애정의 정도를 보여주는 앱입니다.

Scatter Lab 사랑의 과학을 통해 수집 된 약 100 억 개의 카카오 톡 대화 데이터로 성과 개발나는 말했다.

Tay도 마찬가지입니다. Tay는 일부 사용자가 남용한 사람들의 말을 배우고 모방하여 스스로 학습했습니다. 테이의 연설이 오염되기 시작합니다내가했다.

결국 인간이 문제의 시작점입니다.

■ AI 시대는 불가피하다

방대한 양의 정보를 빠르게 배우려면 딥 러닝 (딥 러닝) 기술이 발전하고 AI 분야가 확장됨에 따라 ‘AI 편견’은 여전히 ​​해결해야 할 과제입니다.

AI가 학습하는 데이터는 궁극적으로 인간이 만든 것이며 데이터 자체가 편향된 경우이를 해결하는 방법입니다.

AI의 편견은 챗봇과 같은 대화에만 그치지 않습니다. 2016 년 초 미국의 일부 주 법원 AI’Compass ‘는 흑인을 차별합니다그것은 밝혀졌습니다.

나침반 피고의 재범 가능성을 계산하고 판사가 수감되었는지 여부를 권장하는 알고리즘하지만 흑인은 백인보다 두 배나 위험하다고 생각했습니다. AI의 편견은 인간의 삶을 완전히 바꿀 수 있습니다.

인공 지능의 편견을 없애기 위해서는 먼저 인공 지능의 디자인 단계에서 인간의 구성을 변화시켜야한다는 지적이 나온다.나온다. 현재 IT 산업은 남성 중심적이며 특히 실리콘 밸리에서 대부분 백인 남성이다.

이와 관련하여 유네스코는 기계 학습 분야에서 일하는 여성의 비율이 12 % (2017 년)에 머물러 있다는 통계를 발표했습니다. AI 시민 단체 인 미국의 ‘알고리즘 정의 연맹’은 “백인 중심의 문화가 AI에 대한 편견을 낳는다”고 주장한다.

인간의 본성에서 비롯된 데이터 편향을 받아들이면 나중에이를 수정하여 AI 편향을 제거 할 수 있습니다. 예를 들어, ‘오버 샘플링’이라는 기술은 낮은 번호의 데이터에 의도적으로 가중치를 부여하여 AI를 학습합니다. 예를 들어 AI에 주입 된 데이터에서 흑인이나 여성은 편견을 줄이기 위해 가중치가 부여됩니다.

궁극적으로 AI의 윤리를 강조하는 규제가 필요하다는 목소리가 많다. 이와 관련하여 2019 유럽 ​​연합(EU)는 AI 등의 차별화에 반대합니다. AI 윤리를위한 7 가지 지침또한 설립되었습니다.

AI의 무한한 가능성은 Synav와 함께 우리를 AI 세계로 이끌고 있습니다. AI는 운전하고, 작곡하고, 쓰고, 심지어 치유합니다.

이것이 우리가 AI 시대가 다가 오면서 20 살 때 던진 숙제를 해결해야하는 이유입니다.

참고 자료 ☞ [테크톡] 소름 끼치는 AI 편견“당신은 고릴라입니다”
http://news.kbs.co.kr/news/view.do?ncd=5070123

Source