“애인의 별명을 넣었는데 …”개인 정보 이용 논란

정부는 최근 개인 정보 활용 과정에서 논란이되고있는 인공 지능 (AI) 챗봇 ‘풀다’에 대한 조사를 시작했다. 조사의 초점은 Iruda 개발자가 만든 세 번째 앱 ‘Science of Love’에서 제공하는 사용자의 메시지 내용을 챗봇이 학습 할 수있는 충분한 동의를 얻었는지 여부입니다.

사랑의 과학 대화 → 성취를위한 학습…“개인 정보 동의 여부에 초점”

20 세 여성 캐릭터의 AI 챗봇 (채팅 로봇) ‘이루다’는 지난달 23 일 스타트 업 스캐 터랩이 시작한 AI 챗봇이다. [스캐터랩 홈페이지 캡처]

12 일 개인 정보 보호위원회 (이하 개인 정보 보호위원회) 관계자는 개인 정보위원회와 한국 인터넷 진흥원이에 루다를 개발 한 스타트 업 스캐 터랩에 대한 조사를 시작했다. 개인 정보위원회 배상호 수사 2 실장은“사건 접수 후 기본 사실 확인 등 예비 조사가 진행 중”이라고 말했다. 초점”그는 말했다.

‘어치 브드’는 페이스 북 메신저를 통해 소통 할 수있는 AI 챗봇입니다. 지난해 12 월 23 일 20 세 여성을 캐릭터로 설정해 공개해 2 주 만에 75 만 명의 사용자를 기록하며 인기를 끌었다. 딥 러닝 알고리즘을 기반으로 사람들이 메신저와 공유 한 대화를 학습하여 만들어졌습니다. 이런 이유로 채팅하면서 사람처럼 느껴지는 것이 특징입니다.

에 루다가 개발되면서 배운 대화는 2016 년 스캐 터랩에서 별도의 앱인 ‘사랑의 과학’사용자들이 제공 한 카카오 톡 콘텐츠입니다. 사랑의 과학에서는 사용자가 연인과의 카카오 톡 대화를 삽입하면 분석합니다. 응답 시간과 대화 패턴을 통해 애정 수준을 보여줍니다. ScatterLab이 공개 한 Iruda의 대화 학습량은 약 100 억입니다.

사용자 집단 작업 준비 중 …“채팅 봇을 배우겠다고 말하지 않습니다.”

사랑의 과학 홈페이지에 게시 된 '개인 정보 취급 방침'의 개인 정보 수집 및 이용 목적  사용자

사랑의 과학 홈페이지에 게시 된 ‘개인 정보 취급 방침’의 개인 정보 수집 및 이용 목적 사용자들은 “신규 서비스 개발 및 맞춤형 서비스 제공에 대한 공지가 있어야만 카카오 톡 콘텐츠가 학습에 사용될 것임을 알 수 없다”는 입장에있다. [연애의과학 홈페이지 캡처]

대화 과정에서 소수 또는 약자에 대한 증오 발언 사례가 발견되면서 사건이 밝혀졌습니다. 이후 연애 과학 이용자를 중심으로 “이루다에 옛 연인의 이름을 입력하고 다른 친구의 이름을 언급했다”, “노인의 닉네임을 넣었다”등 개인 정보 유출 의혹이 확산되고있다. 진짜 애인의 말투로 말했다. ” .

문제는 회사가 사랑의 과학을위한 대화를 형성하고 그것을 발전 시켜서 관련 내용에 대해 충분한 정보를 제공하고 동의했는지 여부입니다. 스캐 터랩은 11 일 발표 한 성명에서 “사전 동의를받은 개인 정보 취급 방침 범위 내에서 사용했다”고 밝혔다. 사랑의 과학 ‘개인 정보 취급 방침’에 명시된 개인 정보의 수집 및 이용 목적은 ‘신규 서비스 개발 및 마케팅 / 광고 이용’으로 고지합니다.

그러나 사용자들은 “AI 챗봇 학습에 문장이나 표현이 사용될 것이라는 사실은 명시 적으로 발표되지 않았다”는 입장에있다. 또한 두 사람이 대화를 진행했으며 두 사람의 동의만으로 두 카카오 톡 대화를 모으는 것은 부적절하다는 지적이있다. 현재 연애 과학 사용자들은 총 140 명이 참여하는 열린 대화방을 만들어 집단 소송을 준비하고있다.

개인 정보 법 위반 관심 …“이름만으로는 개인 식별이 어렵다”

동성애 혐오 논란을 일으킨 Chatbot Iruda와 사용자의 대화. [페이스북 캡쳐]

동성애 혐오 논란을 일으킨 Chatbot Iruda와 사용자의 대화. [페이스북 캡쳐]

개인 정보 보호법 제 3 조 (개인 정보 보호 원칙)에 따라 앱 개발자 등 정보 주체는 처리 목적에 필요한 범위 내에서 최소한의 개인 정보를 적법하게 처리하여야하며, 목적 외의 용도로 사용할 수 없습니다. 제 22 조 (동의를 얻는 방법)에 따라 동의는 정보 주체가 명확하게인지 할 수 있도록 구분하여 고지하여야하며, 글꼴 크기, 색상, 밑줄 등을 이용하여 명확하게 알아볼 수 있어야합니다.

그러나이 문제를 합법적으로 만드는 것이 어렵다는 견해도 있습니다. 오픈 넷 김가연 변호사는“법적 의미의 개인 정보는 여러 정보를 결합하여 특정 개인을 식별 할 수 있어야한다”고 말했다. 나도 동의를 받았습니다.”라고 그는 말했습니다. 그러나 그는 “스캐 터랩이 앱 개발 과정에서 제대로 익명화하지 않고 특정인을 식별 할 수 있다면 이야기가 다를 수있다”고 설명했다. “이것은 향후 조사를 통해 밝혀 질 부분입니다.”

허정원 기자 [email protected]


Source