• UPDATE : 2021.01.23 16:13 토
> 사회
혐오 논란? AI챗봇 '이루다'는 왜 퇴출됐나?
'개인정보 유출' 소송전 비화…성희롱성 발언 유도·혐오·감정노동 등 논쟁 가열
승인 | 김규태 차장 | suslater53@gmail.com
폰트키우기 폰트줄이기 프린트하기
 승인 2021-01-12 19:11:22
트위터 페이스북 밴드 카카오스토리
[미디어펜=김규태 기자] 인공지능(AI) 챗봇 '이루다' 서비스가 혐오 발언 등 논란 끝에 서비스 잠정 중단을 결정했지만, 퇴출 선후 과정을 놓고 논쟁이 가열되고 있다.

이루다 개발사인 스캐터랩은 11일 공식입장문을 통해 "부족한 점을 보완하겠다"고 밝혔지만, 개인정보보호위원회는 한국인터넷진흥원과 함께 스캐터랩이 개발과정에서 개인정보보호법을 어겼는지 조사에 들어가겠다고 천명했다. 개인정보위는 스캐터랩에 자료 제출을 요구하고 현장 조사 검토에 들어갔다.

'이루다'는 스캐터랩이 지난 2016년 출시한 애플리케이션(앱)인 '연애의 과학'에서 이용자들의 대화 데이터 100억 건을 학습시켜 만든 인공지능 챗봇이다. 주 이용자는 10~20대다. 이용자들의 실제 대화 패턴과 답변 내용을 익힌 자동프로그램인 셈이다.

이용자들이 앱에 5000원을 결제한 후 자신의 연인과 나눈 실제 카카오톡 대화 내용을 올리면, 앱은 이를 바탕으로 연인과의 친밀도를 분석해 제공한다.

   
▲ '연애의 과학' 앱 이용자들은 자신들이 넘긴 정보가 '신규 서비스 개발'에 활용된다는 것을 고지받긴 했지만 구체적으로 이루다 AI챗봇에까지 활용될 줄 몰랐다는 입장이다./사진=스케터랩(이루다 홈페이지) 제공
문제는 '연애의 과학'이 유료 이용자들에게 AI 개발 혹은 다른 목적으로 개인정보를 이용하는 것에 대해 동의받지 않았다는 것이다.

피해자 300여 명은 이날 오픈채팅방을 개설하고, 숙박업소 특정 이름을 비롯해 일부 이용자의 실명·주소·계좌 등 개인정보를 유출한 '이루다'의 대화 캡처를 증거로 모으면서 법적 대응을 예고했다.

이뿐 아니다. 12일 스캐터랩 전(前) 직원은 다수의 매체를 통해 "연인들의 성관계 관련 카톡 대화를 공유해 돌려보며 웃는 사람들도 있었다"면서, 스캐터랩 직원 대화방에서 이용자들의 대화 공유 사건이 있었다는 의혹을 폭로하고 나섰다.

이에 대해 스캐터랩은 "진상조사위원회를 꾸려 진상을 신속히 조사하고 만에 하나 의혹이 사실로 드러나는 경우 관련자에 엄중히 책임을 묻겠다"고 밝혔다.

AI 개발자로 A랩 선임연구원인 P모 씨는 이날 본보 취재에 "이루다가 특정 개인정보를 답하는 것을 유추해 보면 스캐터랩이 필터링, 비식별화(익명화)를 완벽히 하지 못한 것으로 보인다"며 "카카오톡 대화 데이터 100억 건 패턴을 분석하고 학습하는 과정에서 오류가 일어났을 것"이라고 지적했다.

또한 그는 "알고리즘과 필터링으로 검색 삭제하는 것은 엄연히 물리적인 한계가 있다"며 "이용자가 변칙적인 방법을 써서 대화를 쓸 경우 제대로 걸러내지 못할 것"이라고 밝혔다.

다만 그는 '이루다'의 또다른 이슈인 성희롱·혐오·차별 논란에 대해 "AI 자체는 잘못이 없다"며 "100억 건의 대화 패턴을 분석해 학습시켰기 때문에 앱 이용자들의 대화 패턴에서 관련 대답을 즉각 꺼냈을 뿐"이라고 선을 긋고 나섰다.

이어 "SNS에 널리 퍼진 대화 캡처 내용을 보면 대부분 이루다 이용자가 AI에게 자신의 편향적 질문에 동조하도록 대화 나누는 것"이라며 "일각에서 이루다가 '정말 싫다, 소름끼친다'고 답한 것에 대해 지적하지만 그것은 AI가 자동으로 문답 패턴에 대한 답을 내놓은 것이다. 굳이 잘못이 있다고 한다면 100억 건의 대화 데이터 중 그러한 문답을 나누었을 것이라는 추정 뿐"이라고 덧붙였다.

남궁훈 카카오게임즈 대표 또한 이날 자신의 페이스북을 통해 "엉뚱한 규제로 혁신을 가둬선 안 된다"며 "오히려 문제라면 이 AI(이루다)가 현 세대를 통해 학습되었기 때문에 현 세대가 갖고 있는 혐오와 차별이 문제다. 반성해야 한다면 AI가 반성하는 것이 아니라 현 사회가 반성을 해야한다"고 지적했다.

스캐터랩은 이날 개인정보 유출에 대해 "알고리즘으로 실명 필터링을 거쳤는데, 문맥에 따라 이름이 남아있는 부분이 있었다"고 인정하면서 사과했다.

스캐터랩은 향후 개선책과 관련해 "실명·주소 필터링 알고리즘 강화, 대화 데이터 랜덤 변형을 통한 비식별화 강화, 민감 정보 노출 방지 알고리즘 전면적 개선 등을 업데이트할 예정"이라고 설명했다.

법조계는 이번 사안에 대해 스캐터랩의 법 위반 가능성이 크지만, 이는 개인정보 유출에 국한된다고 봤다.

법무법인아현 파트너변호사인 김윤희 변호사는 이날 본보 취재에 "앱을 깔고 이용하는 과정에서 동의 절차가 없었다면 법 위반"이라며 "스캐터랩은 이용자에게 정보 수집 및 이용 등의 목적을 분명히 정확히 알려야 할 의무가 있다"고 밝혔다.

김 변호사는 "법 위반이 확인되면 일단 과징금이 부과될 것이고, 중대한 법 위반이면 형사 고발까지 갈 것"이라며 "스캐터랩이 앱을 통해 수집한 정보로 이루다를 운영하면서 특정인을 식별할 수 있도록 했다면 이는 제 3자에게 유출한 행위로 위법 소지가 있다"고 덧붙였다.

다만 김 변호사는 일명 '혐오' 논란에 대해 "AI는 법적으로 피해자가 아니다"라며 "성희롱하고 혐오 차별 답변을 이끌어낸 챗봇 이용자들의 시각이 문제다. AI는 인간의 편견을 그대로 배웠을 뿐이다"고 설명했다.

앞서 스캐터랩은 이번 논란에 대해 "일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다"며 "서비스 개선 기간을 갖고 다시 찾아 뵙겠다"고 언급했다.

이번 논란은 AI라는 신기술이 사회에 통용되기 시작하면서 일어난 진통의 한 과정으로 보인다. 관계자와 정부기관이 지혜를 모아, 긍정적인 방향으로 개선해야 할 시점이다.

[이런 기사 어때요?]

이루다, AI 성희롱 파장 '부글'…개발사 "과한 커뮤니티 게시글 신고·차단"
[속보] AI 챗봇 '이루다' 서비스 잠정 중단…"개선 기간 갖겠다"

서울특별시 종로구 새문안로3길 30 세종로대우빌딩 복합동 508호  |  회사직통번호 : 02)6241-7700  |  팩스 : 02)6241-7708
정기간행물ㆍ등록번호 : 서울 아 00574 | 등록일.발행일 2008.5.8   |  발행인 : 이의춘 | 편집인·편집국장 : 민병오 | 청소년보호책임자:김사성
Copyright © 2013 미디어펜. All rights reserved.