"창작자 권리부터 소비자 피해 구제까지"...AI 상용화에 커진 책임 범위

[미디어펜=배소현 기자] 인공지능(AI) 산업의 성장에 맞춰 기업의 책임을 구체적으로 정해야 한다는 목소리가 커지고 있다. AI 학습에 활용되는 저작물의 권리와 실제 서비스에서 발생하는 소비자 피해가 주요 쟁점으로 떠오르는 모습이다. 특히 AI가 기존 창작물을 활용해 수익을 창출하고 이용자를 대신해 업무까지 수행하는 만큼 저작권자의 정당한 보상과 서비스 오류에 대한 책임 기준을 마련할 필요성이 제기된다.

23일 업계에 따르면 최근 국내 헌책방과 대형 서점 등에는 도서 대량 매입 문의가 잇따른 것으로 알려졌다. 일부 헌책방에는 6000~1만 권 규모의 구매 문의가 들어왔으며, 대형 서점을 중심으로는 해외 업체들이 한국어 도서 약 10만 권을 종류별로 한 권씩 구매하겠다는 의사를 전달했다. 정확한 매입 목적이 확인되지 않은 가운데 출판계에서는 AI 학습 데이터 확보를 위한 움직임일 가능성을 제기하고 있다.

앞서 미국에선 AI 기업 앤트로픽이 종이책을 대량 구매해 스캔한 뒤 AI 학습에 활용한 사실이 알려지며 논란이 일었다. 앤트로픽은 한강과 황석영 등 국내 작가들의 일부 영문판 소설을 무단으로 확보해 학습에 이용한 사실도 인정한 바 있다.

출판계가 문제 삼는 것은 책을 구매하는 행위 자체보다도 그 안에 담긴 저작물을 별도의 허락 없이 AI 학습에 활용하는 방식이다. 특히 도서 구매와 저작물의 이용 권한은 구분해야 하며 상업적인 AI 모델 개발에 활용할 경우 저작권자의 권리를 보호할 수 있는 기준이 필요하다는 입장을 강조하고 있다.

이에 국내 출판계는 AI 기업의 무단 학습에 반대하는 호소문을 내고 공동 대응에 나서기로 했다. 출판계는 저작권자의 허락 없이 창작물을 AI 학습에 활용하는 행위가 정당한 권리를 침해할 수 있다고 지적하며 학습 데이터 활용에 대한 명확한 기준과 저작권자 보호 대책 마련을 요구하고 있다.

저작권 논란은 출판산업의 수익구조와도 연결된다. AI 기업에는 책이 양질의 학습 데이터를 확보할 수 있는 자료지만, 출판사와 작가에게는 기획부터 집필·편집·제작까지 시간과 비용을 들여 완성한 상품이다. AI 기업이 기존 저작물을 활용해 수익을 창출하는 과정에서 원천 콘텐츠를 생산한 주체에게 어떤 보상이 돌아가야 하는지가 쟁점이다.

AI가 기존 출판물을 학습해 전문 지식을 제공하는 서비스로 발전할 경우 출판물의 판매와 유통에도 영향을 미칠 수 있다. 창작자에게 적절한 보상이 돌아가지 않는 구조가 이어진다면 출판사의 신규 콘텐츠 투자 여력도 약해질 수 있다. 장기적으로는 AI 산업이 활용할 양질의 데이터 생산 기반에도 영향을 줄 수 있다는 주장이다.

이에 따라 출판사와 AI 기업이 정식 이용 계약을 맺고 학습 데이터를 거래하는 방식도 대안으로 거론된다. 저작권자는 기존 출판물에서 새로운 수익을 얻고, AI 기업은 이용 권한이 명확한 데이터를 확보해 법적 분쟁에 따른 불확실성을 줄일 수 있다.

또 이와 별개로 AI가 서비스를 제공하는 단계에서는 AI의 잘못된 업무 처리로 인한 소비자 피해가 과제로 떠올랐다. AI의 안내 오류가 예약 취소나 추가 비용 발생 등 금전적 피해로 이어지는 사례도 확인됐다.

소비자시민모임 등 6개 소비자단체가 참여하는 '소비자 신뢰와 AI혁신포럼'에 따르면 올해 상반기 접수된 AI 관련 소비자 상담은 총 2556건이다. 이 가운데 분석 대상인 2025건 중 'AI 서비스 불이행 또는 이용 불만'이 589건(29.1%)으로 가장 많았다. 계약 해지·환불 거부는 555건(27.4%), AI 챗봇 자동 응대 불만은 553건(27.3%)으로 집계됐다.

실제 AI 챗봇이 단순 문의를 취소 요청으로 잘못 이해해 예약이 취소됐지만 사업자가 책임을 인정하지 않은 사례가 접수됐다. AI가 안내한 이사 견적과 실제 비용이 달라 추가 요금을 요구받거나, AI 투자 서비스의 잘못된 금융상품 정보로 약 800만 원의 손실을 봤다는 상담도 있었다.

AI 에이전트가 상품 검색부터 예약·구매까지 이용자를 대신해 처리하는 만큼, 서비스 오류가 실제 거래와 금전적 피해로 이어질 가능성도 고려해야 한다. 이에 따라 AI의 업무 처리 내역을 이용자가 확인하고, 문제가 발생했을 때 이를 바로잡을 수 있는 절차를 갖출 필요가 있다는 지적이다.

업계에서는 학습 데이터의 이용 권한과 서비스 오류에 대한 책임 기준을 명확히 하는 것이 AI 기업의 안정적인 사업 확대에도 도움이 될 수 있다는 분석이 나온다. 저작권 분쟁과 소비자 피해에 따른 부담을 줄이는 일이 유료 구독과 기업용 솔루션, 에이전트 기반 거래 등 AI 사업의 수익화 과정에서도 중요하게 작용할 수 있다는 설명이다.

업계 내 한 관계자는 "AI 기업 입장에서는 학습 데이터에 대한 정당한 대가와 서비스 오류에 따른 피해구제 비용까지 사업 운영에 반영할 필요가 있다"며 "콘텐츠를 만드는 쪽이 계속 투자할 수 있어야 양질의 데이터도 공급되고, 이용자가 문제가 생겼을 때 제대로 구제받을 수 있어야 AI에 실제 업무를 맡기는 시장도 커질 수 있다"고 말했다.