소비자원과 부당광고 차단 협력… 전문가 사칭·조작 후기 대응
자체 광고 심사·모니터링 강화… 플랫폼 신뢰도 확보에 주력
[미디어펜=배소현 기자] 생성형 인공지능(AI)을 악용한 허위·과장광고가 정교해지면서 온라인 플랫폼의 광고 관리 역량이 중요해지는 모습이다. 실제 전문가나 유명인을 사칭하거나 제품의 효능을 조작한 광고가 소비자의 구매 판단을 흐리고 금전적 피해로 이어질 수 있다는 우려도 커지고 있다. 이에 업계에서는 소비자 피해를 예방하고 광고의 신뢰도를 확보하기 위한 플랫폼 차원의 대응이 더욱 중요해질 것이라는 목소리가 나온다.

   
▲ 사진=AI 이미지


20일 업계에 따르면 한국소비자원은 최근 네이버·카카오·틱톡 등과 AI 악용 부당광고를 신속하게 차단하기 위한 협력체계를 구축했다고 밝혔다. 지난해 9월 구글과 사기성 광고 차단을 위한 협력을 추진한 데 이어 국내외 주요 플랫폼으로 협력 대상을 확대했다.

최근 문제가 되는 광고는 AI로 생성한 가상인물을 실제 의사나 전문가처럼 내세우거나 유명인의 얼굴과 목소리를 합성해 특정 상품을 추천하는 방식이다. 제품 사용 전후의 신체 변화를 조작하거나 실제 구매자가 작성한 것처럼 체험 후기를 꾸미는 사례도 주요 감시 대상에 포함됐다.

특히 라이브커머스와 숏폼 등 영상 콘텐츠를 활용한 광고는 짧은 시간에 많은 이용자에게 노출될 수 있다. AI로 제작한 이미지와 영상의 완성도가 높아지면서 소비자가 영상 속 인물이나 발언을 실제로 받아들일 경우 제품의 효능과 안전성에 대해 잘못 판단할 우려도 커지고 있다.

이번 협력체계는 플랫폼이 자체적으로 운영하는 광고 심사 절차에 한국소비자원의 외부 모니터링을 연계하는 방식이다. 소비자원이 부당광고 의심 사례를 발견해 해당 플랫폼에 전달하면 플랫폼은 광고주를 통해 사실관계를 확인하고, 위반 사항에 따라 광고를 수정하거나 차단한다. 이후 조치 결과를 소비자원에 회신해 추가 대응에 활용하도록 했다.

동일하거나 유사한 부당광고가 반복적으로 게재되는 경우에는 각 플랫폼의 운영정책에 따른 제한 조치도 이뤄진다. 플랫폼 내부 심사에서 발견하지 못한 사례를 외부 모니터링을 통해 확인하고 후속 조치로 연결할 수 있다는 점에서 의미가 있다는 평가가 따른다.

◆ 자체 심사부터 사후 관리까지… 광고 품질 관리 강화

네이버는 검색광고와 디스플레이광고 등 다양한 광고 상품에 자체 심사 기준을 적용하고 있다. 허위·과장 표현이나 객관적인 근거가 없는 효능 주장, 중요한 거래 조건을 누락해 소비자를 오인하게 하는 광고 등을 제한한다. 특히 다이어트 등 건강 관련 광고에서는 단기간에 과도한 체중 감량을 보장하거나 의학적으로 확인되지 않은 효능을 내세우는 표현을 허용하지 않는다.

광고 문구뿐 아니라 실제 판매 조건과 상품 정보가 일치하는지도 심사 기준에 포함된다. 할인·환급 조건을 제대로 알리지 않거나 소비자가 광고를 통해 접한 내용과 실제 구매 조건이 다른 경우에도 광고 게재가 제한될 수 있다. 실제 이용 경험을 바탕으로 하지 않은 후기나 광고주와의 경제적 이해관계를 제대로 표시하지 않은 추천 콘텐츠도 제한 대상이다.

카카오 역시 자체 광고 심사 정책과 모니터링 체계를 운영하고 있다. 광고주가 등록한 소재와 연결되는 웹사이트 등을 심사하며, AI 기반 이미지 필터링과 유해 콘텐츠 필터링 기술도 활용한다. 특히 생성형 AI로 만든 가상의 인물이 의사 등 전문 자격을 갖춘 것처럼 제품을 추천해 소비자를 오인하게 하는 광고는 집행이 제한될 수 있다.

광고가 집행된 이후에도 운영정책 위반 여부를 확인한다. 카카오는 광고주 등록 단계에서 사업자등록번호 유효성 확인이나 본인인증 절차를 적용하며, 위반 사항이 발견되면 광고 소재 수정 요청부터 집행 중단, 서비스 이용 제한까지 조치할 수 있도록 했다.

네이버와 카카오는 이처럼 광고 심사와 사후 모니터링, 광고주 관리 등을 통해 부당광고의 유통을 막는 데 주력하고 있다. 여기에 소비자원의 외부 모니터링이 더해지면서 부당광고를 발견하고 조치하는 과정에서 협력 범위가 확대된 것이다.

광고 품질 관리는 플랫폼의 사업 경쟁력과도 관련이 있다. 네이버와 카카오는 검색·콘텐츠·커머스 등 다양한 서비스에서 광고 사업을 운영하고 있다. 허위·과장광고가 확산하면 이용자의 광고 신뢰도가 낮아질 수 있고 관련 규정을 준수하는 정상적인 광고주의 활동에도 부정적인 영향을 줄 수 있다.

특히 AI를 활용한 광고 제작이 보편화될수록 광고 소재의 진위뿐 아니라 광고주가 제시한 근거자료와 실제 판매 정보까지 종합적으로 확인하는 관리 역량이 중요해질 전망이다. AI 기술을 활용했다는 사실 자체보다 소비자를 오인하게 하는 정보가 포함됐는지를 정확하게 판단하는 것이 핵심이라는 분석이 제기된다.

업계 내 한 관계자는 "생성형 AI가 광고 제작에 활용되면서 허위광고의 제작 비용은 낮아지고 동일한 내용을 여러 형태로 변형해 유통하기도 쉬워졌다"며 "이 같은 환경에서는 광고 심사의 실효성도 얼마나 많은 광고를 차단했느냐보다 문제가 된 광고가 다른 형태로 재유통되는 것을 얼마나 억제했느냐를 기준으로 평가할 필요도 있을 것"이라고 말했다.
[미디어펜=배소현 기자] ▶다른기사보기