'AI 안전망' 넓히는 정부…기업보안부터 AI범죄까지 대응 확대

[미디어펜=배소현 기자] 생성형 AI 확산으로 사이버 공격과 딥페이크 등 새로운 위험이 커지면서 정부도 AI 안전 체계 구축에 속도를 내고 있다. 중소기업을 대상으로 AI 기반 사이버 공격 대응 지원을 확대하는 한편 AI 범죄 대응을 위한 범부처 협의체를 출범시키며 기업 보안부터 국민 안전까지 아우르는 대응 체계를 넓히는 모습이다.

28일 업계에 따르면 과학기술정보통신부는 한국인터넷진흥원(KISA)과 함께 중소기업의 정보보호 수준 향상을 위한 지원을 본격화한다. 최근 발표한 'AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획'의 후속 조치다.

최근 고성능 AI 모델이 사이버 공격에 악용될 수 있다는 우려가 커지면서 상대적으로 보안 여력이 부족한 중소기업의 취약성도 부각되고 있다. AI가 취약점 탐색과 공격 자동화 등에 활용될 경우 보안 인력과 예산이 부족한 기업이 손쉬운 공격 대상으로 노출될 수 있다는 지적에서다.

정부는 이에 따라 중소기업이 스스로 보안 수준을 진단할 수 있는 웹 기반 가이드를 제공하고, 공격표면 점검과 소프트웨어(SW) 공급망 보안체계 진단 등을 무상 지원한다. 공격표면 점검은 외부 공격 통로가 될 수 있는 취약점을 분석해 대응 방향을 제시하는 방식이다.

SW 공급망 보안체계 진단은 SW를 구성하는 오픈소스 취약점을 진단하고 시큐어코딩, 동적진단, 개발환경 점검 등을 통해 보안위협 제거를 지원한다. 침해사고 경험이 있거나 최근 보안위협이 탐지된 지역 소재 중소기업은 보안 전문기업의 지원도 받을 수 있다.

다음 달부터는 중소기업 제품을 대상으로 프론티어 AI 모델을 활용한 취약점 점검 인프라도 제공된다. 국가 전략기술을 보유하거나 국민 생활과 밀접한 분야의 기업에는 실제 해킹 기법을 활용한 실전형 모의침투 점검도 무상으로 지원된다.

정부의 AI 안전망 구축은 기업 보안에만 그치지 않고, 딥페이크 성범죄와 AI 금융사기 등 AI 기술을 악용한 범죄가 확산되면서 관계 부처가 함께 대응하는 범정부 협업 체계도 가동됐다.

방송미디어통신위원회는 이날 과기정통부, 외교부, 법무부, 여성가족부, 금융위원회, 공정거래위원회, 개인정보보호위원회, 식품의약품안전처, 경찰청 등과 함께 'AI 범죄 대응 범부처 협의체' 첫 회의를 열었다.

회의에서는 딥페이크 성착취물, AI 보이스피싱 등 금융사기, 허위·부당광고 등 AI 범죄 대응을 위한 종합계획과 통합 대응체계 구축 방안이 논의됐다. 정부는 AI 범죄가 온라인 플랫폼과 금융, 통신, 개인정보, 수사 등 여러 영역에 걸쳐 발생하는 만큼 단일 부처 대응만으로는 한계가 있다고 보고 있다.

협의체는 AI 범죄 예방과 탐지·차단, 수사·단속, 피해 회복, 재발 방지 등 대응 전 과정을 아우르는 협력 방안을 마련할 계획이다. 관계 부처는 각자의 전문성과 정책 수단을 연계해 범죄 징후를 공유하고 공동 분석하는 상시 대응체계 구축도 추진한다.

업계에서는 이 같은 흐름이 AI 정책의 무게중심이 산업 육성에서 안전 확보까지 넓어지고 있음을 보여준다고 풀이한다. 그간 AI 정책이 인프라 확충, 컴퓨팅 자원 확보에 집중됐다면 최근에는 보안과 범죄 대응, 거버넌스 구축까지 정책 범위가 확대되는 모습이다.

AI 활용이 산업 전반으로 확산될수록 기술을 안전하게 운영하고 관리할 수 있는 체계가 중요해질 것이란 분석도 나온다. AI가 기업 생산성과 서비스 혁신을 이끄는 핵심 기술로 자리 잡는 동시에 새로운 사이버 위협과 사회적 리스크를 동반하고 있다는 점에서다.

업계 내 한 관계자는 "AI는 산업 경쟁력을 높이는 핵심 기술인 동시에 새로운 보안 위협과 사회적 위험도 함께 가져오고 있다"며 "향후 AI를 안전하게 운영하고 관리할 수 있는 거버넌스 역량도 국가 경쟁력의 중요한 축이 될 것"이라고 말했다.