"AI에 어디까지 맡길까?"… 기업들 '업무 권한' 세분화 고민

[미디어펜=배소현 기자] AI가 사람의 지시를 받아 움직이는 도구에서 스스로 업무를 처리하는 에이전트로 진화하면서 기업들의 AI 관리 방식도 달라지고 있다. 사람이 작업마다 확인하고 승인하는 대신 AI가 스스로 처리할 수 있는 업무와 권한을 미리 정해두는 방식이다.

25일 업계에 따르면 국내 주요 IT서비스 기업들은 에이전틱 AI를 기업 업무에 적용하면서 데이터 접근 범위와 업무 실행 권한을 세분화하고 사용 이력을 관리하는 등 통제 체계도 함께 강화하고 있다. AI가 직접 처리하는 업무가 늘어날수록 어떤 정보에 접근하고 어느 단계까지 스스로 실행할 수 있는지를 명확히 정할 필요가 커지기 때문이다.

기존 생성형 AI에서는 답변의 정확성과 신뢰성을 높이는 것이 주요 과제였다. 그러나 에이전틱 AI는 필요한 정보를 직접 찾고 여러 시스템을 오가며 실제 업무까지 처리하는 만큼 관리해야 할 범위도 한층 넓어졌다. 데이터 조회와 수정, 업무 제안과 실행 등 AI가 수행하는 작업에 따라 필요한 권한을 세분화하는 것도 중요해지고 있다.

여러 AI 에이전트가 역할을 나눠 하나의 업무를 처리하는 '멀티 에이전트' 방식이 확산하면서 관리 과정은 더욱 복잡해지고 있다. 이 경우 각각의 에이전트가 어떤 정보에 접근했고 어떤 판단을 거쳐 결과를 실행했는지 확인할 수 있어야 문제가 발생했을 때 원인과 책임을 파악할 수 있다는 지적도 나온다.

실제 기업 현장에서는 AI가 업무를 대신 처리하는 사례가 늘고 있다. 삼성SDS는 AI 에이전트 플랫폼 '패브릭스(FabriX)'를 통해 기업 내부 데이터와 업무 시스템을 AI와 연결하고 있다. 자료 수집과 보고서 작성 등을 지원하고 제조·품질·물류·연구개발(R&D)·경영지원 등 사내 업무 시스템과도 연계할 수 있다. AI 에이전트가 사내 데이터와 시스템을 활용하는 과정에서 사용자와 AI 자산별로 접근 권한을 설정하고 관리하는 기능도 제공한다.

LG CNS도 기업용 에이전틱 AI 플랫폼 '에이전틱웍스(AgenticWorks)'에 권한 관리와 평가·모니터링, 거버넌스 기능을 적용하고 있다. AI 에이전트와 기업 시스템을 연결해 활용하면서 이를 중앙에서 제어·모니터링할 수 있도록 했다.

SK AX도 'AI Workforce'를 통해 기업 업무에 AI 에이전트를 적용하고 있다. 회의록 작성과 일정 관리, 회의실 예약 등 반복 업무를 AI가 처리하며 기업 환경에 필요한 보안·권한·감사 체계도 함께 적용했다. 법무·세무·PR 등 직무별 AI 에이전트도 제공하고 있다.

이들 사례에서는 AI 에이전트가 어떤 정보에 접근하고 어떤 업무를 수행할 수 있는지를 별도로 관리하는 기능이 공통적으로 나타난다. 기존에는 임직원의 직무와 역할에 따라 시스템 접근 권한을 부여했다면 AI가 직접 업무에 참여하면서 에이전트 역시 별도의 권한 관리 대상으로 다뤄지는 모습이다.

AI 에이전트의 활용은 제조 현장에서도 구체화되고 있다. CJ올리브네트웍스는 스마트 제조·물류 사업에 에이전틱 AI를 적용해 생산관리시스템(MES)과 실시간 데이터 관리 시스템(RTDB) 등의 데이터를 토대로 공정·설비 상태를 분석하고 이상 여부를 판단해 조치 가이드를 제공하고 있다. 

AI가 직접 구매와 결제까지 처리하는 실증 사례도 나왔다. LG CNS와 한국은행은 AI 에이전트가 디지털 콘텐츠를 탐색·비교하고 구매를 결정한 뒤 예금 토큰으로 결제까지 수행하는 기술을 실증했다. 사용자가 콘텐츠 단가와 총 결제 한도, 구매 조건 등을 미리 설정하면 AI가 위임받은 범위 안에서 거래를 진행하고, 조건을 벗어날 경우 사용자에게 추가 승인을 요청하는 방식이다.

업계 내 한 관계자는 "기업에서 AI 에이전트를 실제 업무에 활용하려면 접근할 수 있는 데이터와 수행할 수 있는 업무 범위도 적절히 구분할 필요가 있다"며 "AI 활용이 늘어날수록 에이전트별 권한과 역할을 얼마나 세밀하게 관리하느냐도 중요해질 것"이라고 말했다.