정부 에이전틱 AI 이니셔티브 발표, 기업은 무엇을 준비해야 할까?

과학기술정보통신부가 2026년 7월 23일 제11회 과학기술관계장관회의에서 에이전틱 AI 이니셔티브를 발표했어요.

에이전틱 AI의 안전, 신뢰를 확보하면서 국내 실행 생태계를 만들고, 산업과 국민 생활에서 실제 도입을 늘리겠다는 국가 전략이에요.

기업이 먼저 알아둘 결론은 간단해요. 이번 발표 자체가 기업에 새로운 법적 의무를 즉시 부과하는 것은 아니에요. 다만 정부가 연내 에이전틱 AI 안전, 신뢰 가이드라인을 마련하겠다고 밝힌 만큼, AI 에이전트를 개발하거나 업무에 도입하는 회사라면 권한 관리, 개인정보 보호, 행동 로그, 사람의 감독 절차를 지금부터 정리할 필요가 있어요.

에이전틱 AI의 의미

생성형 AI가 질문에 답하거나 문서, 이미지를 만들어 주는 데 강하다면, 에이전틱 AI는 주어진 목표를 해석하고 여러 단계를 계획한 뒤 외부 도구와 시스템을 이용해 실제 행동까지 수행해요. 예를 들어 단순히 출장 일정을 추천하는 데서 끝나지 않고, 사내 규정을 확인하고 항공편을 검색해 결재를 요청하거나 예약 단계까지 이어지는 방식이에요.

답변하는 AI에서 실행하는 AI로 바뀐다는 점이 가장 큰 차이인데요. 이메일 발송, 고객정보 조회, 결제 요청, 코드 변경, 사내 문서 열람처럼 AI가 할 수 있는 행동이 늘수록 잘못된 실행의 영향도 커져요.

정부가 제시한 3대 전략

이번 에이전틱 AI 이니셔티브는 안전, 신뢰 선도, 개방형 실행 기반 조성, 수요 중심 도입 촉진이라는 세 축으로 구성돼요. 정부는 모델의 성능만 비교하는 경쟁에서 벗어나 데이터, 시스템, 업무 흐름을 얼마나 잘 연결하고 실행하느냐가 경쟁력을 좌우할 것으로 보고 있어요.

첫 번째는 안전, 신뢰 관리 체계예요. 정부는 개인정보와 민감데이터 보호, AI 권한 관리, 목표 이탈 방지 등 에이전틱 AI 특유의 위험을 반영한 안전, 신뢰 가이드라인을 2026년 안에 마련할 계획이라고 밝혔어요. 성능과 안전성을 평가할 기반을 만들고, AI 에이전트의 신원 확인과 행위 책임 소재도 검토할 예정이에요.

두 번째는 개방형 실행 기반이에요. AI 에이전트 도구와 유통 체계, AI OS 핵심 기술, 국산 AI 모델의 에이전틱 성능 강화를 지원하고, 신뢰할 수 있는 AI 에이전트 마켓플레이스도 지원한다는 내용이에요.

세 번째는 실제 도입 확대예요. 모두의 AI 프로젝트와 AI 에이전트 플래그십 프로젝트를 추진하고, 기업에는 도입 진단, 위험관리, 운영 체계 수립을 위한 전문 컨설팅과 스타트업 사업화 지원을 제공할 계획이에요. ICT 규제샌드박스를 통한 실증 기회도 확대할 방침이에요.

이번 발표가 기업에 중요한 이유

이번 정책에서 눈여겨볼 대목은 정부가 에이전틱 AI를 단순한 기술 지원 대상으로만 보지 않았다는 점이에요.

권한 오남용, 보안 위협, 민감정보 유출, 목표 이탈을 정책 문서에서 구체적인 위험으로 제시했어요. 앞으로는 AI 에이전트가 얼마나 똑똑한지만큼, 어떤 권한으로 무엇을 실행했고 누가 이를 통제했는지가 중요해질 가능성이 커요.

특히 B2B SaaS나 사내 자동화 도구를 만드는 회사는 고객사의 이메일, CRM, 그룹웨어, 결제 시스템, 개발 저장소 등에 AI 에이전트를 연결하는데요. 이때 작은 설정 오류 하나가 단순한 답변 오류가 아니라 잘못된 발송, 무단 조회, 데이터 변경 같은 실제 사고로 이어질 수 있어요.

에이전틱 AI의 고유 위험

가장 먼저 볼 것은 실행 권한의 범위예요. AI 에이전트에 관리자 권한이나 광범위한 API 권한을 부여하면 목표를 잘못 이해했을 때 피해 범위도 커져요. 업무에 꼭 필요한 최소 권한만 부여하고, 조회와 변경, 외부 전송 권한을 나눠 관리하는 방식이 필요해요.

두 번째는 개인정보와 영업비밀이에요. 에이전트는 업무를 수행하기 위해 여러 시스템에서 정보를 읽고 결합할 수 있어요. 각각의 시스템에서는 문제가 없어 보이던 정보도 한곳에 모이면 민감한 프로필이나 회사 기밀이 될 수 있으므로, 접근 목적과 데이터 범위를 먼저 정해야 해요.

세 번째는 목표 이탈과 예측하기 어려운 연쇄 행동이에요. 여러 에이전트가 서로 업무를 넘기거나 외부 도구를 반복 호출하면 최초 지시와 다른 방향으로 실행될 수 있어요. 중요한 행위 전에는 사람의 승인을 받게 하고, 비용, 횟수, 전송 대상, 작업 시간을 제한하는 통제가 필요해요.

네 번째는 책임 추적이에요. 문제가 생긴 뒤 무엇을 입력했고 어떤 모델과 도구를 거쳐 어떤 행동이 실행됐는지 재구성할 수 없다면 원인 조사와 고객 대응이 어려워져요. 따라서 프롬프트만 저장하는 것이 아니라 에이전트 버전, 연결 도구, 부여 권한, 실행 결과, 승인자, 중단, 수정 이력까지 연결해서 남기는 편이 좋아요.

AI 기본법과의 관계

에이전틱 AI라는 이름만으로 곧바로 고영향 AI가 되는 것은 아니에요. AI 기본법상 의무는 서비스의 명칭보다 실제 용도, 적용 분야, 의사결정에 미치는 영향, 사업자의 역할을 중심으로 검토해야 해요. 채용, 대출, 의료, 교육 평가처럼 사람의 권리와 안전에 중대한 영향을 미치는 영역에서 에이전트가 판단이나 실행에 관여한다면 고영향 AI 해당 가능성을 별도로 살펴봐야 해요.

이용자에게 AI를 사용한 제품, 서비스라는 사실을 알리는 투명성 의무, 고영향 AI 사업자의 위험관리와 설명, 이용자 보호, 사람의 관리, 감독, 문서 보관 의무도 각각 적용 여부를 검토해야 해요. 개인정보를 처리한다면 AI 기본법과 별개로 개인정보 보호법상 처리 근거, 목적, 안전조치, 위탁, 국외이전 등의 문제도 확인해야 하고요.

따라서 에이전틱 AI 이니셔티브는 AI 기본법을 대체하는 별도 법률이 아니며, 2026년 7월 27일 현재 발표된 정책 방향이에요. 연내 마련될 안전, 신뢰 가이드라인의 구체적인 내용과 기존 법령, 가이드라인의 연결 관계는 추후 공식 자료를 다시 확인해야 해요.

기업이 지금 준비할 항목

AI 에이전트를 개발하거나 도입하고 있다면 먼저 업무 단위로 목록을 만들어 보세요. ‘고객 상담 지원’처럼 넓게 적기보다 고객정보 조회, 답변 초안 작성, 환불 승인 요청, 이메일 발송처럼 AI가 실제로 수행하는 행동을 나눠 적는 것이 좋아요.

그다음 각 행동에 필요한 권한을 조회, 생성, 수정, 삭제, 외부 전송으로 구분하고 최소 권한 원칙을 적용하세요. 결제, 계약, 채용 탈락, 의료 판단, 대량 발송처럼 되돌리기 어렵거나 사람에게 큰 영향을 주는 행동은 자동 실행보다 사람의 사전 승인을 거치도록 설계하는 것이 안전해요.

운영 단계에서는 로그를 실제 조사에 쓸 수 있는 형태로 남겨야 해요. 단순 접속 기록만으로는 부족할 수 있는데요. 어떤 목표를 받았는지, 어떤 시스템과 데이터를 사용했는지, 어떤 판단을 거쳐 무엇을 실행했는지, 사람이 언제 승인하거나 중단했는지를 함께 확인할 수 있어야 해요.

개발사와 도입사의 역할 구분

개발사는 에이전트의 권한 설정 기능, 행동 로그, 승인 절차, 비상 중단, 모델, 도구 변경관리 같은 기본 통제 기능을 제공해야 해요. 고객사가 적절히 설정할 수 있도록 제한사항과 권장 운영 방식도 설명할 필요가 있어요.

도입사는 실제 업무 목적과 사용자 권한, 연결할 데이터, 승인자, 운영 중단 기준을 정해야 해요. 외부 솔루션을 구매했다는 이유만으로 내부의 개인정보 보호와 접근권한 관리 책임까지 사라지는 것은 아니에요. 계약서에는 사고 통지, 로그 제공, 하위처리자, 데이터 보관, 모델 변경, 보안 점검, 서비스 종료 시 데이터 처리 방식도 구체적으로 나누는 편이 좋아요.

자주 묻는 질문

에이전틱 AI를 사용하면 바로 AI 기본법 위반 위험이 생기나요?

사용한다는 사실만으로 위반이 되는 것은 아니에요. 회사의 역할, 서비스 용도, 고영향 AI 해당 여부, 이용자 고지 대상인지 등을 구체적으로 판단해야 해요. 다만 실행 권한이 큰 서비스일수록 사전 위험 검토와 운영 기록의 필요성이 높아져요.

정부 가이드라인이 나온 뒤 준비해도 될까요?

세부 항목은 가이드라인 발표 후 조정할 수 있지만, AI 자산 목록, 권한표, 로그 구조, 사람의 승인, 중단 절차는 제품 구조와 연결돼 있어 나중에 붙이기 어려워요. 지금 최소한의 관리 체계를 만들어 두는 편이 효율적이에요.

일반 업무 자동화 에이전트도 기록해야 하나요?

법정 보관 의무의 적용 여부와 별개로, 고객정보나 사내 시스템에 접근하고 실제 행동을 수행한다면 운영 기록을 남기는 것이 좋아요. 장애 대응, 보안 사고 조사, 고객사 실사에서도 필요한 자료가 될 수 있어요.

정리

이번 에이전틱 AI 이니셔티브의 핵심은 AI 경쟁이 모델 성능에서 실행 생태계로 확장되고 있다는 것이에요. 정부는 안전, 신뢰 가이드라인 마련, 개방형 실행 기반 조성, 산업 현장 도입 확대를 함께 추진할 계획이에요.

기업 입장에서는 가이드라인을 기다리기보다 AI 에이전트의 업무, 데이터, 권한, 연결 시스템, 로그, 승인자를 먼저 정리할 시점이에요. 에이전트가 할 수 있는 일이 많아질수록 ‘AI를 사용한다’는 설명만으로는 부족하고, 무엇을 할 수 있고 실제로 무엇을 했는지 증명할 수 있는 체계가 필요해요.

Kompli는 회사가 사용하는 AI 자산과 위험 진단, 고영향 AI 검토, 책무 이행, 문서, 기록을 한곳에서 관리할 수 있도록 준비하고 있어요. 에이전틱 AI처럼 모델과 도구, 권한, 업무 흐름이 자주 바뀌는 환경에서는 흩어진 엑셀보다 변경 이력과 증빙을 연결해 두는 방식이 더 중요해져요.

함께 보면 좋은 글

ChatGPT를 업무에 쓰면 회사가 준비해야 할 것

AI 생애주기별 위험관리 쉽게 보기

AI 서비스 출시 후 규제 대응을 하려면 늦는 이유