공공기관 AI 사업에서 영향평가가 중요한 이유

공공기관 AI 사업을 준비하는 기업이라면 한 번쯤 이런 생각을 하게 됩니다. “AI 영향평가를 하면 정부 수주에 도움이 될까?”

이 질문은 꽤 현실적입니다. 공공기관은 단순히 기능이 좋은 AI만 찾는 것이 아니라, 국민에게 미치는 영향과 운영 책임까지 함께 보기 때문입니다.

가점이 자동으로 붙는 것은 아니다

먼저 조심해야 할 점이 있습니다. AI 영향평가를 했다고 해서 모든 공공기관 AI 사업에서 자동으로 가점이 붙는다고 말하기는 어렵습니다. 실제 가점 여부는 개별 입찰 공고, 제안요청서, 평가 기준에 따라 달라집니다.

하지만 AI 영향평가 자료는 공공기관 AI 사업에서 “신뢰를 설명하는 자료”가 될 수 있습니다.

공공기관이 더 신중한 이유

공공기관이 AI를 도입할 때는 민간 기업보다 더 신중할 수밖에 없습니다. AI가 행정, 복지, 교육, 교통, 의료, 민원, 채용, 심사 같은 영역에 들어가면 국민의 권리나 생활에 영향을 줄 수 있기 때문입니다.

그래서 공공 AI 사업에서는 “이 AI가 잘 작동합니다”만으로는 부족합니다. “누구에게 영향을 주는지”, “어떤 위험이 있는지”, “오류가 생기면 어떻게 대응할지”, “사람이 어떻게 관리, 감독할지”까지 설명할 수 있어야 합니다.

공공서비스와 고영향 AI

AI 기본법은 고영향 AI와 관련해 사람의 생명, 신체 안전, 기본권에 중대한 영향을 줄 수 있는 영역을 중요하게 봅니다. 공공기관의 의사결정이나 공공서비스 제공에 AI가 들어가는 경우, 그 영향은 단순한 편의 기능을 넘어설 수 있습니다.

예를 들어 복지 대상자 선정, 민원 자동 분류, 교육 평가, 교통 운영, 공공 안전 모니터링, 보조금 심사 같은 영역에 AI가 들어간다고 생각해보면 됩니다. 이 경우 AI의 오류는 단순한 서비스 불편이 아니라 특정 개인이나 집단에 대한 불이익으로 이어질 수 있습니다.

공공 AI 사업에서 영향평가는 “좋은 문서”가 아니라 “책임 있는 운영을 설명하는 구조”입니다.

첫째, 기본권 영향

영향평가가 중요한 첫 번째 이유는 기본권 영향 때문입니다. AI가 누구에게 영향을 주는지, 어떤 집단이 불리해질 수 있는지, 결과가 잘못되면 어떤 피해가 생길 수 있는지 미리 봐야 합니다.

둘째, 설명 가능성

두 번째 이유는 설명 가능성입니다. 공공기관은 국민에게 설명해야 하는 위치에 있습니다. AI가 추천하거나 판단한 결과가 있다면, 적어도 어떤 기준과 절차로 운영되는지 설명할 수 있어야 합니다.

셋째, 운영 리스크

세 번째 이유는 운영 리스크입니다. AI는 출시 후에도 데이터 변화, 모델 성능 저하, 사용자 오해, 예외 상황이 생길 수 있습니다. 공공기관은 단순 구축보다 운영 안정성을 중요하게 볼 수밖에 없습니다.

공공기관은 AI 기술 자체보다 “이 AI를 공공서비스 안에서 안전하게 운영할 수 있는가”를 봅니다.

제안서의 설득력을 높이는 방식

이 지점에서 영향평가 자료는 제안서의 설득력을 높일 수 있습니다. 물론 모든 사업에서 정량 가점으로 인정된다고 단정할 수는 없습니다. 하지만 제안서 안에서 위험관리, 이용자 보호, 사람의 관리, 감독, 사후 모니터링 계획을 설명할 때 영향평가 자료는 강한 근거가 됩니다.

예를 들어 “본 AI 시스템은 민원 분류 정확도 92%입니다”라고만 쓰는 것과, “민원 분류 오류가 특정 유형의 민원 누락으로 이어질 수 있어 운영 단계에서 담당자 재검토 절차와 오류 로그 점검 체계를 둡니다”라고 쓰는 것은 다릅니다.

후자는 단순 성능이 아니라 공공기관이 걱정하는 운영 책임을 건드립니다. 바로 이 부분에서 영향평가가 제안서의 언어로 바뀔 수 있습니다.

영향평가는 “우리 AI는 안전합니다”라는 주장을 “우리는 이런 위험을 알고, 이렇게 관리합니다”라는 설명으로 바꿔줍니다.

납품 이후에도 책임이 계속된다

공공기관 AI 사업에서 영향평가가 특히 중요한 이유는 사업 이후에도 책임이 계속되기 때문입니다. 공공 AI는 납품하고 끝나는 제품이 아닙니다. 운영 중 민원, 감사, 언론, 내부 점검, 정책 변화에 계속 노출될 수 있습니다.

따라서 사전에 영향평가를 해두면 운영 중 문제가 발생했을 때도 훨씬 대응하기 쉽습니다. 어떤 위험을 예상했고, 어떤 완화 조치를 설계했고, 어떤 지표로 모니터링하기로 했는지 기록이 남기 때문입니다.

기획 단계에서 시작해야 하는 이유

영향평가는 보통 사업 기획 단계에서 시작하는 것이 좋습니다. AI 기능이 이미 다 만들어진 뒤에 영향평가를 하면, 위험을 발견해도 바꾸기 어려운 경우가 많습니다.

이전 글인 “AI 기능을 MVP로 넣기 전 확인할 것”에서도 비슷한 이야기를 했습니다. AI 기능은 작게 넣더라도, 어떤 데이터가 들어가고 어떤 결과가 나가며 누구에게 영향을 주는지 초기에 확인해야 합니다.

AI 기능을 MVP로 넣기 전 확인할 것

공공기관 AI 사업에서는 이 원칙이 더 중요합니다. 사업 제안 단계에서부터 영향받는 대상, 기본권 영향, 위험 완화 방안, 운영 후 재점검 계획을 정리하면 제안서 구조가 훨씬 단단해집니다.

영향평가는 제출용 문서가 아니라 사업 운영 계획의 일부로 봐야 합니다.

준비할 여섯 가지 항목

실무적으로 기업이 준비할 수 있는 항목은 크게 여섯 가지입니다.

첫째, AI 시스템 개요입니다. 어떤 기능인지, 어떤 사용자에게 제공되는지, 어떤 결과를 내는지 정리해야 합니다.

둘째, 고영향 AI 여부 검토입니다. 공공기관 AI라고 해서 전부 고영향 AI는 아닐 수 있지만, 공공서비스 의사결정이나 국민에게 영향을 주는 영역이면 반드시 확인해야 합니다.

셋째, 영향받는 대상 식별입니다. 직접 사용자뿐 아니라 AI 결과로 불이익을 받을 수 있는 사람이나 집단이 있는지 봐야 합니다.

넷째, 기본권 영향 분석입니다. 평등권, 개인정보, 교육 기회, 사회보장 접근, 행정 절차상 권리처럼 어떤 권리와 연결될 수 있는지 검토해야 합니다.

다섯째, 위험 완화 방안입니다. 사람의 재검토, 이의제기 절차, 오류 정정, 로그 기록, 성능 점검, 편향 점검 같은 운영 조치를 정리해야 합니다.

여섯째, 운영 후 모니터링입니다. 공공 AI는 도입 후에도 계속 점검되어야 합니다. 데이터가 바뀌거나 사용 방식이 바뀌면 영향도 달라질 수 있기 때문입니다.

공공기관 AI 사업에서 영향평가는 “가점 약속”이 아니라 “신뢰 자료”입니다.

가점 약속이 아니라 신뢰 자료

이 표현이 중요합니다. 영향평가를 했다고 무조건 수주가 유리하다고 말하면 과장입니다. 하지만 공공기관이 신뢰성, 안전성, 이용자 보호, 운영 책임을 물어볼 때 답할 수 있는 자료가 있다는 것은 분명한 차이를 만듭니다.

특히 경쟁사가 기능 설명에만 집중할 때, 우리 회사가 위험관리와 영향평가까지 제시할 수 있다면 제안서의 수준이 달라집니다. 공공기관 입장에서는 “이 업체는 구축 이후 운영 리스크까지 생각하고 있구나”라고 볼 수 있습니다.

Kompli 관점에서도 공공기관 AI 사업은 단순 기능 납품보다 증빙 관리가 중요합니다. AI 자산 목록, 고영향 여부 검토, 영향받는 대상, 위험 완화 방안, 운영 로그, 문서 보관이 연결되어야 나중에 설명 가능한 상태가 됩니다.

공공 AI 사업에서 중요한 것은 AI를 잘 만드는 것뿐 아니라, AI를 책임 있게 운영할 수 있음을 보여주는 것입니다.

정리하면

정리하면, 공공기관 AI 사업에서 영향평가가 중요한 이유는 세 가지입니다.

첫째, 국민의 권리와 공공서비스에 영향을 줄 수 있기 때문입니다.

둘째, 제안서에서 신뢰성과 운영 책임을 설명하는 자료가 되기 때문입니다.

셋째, 사업 이후 감사, 민원, 운영 점검에 대응할 근거가 되기 때문입니다.

영향평가는 규제 문서처럼 보일 수 있지만, 실제로는 공공기관이 가장 궁금해하는 질문에 답하는 자료입니다. “이 AI는 누구에게 영향을 주는가?”, “위험은 무엇인가?”, “문제가 생기면 어떻게 바로잡을 것인가?”라는 질문입니다.