고객사가 AI 규제 대응 자료를 요구하기 시작하면?
B2B AI 서비스를 운영하다 보면 어느 순간 고객사로부터 이런 요청을 받을 수 있습니다.
“귀사 서비스에 AI가 사용되나요?”
“AI 관련 규제 대응 자료를 제출해 주세요.”
“고영향 AI 해당 여부를 검토한 자료가 있나요?”
“개인정보와 보안 관리는 어떻게 하고 있나요?”
처음에는 단순한 보안 설문처럼 보이는데요. 막상 답하려고 하면 생각보다 준비할 자료가 많습니다.
AI 규제 대응은 법무팀 내부 검토로 끝나는 문제가 아니라, 고객사 심사와 계약 과정에서 요구되는 자료가 되고 있습니다.
고객사는 왜 AI 규제 대응 자료를 요구할까
고객사가 AI 규제 대응 자료를 요구하는 이유는 단순합니다.
자기들도 책임을 져야 하기 때문입니다.
B2B SaaS를 도입하는 고객사는 단순히 기능만 보는 것이 아닙니다. 그 서비스가 어떤 AI를 쓰는지, 어떤 데이터를 처리하는지, 이용자에게 어떤 영향을 주는지, 문제가 생겼을 때 어떻게 대응할 수 있는지 확인하려고 합니다.
특히 금융, 의료, 교육, 채용, 공공기관, 대기업 고객은 더 민감하게 봅니다.
서비스 안에 AI 기능이 들어가면 고객사 입장에서는 내부 보안 심사, 개인정보 검토, 법무 검토, 구매 심사를 통과해야 합니다. 이때 공급사에게 AI 관련 자료를 요구하는 흐름이 자연스럽게 생깁니다.
고객사가 자료를 요구한다는 것은, AI 컴플라이언스가 영업과 계약의 일부가 되기 시작했다는 뜻입니다.
단순히 “AI 씁니다”로는 부족합니다
고객사가 묻는 것은 “AI를 쓰나요?” 하나가 아닙니다.
그 뒤에는 여러 질문이 따라옵니다.
어떤 기능에 AI가 들어가는지, 어떤 모델을 쓰는지, 외부 API를 쓰는지, 고객 데이터가 입력되는지, 결과물이 이용자에게 어떤 영향을 주는지, 고지 문구는 있는지, 사람이 검토하는 절차가 있는지까지 이어집니다.
예를 들어 고객 상담 AI를 제공하는 회사라면 고객사는 이렇게 물을 수 있습니다.
“상담 내용이 모델 학습에 사용되나요?”
“개인정보가 입력되면 어떻게 처리되나요?”
“AI 답변을 고객이 사람 답변으로 오해하지 않도록 고지하나요?”
“AI 답변 오류가 발생했을 때 대응 절차가 있나요?”
이런 질문에 답하려면 말로만 설명해서는 부족합니다.
자료가 있어야 합니다.
AI 규제 대응에서 중요한 것은 ‘우리는 잘하고 있다’는 말이 아니라, 그렇게 관리하고 있다는 증빙입니다.
고객사가 요구할 수 있는 자료들
고객사가 요구하는 자료는 업종과 서비스 성격에 따라 달라집니다.
하지만 B2B AI 서비스라면 대체로 다음 자료를 요구받을 가능성이 있습니다.
서비스 내 AI 기능 목록
사용 중인 AI 모델 또는 외부 API 정보
AI 기능의 사용 목적과 처리 범위
고객 데이터 입력 여부
개인정보 처리 및 보안 정책
AI 결과물에 대한 고지 문구
고영향 AI 해당 여부 검토 자료
위험 식별, 평가, 완화 조치
사람 검토 또는 이의제기 절차
장애, 오류, 환각 발생 시 대응 절차
모델 변경 이력
운영 로그 또는 감사 대응 기록
AI 관련 내부 정책과 교육 자료
처음 보면 많아 보이는데요. 사실 이 자료들은 따로따로 존재하는 것이 아니라, 결국 하나의 질문으로 모입니다.
“이 회사는 자기 서비스에 들어간 AI를 알고 있고, 설명할 수 있고, 관리하고 있는가?”
고객사가 원하는 것은 완벽한 법률 문서가 아니라, AI를 통제 가능한 상태로 운영하고 있다는 신뢰입니다.
AI 기본법 이후에는 더 자주 물어볼 가능성이 큽니다
AI 기본법은 2026년 1월 22일부터 시행되고 있습니다.
이 법은 인공지능 산업을 육성하는 내용과 함께, 고영향 AI, 생성형 AI, 투명성 확보, 안전성 확보, 사업자 책무와 관련된 내용을 담고 있습니다.
고객사가 AI 규제 대응 자료를 요구하는 흐름은 이런 제도 변화와 맞물려 더 강해질 가능성이 큽니다.
특히 고객사가 공공기관이거나, 금융, 의료, 교육, 채용처럼 민감한 영역에 있는 경우라면 AI 사용 여부를 더 꼼꼼히 볼 수 있습니다.
이때 공급사가 “저희는 외부 모델 API만 붙였습니다”라고 설명해도 충분하지 않을 수 있습니다.
고객사 입장에서는 외부 모델을 쓰는지보다, 그 AI 기능이 자기 업무와 이용자에게 어떤 영향을 주는지가 더 중요하기 때문입니다.
AI 기본법 시대에는 ‘직접 모델을 개발했는가’보다 ‘서비스 안에서 AI가 어떤 역할을 하는가’가 더 중요해집니다.
고영향 AI 여부는 특히 민감한 질문입니다
고객사가 가장 민감하게 볼 수 있는 질문 중 하나는 고영향 AI 해당 여부입니다.
고영향 AI는 사람의 생명, 신체, 기본권, 안전, 권리, 의무, 기회에 중대한 영향을 미칠 수 있는 인공지능을 말합니다.
예를 들어 채용, 대출 심사, 보험 심사, 의료, 교육 평가, 공공서비스와 연결된 AI는 고객사 입장에서 더 신중하게 볼 수 있습니다.
이때 공급사는 “고영향 AI가 아닙니다”라고 말하는 것만으로는 부족할 수 있습니다.
왜 그렇게 판단했는지, 어떤 기능을 기준으로 봤는지, 어떤 데이터와 사용 맥락을 고려했는지 정리해둬야 합니다.
나중에 고객사가 검토 자료를 요구하면 그 판단 근거를 설명할 수 있어야 합니다.
고영향 AI 판단은 결론보다 과정이 중요합니다. 고객사는 그 결론에 이른 근거를 보고 싶어 할 수 있습니다.
투명성 고지도 고객사 질문이 됩니다
AI 기능이 고객 서비스 화면에 들어간다면 투명성 고지도 중요한 검토 대상이 됩니다.
고객사는 공급사에게 이런 질문을 할 수 있습니다.
이용자가 AI 사용 사실을 알 수 있나요?
생성형 AI 결과물임을 표시하나요?
AI 답변의 한계나 주의사항을 안내하나요?
고지 문구는 어디에 노출되나요?
고객사가 문구를 수정할 수 있나요?
B2B 서비스라면 최종 이용자 고지는 누가 담당하나요?
이 질문은 법무팀만의 문제가 아닙니다.
제품 화면, UX 문구, 고객사 설정 기능, 운영 정책이 모두 연결됩니다.
특히 고객사가 자기 서비스 안에 공급사의 AI 기능을 붙이는 구조라면, 고지 책임이 어디까지 누구에게 있는지 계약과 운영 측면에서도 정리해야 합니다.
AI 고지는 고객사가 “우리 이용자에게 어떻게 설명할 수 있느냐”를 판단하는 기준이 될 수 있습니다.
개인정보와 보안 자료는 거의 기본입니다
AI 규제 대응 자료를 요구하는 고객사는 대부분 개인정보와 보안도 함께 봅니다.
AI 기능이 고객 데이터를 처리한다면 더 그렇습니다.
고객 상담 내용, 사용자 입력값, 채용 지원서, 학습 이력, 의료 정보, 금융 정보, 계약 정보가 AI 기능에 들어갈 수 있다면 고객사는 당연히 확인하려고 합니다.
이때 준비해야 할 자료는 다음과 같습니다.
어떤 데이터가 AI 기능에 입력되는지
개인정보가 포함될 가능성이 있는지
외부 모델 제공사로 데이터가 전송되는지
모델 학습에 고객 데이터가 사용되는지
데이터 보관 기간은 어떻게 되는지
접근 권한은 어떻게 관리하는지
로그와 감사 기록은 남는지
침해사고나 오작동 발생 시 대응 절차는 있는지
개인정보보호위원회의 생성형 인공지능 개인정보 처리 안내서도 생성형 AI 개발, 활용 과정에서 목적 설정, 전략 수립, 학습, 개발, 적용, 관리 단계별로 개인정보 처리와 보호 이슈를 고려해야 한다는 방향을 제시하고 있습니다.
AI 기능에 데이터가 들어가는 순간, 고객사는 AI 성능보다 데이터 흐름과 보호조치를 먼저 볼 수 있습니다.
자료가 없으면 영업 속도가 늦어집니다
고객사가 자료를 요구했을 때 가장 난감한 상황은 “자료가 없는 것”입니다.
AI 기능은 이미 운영 중인데 AI 기능 목록이 없습니다.
외부 모델 API를 쓰고 있는데 모델 제공사와 데이터 처리 방식을 정리한 문서가 없습니다.
고지 문구는 화면에 들어가 있는데 누가 언제 검토했는지 기록이 없습니다.
고영향 AI 해당 여부를 내부적으로 이야기한 적은 있지만 판단 근거가 남아 있지 않습니다.
이런 상황에서는 고객사 요청이 올 때마다 여러 팀에 물어봐야 합니다.
개발팀에 모델 정보를 묻고, 제품팀에 화면 고지 위치를 묻고, 법무팀에 문구를 묻고, 보안팀에 데이터 흐름을 묻고, 영업팀은 고객사에 “확인 후 회신드리겠습니다”만 반복하게 됩니다.
AI 규제 대응 자료가 정리되어 있지 않으면, 고객사 검토 과정에서 영업 속도가 느려질 수 있습니다.
내부 대응 흐름을 만들어야 합니다
고객사 요청에 매번 즉흥적으로 대응하면 시간이 많이 듭니다.
그래서 내부 대응 흐름을 미리 만들어두는 것이 좋습니다.
요청이 들어오면 먼저 고객사가 무엇을 요구하는지 확인합니다. 그다음 서비스 내 AI 기능 목록을 기준으로 해당 기능을 찾고, 위험도와 고영향 가능성을 검토합니다. 이후 관련 문서와 증빙을 취합하고, 고객사에 제출 가능한 형태로 정리합니다.
이 과정에서 중요한 것은 최신성입니다.
AI 기능은 계속 바뀝니다. 모델 제공사가 바뀔 수 있고, 데이터 처리 방식이 바뀔 수 있고, 화면 고지 문구가 바뀔 수 있습니다.
따라서 예전에 만든 문서를 그대로 보내는 것은 위험할 수 있습니다.
고객사 제출 자료는 한 번 만들어두는 문서가 아니라, 제품 변경에 맞춰 계속 업데이트되어야 하는 자료입니다.
최소한 이것부터 준비하면 좋습니다
B2B AI 서비스를 운영하고 있다면 처음부터 모든 문서를 완벽하게 만들 필요는 없습니다.
하지만 최소한 다음 자료는 먼저 정리해두는 것이 좋습니다.
우리 서비스에 들어간 AI 기능 목록
각 AI 기능의 목적과 사용 범위
사용 중인 모델 또는 외부 API
입력, 출력 데이터의 종류
고객 데이터와 개인정보 처리 여부
AI 사용 사실 고지 문구와 화면 위치
고영향 AI 가능성 검토 결과
위험 식별, 평가, 완화 조치
사람 검토 또는 고객 문의 절차
변경 이력과 운영 로그
고객사 제출용 요약 문서
이 정도만 있어도 고객사 요청이 왔을 때 훨씬 빠르게 대응할 수 있습니다.
그리고 무엇보다 내부에서 우리 서비스의 AI를 설명할 수 있게 됩니다.
AI 규제 대응의 첫 단계는 거창한 보고서가 아니라, 우리 서비스의 AI 기능을 목록화하는 것입니다.
엑셀로 관리하면 어디서 막힐까
초기에는 엑셀이나 노션으로 관리할 수 있습니다.
AI 기능이 몇 개 없고, 고객사 요청도 많지 않다면 충분할 수 있습니다.
그런데 고객사가 늘어나고, AI 기능이 많아지고, 모델 변경이나 고지 문구 변경이 자주 생기면 문제가 생깁니다.
어떤 문서가 최신인지 헷갈립니다.
누가 검토했는지 알기 어렵습니다.
고객사마다 어떤 자료를 제출했는지 추적하기 어렵습니다.
동일한 질문에 매번 다른 답변을 하게 될 수도 있습니다.
또 문서가 여러 폴더에 흩어져 있으면 감사 대응이나 고객사 재요청 때 다시 찾는 데 시간이 걸립니다.
AI 컴플라이언스 자료는 단순 보관보다 버전 관리와 제출 이력이 중요합니다.
Kompli는 이런 문제를 보고 있습니다
Kompli가 보려는 문제도 여기에 있습니다.
AI 규제 대응은 법 조문을 읽는 데서 끝나지 않습니다. 결국 회사 안에 흩어진 AI 기능, 판단 근거, 고지 문구, 위험관리 자료, 고객사 제출 이력을 정리해야 합니다.
이걸 매번 수작업으로 하기는 어렵습니다.
특히 B2B SaaS라면 고객사별 요구사항이 다르고, 제출해야 하는 자료도 조금씩 달라집니다.
Kompli는 AI 자산 목록, 고영향 여부 판단, 투명성 고지, 위험관리 문서, 고객사 요청 대응 자료를 한곳에서 관리하는 방향으로 준비하고 있습니다.
고객사가 “AI 규제 대응 자료를 보내주세요”라고 했을 때, 담당자가 여러 팀에 흩어진 파일을 찾는 것이 아니라 필요한 자료를 바로 구성할 수 있어야 하기 때문입니다.
AI 컴플라이언스는 나중에 감사가 나와서 준비하는 것이 아니라, 고객사가 자료를 요구하는 순간부터 현실 문제가 됩니다.
함께 보면 좋은 글
AI 서비스 출시 후 규제 대응을 하려면 늦는 이유
대부분의 회사는 자기들이 어떤 AI를 쓰는지도 모른다
AI 고지는 법무 문구가 아니라 UX 문제다
공공기관 AI 사업에서 영향평가가 중요한 이유
정리하면
고객사가 AI 규제 대응 자료를 요구하기 시작하면, 그때부터 AI 컴플라이언스는 내부 검토가 아니라 영업과 계약의 문제가 됩니다.
고객사는 AI 기능이 무엇인지, 어떤 데이터를 쓰는지, 고영향 AI 가능성은 없는지, 이용자 고지는 어떻게 하는지, 위험관리는 어떻게 하는지 확인하려고 합니다.
이때 준비된 자료가 있으면 신뢰를 줄 수 있습니다.
반대로 자료가 없으면 답변이 늦어지고, 고객사 검토 과정에서 불안 요소로 보일 수 있습니다.
B2B AI 서비스에서 규제 대응 자료는 단순한 방어 문서가 아니라, 고객에게 신뢰를 보여주는 영업 자산이 될 수 있습니다.
AI 기본법, AI 규제, AI 컴플라이언스 관련 실무 글을 계속 정리하고 있습니다.
다른 글
우리 회사에 맞는 의무와 할 일, 지금 확인하세요
모든 결과에 근거 조항이 함께 표시됩니다.
무료로 시작하기