AI 기본법 시행 후 달라지는 것들

AI를 쓰는 회사라면 이제 “기능이 잘 작동하는가”만 보면 안 됩니다. 앞으로는 그 AI가 어떤 목적으로 쓰이는지, 이용자에게 어떤 영향을 주는지, 위험이 생겼을 때 사람이 개입할 수 있는지, 관련 문서를 남기고 있는지도 함께 봐야 합니다.

그 변화의 출발점이 바로 AI 기본법입니다. 정식 명칭은 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이고, 국가법령정보센터 기준 시행일은 2026년 1월 22일입니다.

AI 기본법 시행 후 가장 크게 달라지는 점은 AI를 단순한 기술 도구가 아니라, 기업이 책임 있게 관리해야 하는 운영 대상로 본다는 점입니다. 예전에는 “AI 기능을 넣었다”가 제품 경쟁력의 표현이었다면, 이제는 “AI를 어떤 기준으로 관리하고 있는가”도 중요한 질문이 됩니다.

---

첫째, AI 사용 사실 고지

첫 번째 변화는 AI 사용 사실 고지입니다. AI 기본법 제31조는 고영향 AI 또는 생성형 AI를 이용한 제품, 서비스를 제공하는 경우, 해당 제품이나 서비스가 AI에 기반해 운용된다는 사실을 이용자에게 사전에 고지하도록 규정하고 있습니다.

예를 들어 고객이 상담 챗봇을 이용하고 있는데 실제로는 사람이 아니라 AI가 답변하고 있다면, 그 사실을 알 수 있게 해야 할 수 있습니다. 생성형 AI가 만든 결과물을 제공하는 경우에도 AI가 생성했다는 사실을 표시해야 하는 상황이 생길 수 있습니다.

둘째, 생성형 AI 결과물 표시

두 번째 변화는 생성형 AI 결과물 표시입니다. ChatGPT, Claude, Clova 같은 생성형 AI를 활용해 텍스트, 이미지, 음성, 영상 등을 만들어 제공하는 서비스라면 “이 결과물이 AI로 생성되었다”는 점을 어떻게 안내할지 고민해야 합니다.

물론 모든 내부 업무 활용까지 똑같은 방식으로 규제된다고 단정할 수는 없습니다. 하지만 고객에게 제공되는 화면, 문서, 콘텐츠, 상담 결과, 추천 결과에 생성형 AI가 관여한다면 적어도 고지 방식과 표시 문구를 점검해두는 것이 좋습니다.

셋째, 고영향 AI 사전 검토

세 번째 변화는 고영향 AI 사전 검토입니다. AI 기본법 제33조는 사업자가 AI 또는 AI를 이용한 제품, 서비스를 제공하는 경우, 해당 AI가 고영향 AI에 해당하는지 사전에 검토하도록 규정하고 있습니다.

고영향 AI란 사람의 생명, 신체의 안전 또는 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 말합니다. 채용, 대출 심사, 의료, 교육 평가, 공공서비스, 교통, 에너지 같은 영역에서 사용되는 AI라면 특히 주의해서 봐야 합니다.

---

고영향 AI 판단이 간단하지 않은 이유

여기서 중요한 점은 고영향 AI 판단이 생각보다 간단하지 않다는 것입니다. 같은 챗봇이라도 단순 FAQ를 안내하는 챗봇과, 대출 가능 여부나 채용 결과에 영향을 주는 챗봇은 다르게 봐야 합니다.

또 같은 AI 모델을 쓰더라도 어떤 업무에 연결되어 있는지에 따라 리스크가 달라집니다. AI가 단순히 참고자료를 요약하는 수준인지, 최종 의사결정에 직접 영향을 주는지, 사람이 중간에 검토하는 절차가 있는지에 따라 판단이 달라질 수 있습니다.

넷째, 고영향 AI 사업자의 책무

네 번째 변화는 고영향 AI 사업자의 책무입니다. AI 기본법 제34조는 고영향 AI 또는 이를 이용한 제품, 서비스를 제공하는 사업자에게 안전성과 신뢰성을 확보하기 위한 조치를 요구합니다.

대표적으로 위험관리 방안, 설명 방안, 이용자 보호 방안, 사람의 관리, 감독, 안전성, 신뢰성 확보 조치에 관한 문서 작성과 보관 등이 포함됩니다. 즉 고영향 AI에 해당한다면 “우리는 조심해서 운영하고 있습니다”라는 말만으로는 부족합니다.

다섯째, 문서와 증빙

다섯 번째 변화는 문서와 증빙의 중요성입니다. AI 기본법 시행령은 고영향 AI 관련 조치 이행 근거를 문서로 보관하는 체계를 두고 있습니다. 실무적으로는 어떤 AI를 쓰고 있는지, 어떤 기준으로 판단했는지, 어떤 위험관리 조치를 했는지, 어떤 문서를 남겼는지가 중요해질 가능성이 큽니다.

---

기업이 체감하게 될 변화

기업 입장에서 체감되는 변화는 꽤 현실적입니다. AI 기능을 출시하기 전에 법무 검토가 필요할 수 있고, 고객사나 투자자에게 AI 관리 체계를 설명해야 할 수도 있습니다. 특히 B2B AI 서비스라면 고객사가 “이 AI는 고영향 AI인가요?”, “관련 문서는 있나요?”, “이용자 고지는 어떻게 하나요?”라고 물어볼 가능성이 커집니다.

스타트업이나 중소기업 입장에서는 이 부분이 부담스럽게 느껴질 수 있습니다. 개발, 영업, 운영도 바쁜데 법령 검토와 문서 관리까지 해야 하기 때문입니다. 하지만 처음부터 거창한 시스템을 만들 필요는 없습니다.

무엇부터 해야 하나

가장 먼저 할 일은 회사 안에서 사용 중인 AI 목록을 정리하는 것입니다. 어떤 부서가 어떤 AI를 쓰는지, 고객에게 제공되는 AI인지, 개인정보가 들어가는지, 사람의 권리나 의무에 영향을 주는지부터 확인하면 됩니다.

그 다음에는 생성형 AI 여부와 고영향 AI 가능성을 나누어 봐야 합니다. 생성형 AI라면 고지나 표시 문제가 생길 수 있고, 고영향 AI 가능성이 있다면 사전 검토와 문서 보관 문제가 생길 수 있습니다.

---

몰랐다는 말이 통하지 않게 된다

AI 기본법 시행 후에는 “AI를 썼는지 몰랐다”는 말이 점점 통하지 않게 될 가능성이 큽니다. 회사 내부에서 직원들이 각자 외부 AI 도구를 쓰고 있거나, 서비스 곳곳에 AI 기능이 붙어 있는데 중앙에서 관리하지 못한다면 나중에 문제가 될 수 있습니다.

그렇다고 너무 겁먹을 필요는 없습니다. 과학기술정보통신부는 AI 기본법 시행과 관련해 기업 부담을 줄이기 위한 지원과 계도 중심 운영을 언급한 바 있습니다. 다만 계도기간이 있다고 해서 준비를 미루는 것이 좋은 전략은 아닙니다.

오히려 지금은 AI 기본법 대응을 차근차근 시작하기 좋은 시점입니다. AI 목록을 만들고, 고지 문구를 점검하고, 고영향 AI 가능성이 있는 서비스를 따로 표시하고, 관련 문서를 보관하는 정도만 시작해도 이후 대응이 훨씬 쉬워집니다.

정리하면

정리하면, AI 기본법 시행 후 달라지는 핵심은 세 가지입니다. 첫째, AI 사용 사실을 이용자에게 더 투명하게 알려야 합니다. 둘째, 고영향 AI에 해당하는지 사전에 검토해야 합니다. 셋째, 위험관리와 이용자 보호, 사람의 감독, 문서 보관 같은 관리 체계를 갖춰야 합니다.

앞으로 AI 서비스의 경쟁력은 단순히 성능만으로 결정되지 않을 가능성이 큽니다. 고객이 믿고 쓸 수 있는지, 기업이 설명할 수 있는지, 문제가 생겼을 때 대응할 수 있는지가 점점 더 중요해질 것입니다.