AI 투명성 확보 의무란? 고지 문구는 화면 어디에 넣어야 할까

AI 기본법을 보면 기업이 가장 먼저 부딪히는 단어 중 하나가 투명성입니다.

말은 익숙하지만, 실제 서비스 화면으로 옮기려고 하면 생각보다 애매합니다.

“AI를 쓴다고 그냥 약관에 한 줄 넣으면 되는 건가?”

“챗봇 시작 화면에만 고지하면 충분한가?”

“AI가 만든 결과물을 다운로드할 때도 표시해야 하나?”

투명성 확보 의무의 핵심

AI 투명성 확보 의무의 핵심은 이용자가 AI의 개입 사실을 알 수 있게 하는 것입니다.

투명성은 단순히 법무팀이 약관 문구를 만드는 일이 아닙니다.

사용자가 서비스를 이용하는 과정에서 “지금 내가 AI와 상호작용하고 있구나”, “이 결과는 AI가 생성했거나 AI가 관여했구나”를 인식할 수 있어야 합니다.

AI 기본법은 고영향 AI와 생성형 AI 등에 대해 사전고지, 표시, 설명 가능성, 이용자 보호와 연결되는 의무를 다룹니다. 특히 생성형 AI 결과물이나 딥페이크 성격의 결과물은 사용자가 그 사실을 알 수 있도록 표시하는 방향으로 정리되고 있습니다.

어디엔가 써두면 된다는 오해

여기서 많은 회사가 실수하는 부분이 있습니다. 투명성을 “어디엔가 써두면 되는 것”으로 생각하는 겁니다.

하지만 실제로는 고지 위치가 중요합니다. 사용자가 보지 못하는 곳에만 넣어두면 투명성의 목적을 달성하기 어렵습니다.

AI 고지는 약관 깊숙한 곳에 숨겨두는 문구가 아니라, 사용 흐름 안에서 자연스럽게 보여야 하는 정보입니다.

예를 들어 AI 챗봇이라면 첫 대화가 시작되기 전 또는 입력창 근처에 “AI가 답변을 생성합니다”라는 안내가 있는 것이 자연스럽습니다. 사용자가 사람 상담원이라고 오해할 수 있는 화면이라면 더 명확한 고지가 필요합니다.

보고서 자동 생성 기능이라면 결과 생성 버튼을 누르기 전, 그리고 생성된 결과물 상단에 고지가 들어가는 것이 좋습니다. “AI가 초안을 작성했으며, 최종 검토가 필요합니다” 같은 문구가 대표적입니다.

이미지, 영상, 음성 생성 기능이라면 화면 안 고지뿐 아니라 결과물 자체에도 표시가 필요한 경우가 있습니다. 사용자가 결과물을 다운로드하거나 외부에 공유할 수 있다면, 서비스 화면에만 표시하는 것으로는 부족할 수 있습니다.

고지 위치 다섯 군데

실무적으로는 고지 위치를 다섯 군데로 나눠볼 수 있습니다.

첫째, 기능 진입 전입니다. 사용자가 AI 기능을 켜거나 해당 메뉴로 들어가기 전에 AI 사용 사실을 안내하는 방식입니다. 고영향 AI 가능성이 있거나 민감한 판단 보조 기능이라면 이 위치가 특히 중요합니다.

둘째, 입력창 주변입니다. 사용자가 질문, 문서, 이미지, 개인정보 등을 입력하는 순간에 AI 처리 사실을 알리는 방식입니다. “입력한 내용은 AI 답변 생성을 위해 처리됩니다” 같은 문구가 여기에 들어갈 수 있습니다.

셋째, 결과 상단입니다. AI가 생성하거나 추천하거나 요약한 결과 바로 위에 표시하는 방식입니다. 사용자는 결과를 읽기 전에 이 결과가 AI 기반이라는 사실을 알 수 있어야 합니다.

넷째, 다운로드 파일 또는 공유 결과물입니다. 보고서, 이미지, 영상, 음성, 문서 형태로 외부에 나가는 결과물이라면 결과물 안에도 AI 생성 사실을 표시할 필요가 있습니다.

다섯째, 도움말, 정책 페이지입니다. 서비스 전체에서 AI를 어떻게 쓰는지, 어떤 한계가 있는지, 문의나 이의제기 절차가 무엇인지 자세히 설명하는 공간입니다.

짧은 화면 문구와 자세한 설명 페이지

좋은 AI 고지는 “짧은 화면 문구”와 “자세한 설명 페이지”가 함께 있을 때 가장 안정적입니다.

화면에는 짧게 보여주고, 더 알고 싶은 사람은 상세 설명으로 이동할 수 있게 만드는 것이 좋습니다. 모든 내용을 작은 버튼 옆에 길게 넣으면 UX가 무너지고, 반대로 전부 정책 페이지에만 넣으면 사용자는 못 보고 지나갑니다.

문구 자체도 너무 법률 문장처럼 쓰지 않는 편이 좋습니다. “본 서비스는 인공지능 기술을 활용할 수 있으며…”처럼 추상적으로 쓰면 사용자는 정확히 무엇이 AI인지 알기 어렵습니다.

고지 문구는 짧고 구체적이어야 합니다. “AI를 사용합니다”보다 “AI가 답변을 생성합니다”가 더 좋습니다.

기능별 고지 문구 예시

예를 들어 챗봇에는 “AI가 답변을 생성합니다. 중요한 사항은 담당자에게 확인해 주세요”라고 쓸 수 있습니다. 리포트 자동 생성 기능에는 “AI가 초안을 작성했습니다. 게시 또는 제출 전 검토가 필요합니다”라고 쓸 수 있습니다.

이미지 생성 기능에는 “AI로 생성된 이미지입니다”라고 명확히 표시할 수 있습니다. 판단 보조 기능에는 “이 결과는 참고용이며 최종 판단은 담당자가 합니다”처럼 AI 결과의 한계를 함께 알려주는 방식이 필요합니다.

서비스마다 문구가 달라져야 하는 이유

물론 모든 서비스에 같은 문구를 쓰면 안 됩니다. 고객센터 챗봇, 의료 진단 보조, 채용 서류 요약, 금융 심사 보조, 마케팅 카피 생성은 각각 위험 수준과 사용자 기대가 다릅니다.

AI 고지 문구는 서비스의 기능, 위험도, 사용자가 오해할 가능성에 맞게 달라져야 합니다.

B2B SaaS의 고지 책임 분담

특히 B2B SaaS에서는 더 복잡합니다. AI 기능을 제공하는 회사와 그 기능을 고객사가 최종 사용자에게 제공하는 구조가 나뉘기 때문입니다. 이 경우 “고지 책임을 고객사에만 맡길 것인지”, “기본 고지 UI를 제품 안에 넣을 것인지”, “관리자가 문구를 수정할 수 있게 할 것인지”를 미리 정해야 합니다.

AI 기능이 고객사 화면에 임베드되거나 API로 제공되는 경우도 있습니다. 이때는 서비스 제공자가 고객사에 고지 문구 예시, 표시 위치 가이드, 결과물 표시 방식, 계약상 책임 범위를 제공하는 것이 좋습니다.

약관만으로 충분하지 않은 이유

약관도 필요하지만 약관만으로 충분하다고 보기는 어렵습니다. 약관은 상세한 법적 설명을 담는 공간이고, 화면 고지는 사용자가 실제 이용 순간에 알아야 하는 정보를 전달하는 공간입니다.

투명성 대응은 법무 문구와 제품 UX가 같이 움직여야 합니다.

출시 전 체크리스트

출시 전에는 체크리스트를 만들어보는 것이 좋습니다. AI 사용 사실이 보이는지, 고지 위치가 사용 흐름과 맞는지, 결과물에도 표시가 필요한지, 약관에만 의존하고 있지는 않은지, 모델이나 기능 변경 시 문구도 함께 업데이트되는지 확인해야 합니다.

벌칙 회피가 아니라 신뢰 설계

AI 투명성 확보 의무는 벌칙을 피하기 위한 최소 문구 작업이 아닙니다. 사용자가 AI 결과를 어떻게 받아들일지, 어디까지 믿어야 할지, 언제 사람의 검토가 필요한지를 알려주는 신뢰 설계에 가깝습니다.

Kompli에서는 이런 투명성 대응을 단순한 문구 저장이 아니라 AI 자산, 기능 유형, 사용자 접점, 결과물 형태와 연결해서 봅니다. 같은 AI라도 챗봇 안에 들어갈 때와 리포트 생성 기능에 들어갈 때 필요한 고지 방식이 달라질 수 있기 때문입니다.

정리하면

정리하면, AI 투명성 확보 의무는 “AI를 쓴다는 사실을 사용자에게 알리는 것”에서 시작합니다. 하지만 실무에서는 한 단계 더 나아가야 합니다. 어디에, 언제, 어떤 문구로, 결과물까지 포함해 어떻게 표시할지 정해야 합니다.

AI 고지는 약관 문구 하나로 끝나는 일이 아니라, 제품 화면 안에서 사용자가 실제로 인식할 수 있게 설계해야 하는 일입니다.

새로 나온 자료나 실무상 헷갈리는 포인트도 함께 공유하고 있습니다.