생성형 AI 결과물 표시 방법 쉽게 보기

생성형 AI를 쓰는 회사가 늘어나면서, 이제는 “AI를 썼느냐”보다 “AI를 썼다는 사실을 이용자가 알 수 있느냐”가 중요해지고 있습니다. 문서, 이미지, 영상, 음성, 리포트, 챗봇 답변까지 AI가 만든 결과물이 많아졌기 때문입니다.

특히 AI 기본법에서는 생성형 AI와 관련해 투명성 의무를 두고 있습니다. 쉽게 말하면 이용자가 AI 기반 제품이나 서비스를 이용하고 있다는 사실, 그리고 결과물이 AI로 생성되었다는 사실을 알 수 있어야 한다는 취지입니다.

많은 회사가 여기서 헷갈립니다. “AI로 만든 모든 결과물에 워터마크를 넣어야 하나?”, “서비스 화면에만 안내하면 충분한가?”, “PDF로 다운로드하면 어떻게 해야 하나?”, “AI가 초안만 만든 경우도 표시해야 하나?” 같은 질문이 나옵니다.

결론부터 말하면, 표시 방법은 결과물의 종류와 제공 방식에 따라 달라집니다. 서비스 안에서만 보여주는 결과물인지, 다운로드나 공유를 통해 밖으로 나가는 결과물인지, 실제와 구분하기 어려운 이미지, 영상, 음성인지에 따라 접근이 달라집니다.

사전고지와 결과물 표시는 다르다

먼저 구분해야 할 것은 사전고지와 결과물 표시입니다. 사전고지는 제품이나 서비스가 생성형 AI 또는 고영향 AI에 기반해 운용된다는 사실을 이용 전에 알리는 것입니다. 반면 결과물 표시는 AI가 만들어낸 결과물 자체가 생성형 AI에 의해 만들어졌다는 사실을 알리는 것입니다.

예를 들어 AI 챗봇 서비스라면 대화창 첫 화면에 “이 서비스는 AI 기반으로 답변을 제공합니다”라고 안내하는 것은 사전고지에 가깝습니다. 그런데 사용자가 AI가 만든 이미지를 다운로드하거나, AI가 작성한 리포트를 파일로 받는다면 그 결과물에도 AI 생성 사실을 표시해야 하는지가 별도 문제가 됩니다.

핵심 기준은 이용자의 오인 방지

AI 기본법 제31조와 투명성 확보 가이드라인의 핵심은 이용자의 오인 방지입니다. 이용자가 사람의 창작물이나 실제 촬영물로 착각할 수 있는 결과물일수록 표시 필요성이 커집니다. 특히 실제와 구분하기 어려운 이미지, 영상, 음성은 더 조심해야 합니다.

서비스 안인가, 외부로 반출되는가

표시 방법에서 가장 중요한 기준은 “서비스 안에서만 제공되는가, 아니면 외부로 반출되는가”입니다. 서비스 화면 안에서만 결과물이 보인다면 화면 안내, 로고, 툴팁, 안내 문구 등으로 표시할 수 있습니다. 하지만 결과물이 다운로드되거나 공유된다면 서비스 화면을 떠난 뒤에도 AI 생성 사실을 알 수 있어야 합니다.

예를 들어 AI 이미지 생성 서비스 화면에서 “AI가 생성한 이미지입니다”라고 보여줬다고 해보겠습니다. 그 이미지를 사용자가 다운로드해서 SNS에 올리면, 서비스 화면의 안내 문구는 더 이상 보이지 않습니다. 이 경우에는 이미지 자체에 워터마크를 넣거나, 메타데이터처럼 사후 식별 가능한 방식을 고민해야 합니다.

서비스 안 표시와 외부 반출 표시는 다릅니다. 서비스 안에서는 UI를 통해 알릴 수 있지만, 외부 반출 기능이 있다면 결과물 자체 또는 파일 정보에 표시하는 방식이 필요할 수 있습니다. 이 부분을 놓치면 회사는 표시했다고 생각하지만, 실제 이용자는 AI 생성 사실을 알기 어려운 상황이 생깁니다.

텍스트 결과물

텍스트 결과물은 문서 머리말, 파일 메타데이터, 프로젝트 설명, 코드 주석 등을 활용할 수 있습니다. 예를 들어 AI가 작성한 보고서를 PDF나 문서 파일로 제공한다면 문서 첫 부분이나 머리말에 “이 문서는 생성형 AI를 활용해 작성되었습니다” 같은 문구를 넣을 수 있습니다.

다만 사용자가 단순히 복사해서 붙여넣는 경우까지 사업자가 모두 통제하기는 어렵습니다. 그래서 실무적으로는 파일 다운로드, 공유, 내보내기 기능을 제공하는 순간부터 표시 정책을 더 명확히 잡는 것이 좋습니다.

이미지 결과물

이미지 결과물은 사람이 볼 수 있는 워터마크나 로고 표시, 또는 기계가 판독할 수 있는 디지털 워터마크나 메타데이터 방식이 사용될 수 있습니다. 다만 실제 사람처럼 보이는 이미지나 실제 사진으로 오인될 가능성이 큰 이미지는 더 명확한 표시가 필요합니다.

영상 결과물

영상 결과물은 화면 일부에 표시하거나 영상 시작 부분에 AI 생성 사실을 안내하는 방식이 가능합니다. 실제와 구분하기 어려운 영상이라면 재생 구간 전체에 표시하는 방식처럼 더 강한 조치가 필요할 수 있습니다. 영상은 공유와 재가공이 쉬워서 표시가 사라지지 않도록 설계하는 것이 중요합니다.

음성 결과물

음성 결과물은 재생 초반에 “AI가 생성한 음성입니다”처럼 가청 안내를 넣을 수 있습니다. 음성 워터마킹이나 메타데이터 같은 비가시적 방식도 가능하지만, 이용자가 바로 알 수 없는 방식만 쓰는 경우에는 별도 안내가 필요할 수 있습니다.

파일형 결과물

PDF, 슬라이드, 이미지 묶음, 리포트 같은 파일형 결과물도 따로 봐야 합니다. 첫 페이지, 문서 초반, 머리말, 파일 속성, 메타데이터 등을 활용할 수 있습니다. 중요한 것은 파일을 받은 사람이 AI 생성 사실을 합리적으로 알 수 있느냐입니다.

딥페이크가 특히 민감한 이유

여기서 또 하나 중요한 개념이 딥페이크입니다. 투명성 확보 가이드라인에서는 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 별도로 다룹니다. 텍스트보다 이미지, 영상, 음성이 더 민감하게 다뤄지는 이유도 여기에 있습니다. 사람의 얼굴, 목소리, 실제 장면처럼 보이는 콘텐츠는 오인과 피해 가능성이 크기 때문입니다.

예술적 표현물은 조금 다르다

예술적, 창의적 표현물은 조금 다르게 볼 여지가 있습니다. 예를 들어 영화, 게임, 애니메이션, 전시 콘텐츠처럼 창작물의 감상 경험이 중요한 경우에는 표현을 과도하게 방해하지 않는 방식으로 표시할 수 있습니다. 하지만 이 경우에도 AI 생성 사실을 완전히 숨겨도 된다는 뜻은 아닙니다.

어떤 문구를 쓰면 되나

사업자 입장에서는 “어떤 문구를 쓰면 되나요?”라는 질문이 가장 현실적입니다. 정답 문구가 하나로 정해진 것은 아니지만, 기본 방향은 분명합니다. 짧고 명확해야 합니다. 이용자가 읽고 바로 이해할 수 있어야 합니다. 예를 들면 “이 이미지는 생성형 AI로 생성되었습니다”, “이 음성은 AI가 생성한 음성입니다”, “이 문서는 생성형 AI를 활용해 작성되었습니다”처럼 쓸 수 있습니다.

표시 문구는 멋있을 필요보다 명확할 필요가 큽니다. “AI-assisted creative intelligence output”처럼 복잡한 표현보다, “AI로 생성된 결과물입니다”가 더 낫습니다. 규제 대응 문구는 이용자가 알아듣는 것이 먼저입니다.

결과물 유형부터 나누기

실무적으로는 결과물 유형을 먼저 나누는 것이 좋습니다. 우리 서비스가 생성하는 결과물이 텍스트인지, 이미지인지, 영상인지, 음성인지, PDF나 슬라이드 같은 파일인지 분류해야 합니다. 그다음 서비스 안에서만 보이는지, 다운로드나 공유가 가능한지 확인해야 합니다.

그다음에는 표시 방식을 정해야 합니다. 서비스 화면에 안내할 것인지, 결과물 안에 표시할 것인지, 메타데이터를 쓸 것인지, 워터마크를 넣을 것인지 결정해야 합니다. 표시 방식은 법무팀만 정할 수 없고, 제품팀과 디자인팀도 함께 봐야 합니다. 표시 위치와 UX가 실제 화면에서 작동해야 하기 때문입니다.

스타트업이 잡아야 할 최소 정책

스타트업이나 SaaS 기업이라면 처음부터 완벽한 시스템을 만들기 어렵습니다. 그래도 최소한의 정책은 필요합니다. 어떤 결과물에 표시할지, 어떤 문구를 쓸지, 다운로드 시 표시가 유지되는지, 딥페이크 가능성이 있는지, 변경 이력을 남길지 정도는 정리해야 합니다.

특히 B2B SaaS는 고객사와의 책임 분담도 중요합니다. 우리 서비스가 AI 결과물을 생성하고 고객사가 이를 외부에 배포한다면, 고객사에게 표시 방법을 안내해야 할 수 있습니다. 약관, 관리자 화면, 다운로드 화면, 고객 가이드 문서에 표시 정책을 담아두는 방식도 고려할 수 있습니다.

표시의 본질은 신뢰

많은 회사가 표시를 귀찮은 규제 문구로만 생각합니다. 하지만 표시의 본질은 신뢰입니다. AI로 만든 결과물이라는 사실을 숨기지 않는 회사가 오히려 더 신뢰받을 수 있습니다. 이용자가 AI 활용 여부를 알고 선택할 수 있게 만드는 것이 투명성의 핵심입니다.

정리하면

정리하면, 생성형 AI 결과물 표시 방법은 하나로 고정되어 있지 않습니다. 서비스 안에서만 보이는지, 외부로 반출되는지, 텍스트인지 이미지인지 영상인지 음성인지, 실제와 혼동될 가능성이 있는지에 따라 달라집니다. 중요한 것은 이용자가 AI 생성 사실을 명확히 인식할 수 있도록 설계하는 것입니다.

Kompli 관점에서 보면, 결과물 표시도 결국 AI 자산 관리와 연결됩니다. 어떤 기능이 생성형 AI 결과물을 만들고, 어떤 결과물이 외부로 나가며, 어떤 표시 정책을 적용했는지 기록해야 나중에 설명할 수 있습니다. AI 표시 정책은 한 번 문구를 정하는 일이 아니라, AI 기능과 결과물을 계속 관리하는 일에 가깝습니다.