AI 기능을 MVP로 넣기 전 확인할 것

스타트업이 MVP를 만들 때 AI 기능은 꽤 매력적입니다. 챗봇을 붙이면 서비스가 똑똑해 보이고, 자동 요약 기능을 넣으면 사용자가 시간을 아낄 수 있고, 추천 기능을 넣으면 제품 완성도가 올라간 것처럼 보입니다. 그래서 많은 팀이 말합니다. “일단 AI 기능 하나 넣어서 반응을 보자.”

이 접근 자체가 나쁜 것은 아닙니다. MVP는 빠르게 만들고 빠르게 검증하는 것이 중요합니다. 하지만 AI 기능은 일반 기능과 조금 다릅니다. AI 기능은 데이터, 이용자 신뢰, 결과물 책임, 규제 대응이 함께 따라옵니다.

예를 들어 단순한 버튼 하나를 추가하는 것과, 고객 데이터를 AI 모델에 보내 요약 결과를 만드는 것은 다릅니다. 화면상으로는 작은 기능처럼 보여도, 내부에서는 외부 API 호출, 개인정보 처리, 생성형 AI 결과물, 이용자 고지, 오류 대응 문제가 동시에 생길 수 있습니다.

그래서 AI 기능을 MVP로 넣기 전에는 최소한의 질문을 던져야 합니다. “이 기능이 멋있어 보이는가”보다 먼저 봐야 할 것은 이 기능이 어떤 데이터를 쓰고, 어떤 결과를 만들고, 누구에게 영향을 주는가입니다.

첫째, 기능의 성격

첫 번째 질문은 기능의 성격입니다. 이 AI 기능이 단순 보조 기능인지, 고객에게 직접 결과를 제공하는 기능인지 구분해야 합니다. 내부 직원이 초안을 참고하는 기능과, 고객에게 자동 답변을 내보내는 기능은 리스크가 다릅니다. AI가 내부에서만 쓰이는지, 외부 이용자에게 노출되는지가 첫 번째 갈림길입니다.

둘째, 어떤 데이터가 들어가는가

두 번째 질문은 데이터입니다. AI 기능에 어떤 데이터가 들어가는지 확인해야 합니다. 고객 이름, 연락처, 상담 내용, 계약서, 이력서, 결제 정보, 건강 정보, 업무 문서가 들어간다면 단순 테스트 기능으로 보기 어렵습니다. 프롬프트와 첨부파일도 데이터입니다.

셋째, 외부 모델 제공사

세 번째 질문은 외부 모델 제공사입니다. 많은 MVP는 자체 모델을 만들지 않고 외부 AI API를 붙입니다. 이때 입력 데이터가 어디로 전송되는지, 저장되는지, 학습에 사용되는지, 국외 이전 이슈가 있는지 확인해야 합니다. “API만 붙였다”는 말은 규제 관점에서 충분한 설명이 아닐 수 있습니다.

넷째, 결과물은 어떻게 쓰이는가

네 번째 질문은 결과물입니다. AI가 텍스트, 이미지, 영상, 음성, 리포트, 점수, 추천 결과를 만든다면 그 결과물이 어떻게 사용되는지 봐야 합니다. 특히 이용자가 결과물을 다운로드하거나 공유할 수 있다면 생성형 AI 결과물 표시나 고지 방식도 함께 고민해야 합니다.

다섯째, 이용자 영향

다섯 번째 질문은 이용자 영향입니다. AI 결과가 사용자의 선택, 평가, 기회, 권리, 비용에 영향을 주는지 확인해야 합니다. 추천 기능이라도 단순 콘텐츠 추천인지, 채용 후보자 추천인지, 대출 가능성 추천인지에 따라 무게가 달라집니다. 같은 추천 기능이라도 사용 맥락에 따라 리스크가 달라집니다.

여섯째, 고영향 AI 가능성

여섯 번째 질문은 고영향 AI 가능성입니다. AI 기본법에서는 사람의 생명, 신체, 기본권 등에 중대한 영향을 미칠 수 있는 인공지능을 고영향 AI로 다룹니다. MVP 단계라도 채용, 금융, 의료, 교육 평가, 공공서비스, 안전 관리 같은 영역에 AI 기능을 넣는다면 고영향 AI 가능성을 검토해야 합니다.

여기서 중요한 점은 “MVP니까 아직 괜찮다”는 생각이 항상 맞지는 않다는 것입니다. 고객에게 실제로 제공되고, 실제 데이터가 들어가고, 실제 의사결정에 영향을 준다면 MVP라도 책임은 생깁니다. 실험용이라는 내부 표현보다, 이용자에게 실제로 어떤 영향을 주는지가 더 중요합니다.

일곱째, 이용자 고지

일곱 번째 질문은 고지입니다. AI 기본법 제31조는 고영향 AI나 생성형 AI를 이용한 제품, 서비스 제공 시 이용자에게 AI 기반으로 운용된다는 사실을 사전에 고지하도록 정하고 있습니다. 따라서 AI 챗봇, AI 상담, AI 문서 생성, AI 리포트 생성처럼 이용자가 AI 기능을 직접 쓰는 경우에는 고지 문구를 미리 생각해야 합니다.

고지는 법무팀만의 문제가 아닙니다. 실제 화면에서 어디에 보여줄지, 사용자가 기능을 쓰기 전에 인식할 수 있는지, 모바일 화면에서도 잘 보이는지까지 봐야 합니다. AI 고지는 법률 문구이면서 동시에 UX 설계입니다.

여덟째, 오류 대응

여덟 번째 질문은 오류 대응입니다. AI는 그럴듯하지만 틀린 답을 할 수 있습니다. 부정확한 요약을 만들 수 있고, 부적절한 답변을 할 수 있고, 편향된 추천을 할 수도 있습니다. MVP 단계에서는 완벽한 안전 체계를 만들 수 없더라도, 최소한 오류 신고와 수정 절차는 있어야 합니다.

아홉째, 사람의 개입

아홉 번째 질문은 사람의 개입입니다. AI 결과를 사람이 검토한 뒤 제공하는지, 아니면 고객에게 바로 노출되는지에 따라 리스크가 달라집니다. 특히 평가, 추천, 심사, 상담처럼 민감한 영역에서는 사람의 확인 절차가 중요해질 수 있습니다. AI가 자동으로 끝내는지, 사람이 확인하는지가 중요한 차이를 만듭니다.

열째, 증빙

열 번째 질문은 증빙입니다. MVP 단계에서 가장 많이 놓치는 부분이 기록입니다. 나중에 기능이 커지고 고객사가 늘어난 뒤에는 “처음에 왜 이렇게 만들었는지” 기억하기 어렵습니다. 어떤 모델을 썼는지, 어떤 데이터를 보냈는지, 어떤 테스트를 했는지, 어떤 고지 문구를 넣었는지 남겨두는 것이 좋습니다.

MVP에서 필요한 증빙은 거창한 보고서가 아니어도 됩니다. AI 기능 설명, 데이터 흐름도, 모델 제공사 정보, 테스트 결과, 고지 화면 캡처, 변경 이력 정도만 있어도 출발점이 됩니다. 중요한 것은 완벽한 문서가 아니라 설명 가능한 기록입니다.

작을 때 정리해두면 덜 힘들다

스타트업 입장에서는 이 모든 것이 부담스럽게 느껴질 수 있습니다. 하지만 처음부터 대기업 수준의 규제 대응을 하자는 이야기가 아닙니다. 오히려 반대입니다. 작을 때 간단히 정리해두면, 나중에 커졌을 때 훨씬 덜 힘듭니다.

AI 기능은 출시 후 빠르게 바뀝니다. 프롬프트가 바뀌고, 모델 제공사가 바뀌고, 결과물 형식이 바뀌고, 고객 사용 방식이 바뀝니다. 그래서 MVP 단계에서 최소한의 기준을 세워두지 않으면, 나중에는 무엇이 언제 바뀌었는지 추적하기 어렵습니다.

가장 현실적인 순서

AI 기능을 MVP로 넣기 전 가장 현실적인 순서는 이렇습니다. 먼저 기능을 정의합니다. 그다음 입력 데이터와 출력 결과를 확인합니다. 이후 이용자 영향과 고영향 AI 가능성을 봅니다. 그다음 고지와 표시 방식을 설계하고, 마지막으로 증빙을 남깁니다.

B2B SaaS는 기록이 영업 자료가 된다

특히 B2B SaaS라면 더 중요합니다. 고객사는 앞으로 AI 기능을 도입할 때 “어떤 모델을 쓰나요?”, “우리 데이터가 어디로 가나요?”, “AI 사용 사실을 이용자에게 고지하나요?”, “고영향 AI 가능성은 검토했나요?”라고 물을 가능성이 큽니다. MVP 때 남긴 기록이 나중에 영업 자료가 될 수 있습니다.

반대로 아무 기록 없이 AI 기능을 빠르게 붙이면, 나중에 고객사 보안 검토나 법무 검토에서 멈출 수 있습니다. 기능은 이미 만들어졌는데 데이터 흐름을 설명하지 못하고, 고지 문구를 뒤늦게 넣으려니 UX가 어색해지고, 모델 제공사 정책을 확인하니 고객 데이터 처리 방식이 애매한 상황이 생길 수 있습니다.

정리하면

정리하면, AI 기능을 MVP로 넣기 전 확인할 것은 복잡한 법률 문서가 아닙니다. 이 기능이 무엇을 하고, 어떤 데이터를 쓰고, 누구에게 영향을 주며, 이용자에게 무엇을 알려야 하는지입니다. 이 네 가지를 정리하는 것만으로도 출발점은 만들어집니다.

AI MVP는 빠르게 만들어야 합니다. 하지만 빠르게 만든다는 것이 아무 기준 없이 만든다는 뜻은 아닙니다. AI 기능은 초기에 작게 만들수록, 데이터, 고지, 증빙 구조를 함께 잡아야 합니다. 그래야 제품이 커졌을 때 다시 뜯어고치는 비용을 줄일 수 있습니다.

Kompli가 집중하는 지점도 바로 이 부분입니다. AI 기능이 하나둘 늘어날수록 팀은 “우리가 어떤 AI를 쓰는지”, “어떤 기능이 규제 검토 대상인지”, “어떤 문서를 남겼는지”를 계속 추적해야 합니다. AI 컴플라이언스는 출시 직전의 숙제가 아니라, 제품을 만드는 과정 안에 들어가야 하는 체크포인트입니다.