AI 의료기기를 도입한 병원과 개발사 중 누가 책임질까?

AI 의료기기를 도입하려는 병원에서 가장 자주 나오는 질문이 있습니다.

“이 AI는 개발사가 만든 건데, 문제가 생기면 병원도 책임을 져야 하나?”라는 질문입니다.

반대로 AI 의료기기 개발사 입장에서는 이런 고민이 있습니다.

“우리는 제품을 만들고 허가도 받았는데, 병원이 실제 현장에서 어떻게 쓰는 것까지 우리가 책임져야 하나?”라는 고민입니다.

결론부터 말하면, AI 의료기기 책임은 병원과 개발사 중 한쪽에만 몰리는 구조로 보기 어렵습니다.

AI 의료기기가 일반 소프트웨어와 다른 점

AI 의료기기는 일반 소프트웨어와 다릅니다. 환자의 영상, 검사 수치, 증상, 진료 기록 등을 분석해 의료진의 판단에 영향을 줄 수 있습니다. 특히 진단, 치료, 예후 예측, 환자 분류 같은 영역에 들어가면 사람의 생명과 신체 안전에 연결될 수 있습니다.

그래서 AI 기본법 관점에서는 “누가 만들었나”도 중요하지만, “누가 제공했는가”, “누가 운영했는가”, “누가 최종 판단에 활용했는가”를 함께 봐야 합니다.

개발사의 책임은 제품에서 시작된다

개발사의 책임은 주로 제품 자체에서 시작됩니다. 어떤 데이터로 학습했는지, 어떤 성능을 보이는지, 어떤 상황에서 오류가 날 수 있는지, 어떤 환자군에서는 성능이 떨어질 수 있는지 등을 관리해야 합니다.

개발사는 “AI가 어떤 조건에서 잘 작동하고, 어떤 조건에서는 조심해야 하는지”를 설명할 수 있어야 합니다.

특히 의료 AI는 단순히 정확도 숫자 하나로 설명하기 어렵습니다. 민감도, 특이도, 위양성, 위음성, 사용 대상, 제외 대상, 데이터 한계, 임상적 사용 범위까지 함께 봐야 합니다. 병원이 실제로 제품을 안전하게 쓰려면 이런 정보가 필요합니다.

변경 이력과 업데이트 고지

또한 개발사는 제품 업데이트나 모델 변경이 있을 때 그 내용을 관리해야 합니다. AI 모델이 바뀌면 성능이 바뀔 수 있고, 성능이 바뀌면 병원에서 신뢰하는 기준도 달라질 수 있습니다. 따라서 변경 이력, 버전 관리, 업데이트 고지 체계는 개발사 책임에서 매우 중요합니다.

병원의 책임은 도입과 사용에서 시작된다

반면 병원의 책임은 제품을 도입하고 사용하는 과정에서 시작됩니다. 병원은 외부 제품을 구매했다고 해서 모든 검토를 생략할 수 없습니다. 이 AI가 어떤 진료 과정에 들어가는지, 의료진이 어떻게 참고하는지, 환자에게 어떤 방식으로 안내할지 정해야 합니다.

병원은 “AI를 어떻게 쓰고 있는지”에 대한 내부 절차와 기록을 남겨야 합니다.

예를 들어 AI가 흉부 X-ray에서 이상 소견 가능성을 표시한다고 해보겠습니다.

이때 AI 결과를 의료진이 참고만 하는지, AI 결과가 판독 우선순위를 바꾸는지, AI가 놓친 사례를 어떻게 확인하는지에 따라 병원의 관리 책임은 달라집니다.

병원이 해야 할 일은 AI를 직접 개발하는 일이 아닙니다. 대신 도입 전 검토, 의료진 교육, 사용 범위 설정, 환자 안내, 오류 보고, 진료 기록과의 연결 같은 운영 책임을 챙겨야 합니다.

두 책임은 완전히 분리되지 않는다

여기서 중요한 것은 “개발사 책임”과 “병원 책임”이 서로 완전히 분리되지 않는다는 점입니다.

병원이 AI를 제대로 검토하려면 개발사 자료가 필요합니다.

개발사가 아무리 자료를 잘 만들어도 병원이 현장에서 잘못 사용하면 문제가 생길 수 있습니다.

AI 의료기기 책임은 제품 책임과 사용 책임이 연결되는 구조입니다.

개발사는 병원이 이해할 수 있는 설명자료를 제공해야 하고, 병원은 그 자료를 바탕으로 실제 진료 흐름에 맞는 사용 기준을 만들어야 합니다. 판매사나 공급사가 중간에 있다면, 이 자료가 병원에 제대로 전달되도록 하는 역할도 중요합니다.

병원이 개발사에 확인할 질문

병원이 개발사에 꼭 확인해야 할 질문도 있습니다. 이 제품이 고영향 AI에 해당할 가능성이 있는지, 의료기기 허가 범위는 어디까지인지, 사용하면 안 되는 조건은 무엇인지, 성능 한계는 무엇인지, 업데이트가 되면 병원에 어떻게 알려주는지 확인해야 합니다.

최종 판단은 어디에 있는가

또 하나 중요한 질문은 최종 판단의 위치입니다. 의료진이 AI 결과를 참고하더라도, 최종 임상 판단을 사람이 한다면 병원은 사람의 관리, 감독 체계를 설명할 수 있어야 합니다.

“의사가 최종 판단한다”는 말만으로는 부족할 수 있습니다. 실제로 의료진이 AI 결과를 검토할 시간이 있는지, 반대 판단을 할 수 있는지, AI 결과가 지나치게 자동으로 반영되지는 않는지, 오류가 의심될 때 중단하거나 재검토하는 절차가 있는지 봐야 합니다.

사람의 최종 판단이 의미 있으려면, 사람이 실제로 개입할 수 있는 구조가 있어야 합니다.

문제가 생겼을 때 이슈별로 나누기

문제가 발생했을 때도 책임은 이슈별로 나눠 봐야 합니다. 모델 설계나 성능 검증 문제라면 개발사 쪽 확인이 필요합니다. 병원이 허가 범위를 벗어나 사용했다면 병원의 운영 문제가 될 수 있습니다. 개발사가 중요한 업데이트를 알리지 않았다면 공급, 고지 체계 문제가 될 수 있습니다. 의료진이 AI 결과를 무비판적으로 받아들였다면 진료 과정의 관리 문제가 될 수 있습니다.

계약서에서 함께 볼 항목

그래서 AI 의료기기 계약에서는 단순 납품 조건만 볼 것이 아니라 규제 대응 자료 제공, 업데이트 고지, 오류 보고, 사용 범위, 교육 자료, 책임 분담 조항을 함께 봐야 합니다.

설명자료는 부담이 아니라 영업 자산

개발사 입장에서도 병원에 자료를 주는 것이 부담으로만 볼 일은 아닙니다. 오히려 잘 정리된 설명자료와 위험관리 문서는 영업에서 신뢰를 만드는 자료가 됩니다. 병원은 “이 제품을 믿고 쓸 수 있는가”를 보고, 개발사는 “우리가 이 위험을 관리하고 있다”는 것을 보여줘야 합니다.

AI 의료기기 시장에서는 성능만큼이나 설명 가능성, 문서화, 변경 이력 관리가 중요해질 가능성이 큽니다.

병원 입장에서는 개발사가 모든 것을 책임질 것이라고 생각하면 위험합니다. 개발사 입장에서는 병원이 알아서 쓸 것이라고 생각하면 위험합니다. AI 기본법 시대에는 양쪽 모두 자신이 맡은 역할을 문서로 남겨야 합니다.

Kompli 관점에서 보면 이 문제는 결국 “책임 소재 논쟁” 이전에 “역할과 증빙 정리”의 문제입니다. 병원은 어떤 AI를 어떤 진료 흐름에서 쓰는지 정리해야 하고, 개발사는 그 AI가 어떤 기준과 한계 안에서 작동하는지 설명할 수 있어야 합니다.

정리하면

정리하면, AI 의료기기를 도입한 병원과 개발사 중 누가 책임지느냐는 질문의 답은 “상황에 따라 다르다”입니다. 하지만 너무 애매하게 끝낼 필요는 없습니다. 개발사는 제품의 설계, 성능, 위험관리, 설명자료를, 병원은 도입 검토, 사용 절차, 의료진 감독, 환자 안내, 기록 관리를 맡는다고 나눠보면 훨씬 명확해집니다.

AI 의료기기 책임은 한쪽이 전부 떠안는 것이 아니라, 제품 생애주기와 실제 사용 흐름에 따라 나눠 관리해야 합니다.