보건·의료·생명과학 | 제206화 AI 진단의 정확성과 책임의 문제

화면을 보는 의사와 환자

 

1. 판독 결과

2025년 3월, 경기도 성남의 한 영상의학과였습니다. 45세 회사원 김태훈은 폐 CT 촬영을 마쳤습니다. 10분 후 태블릿 화면에 결과가 떴습니다. AI 판독 시스템이었습니다. 우측 폐 하엽에 3mm 결절이 발견됐다고 했습니다. 추적 관찰 권고라고 했습니다. 김태훈은 화면을 오래 들여다봤습니다. 결절이라는 단어가 눈에 걸렸습니다. 의사를 기다렸습니다. 의사는 3분 뒤 들어왔습니다. AI 결과를 확인했습니다. 크기가 작고 모양이 양성 소견이라고 했습니다. 6개월 후 재촬영하면 된다고 했습니다. 김태훈은 집에 돌아와 결절을 검색했습니다. 잠을 이루지 못했습니다.

 

2. AI 진단의 확산

의료 AI는 빠르게 임상에 진입하고 있습니다. 흉부 X선 판독, 안저 사진 분석, 피부병변 분류, 병리 조직 검사. 영상 데이터를 분석하는 영역에서 AI의 정확도는 전문의 수준에 근접하거나 일부 영역에서는 능가합니다. 2023년 구글 딥마인드의 안과 AI는 50가지 안구 질환 진단에서 전문의와 동등한 성능을 보였습니다. 국내에서도 2024년 기준 식품의약품안전처 허가를 받은 의료 AI 소프트웨어는 200개를 넘었습니다. 기술은 이미 병원 안에 있습니다.

 

3. 정확도의 이면

AI 진단의 정확도는 높습니다. 그러나 높다는 것이 완벽하다는 의미는 아닙니다. AI는 학습 데이터에 의존합니다. 특정 인종, 특정 연령대, 특정 병원의 데이터로 학습된 AI는 그 범위 밖에서 성능이 떨어질 수 있습니다. 2022년 미국 연구에서 피부암 진단 AI의 정확도가 백인 환자에서는 91%였지만 흑인 환자에서는 73%였습니다. 학습 데이터의 편향이 진단 편향으로 이어졌습니다. 한국에서 개발된 AI가 한국인 데이터로만 학습됐다면 다른 인종에게 적용했을 때 결과가 달라질 수 있습니다.

 

AI가 틀렸을 때 누가 책임지는가

 

의료 인공지능 편향 분석

 

4. 오진의 책임 소재

AI가 암을 발견하지 못했습니다. 환자가 뒤늦게 진단받았습니다. 책임은 누구에게 있습니까. AI를 개발한 회사입니까. AI 판독 결과를 확인한 의사입니까. AI 도입을 결정한 병원입니까. 현재 법률 체계는 명확한 답을 주지 못합니다. 의료법상 진단의 책임은 의사에게 있습니다. AI는 보조 도구입니다. 의사가 AI 결과를 최종 확인했다면 의사의 책임입니다. 그러나 AI 판독 속도가 빠르고 케이스가 많을 때 의사가 모든 판독을 실질적으로 검토하기 어렵습니다. 형식적 확인이 실질적 책임을 보장하지 않습니다.

 

5. 설명 불가능한 판단

AI 진단의 또 다른 문제는 설명 가능성입니다. AI는 왜 이 결절이 의심스러운지 설명하지 않습니다. 수백만 개의 데이터를 학습한 패턴 인식 결과입니다. 블랙박스입니다. 의사는 AI가 무엇을 보고 판단했는지 알 수 없는 경우가 많습니다. 환자도 알 수 없습니다. 설명할 수 없는 판단을 신뢰해야 하는 상황이 만들어집니다. 의료에서 설명은 단순한 정보 제공이 아닙니다. 환자가 치료를 결정하는 근거입니다. 설명 없는 진단은 환자의 자율적 결정권을 제한합니다.

 

6. 의사-AI 협업의 현실

AI가 의사를 대체하는 것이 아니라 보조한다는 것이 공식 입장입니다. 그러나 현실은 복잡합니다. AI 판독 결과가 먼저 나오면 의사는 그 결과에 영향을 받습니다. 앵커링 효과입니다. AI가 정상이라고 했을 때 의사가 이상 소견을 찾으려는 노력이 줄어들 수 있습니다. 반대로 AI가 이상이라고 했을 때 의사가 불필요한 추가 검사를 권유할 수 있습니다. 보조 도구가 판단의 틀을 만들어버립니다. 협업이 의존으로 바뀌는 지점이 어디인지 아직 명확하지 않습니다.

---

진단의 미래

---

7. 환자가 경험하는 AI 진단

김태훈이 경험한 것처럼 AI 판독 결과는 환자에게 불안을 줄 수 있습니다. 3mm 결절이라는 숫자는 의료 전문가에게는 일상적 소견이지만 환자에게는 공포입니다. AI는 결과를 출력하지만 맥락을 설명하지 않습니다. 환자가 결과를 이해하고 적절히 반응하도록 돕는 것은 여전히 사람의 몫입니다. AI 진단이 확산될수록 의사의 역할이 줄어드는 것이 아니라 설명과 소통의 역할이 더 중요해집니다. 기술이 정확성을 높이고 인간이 의미를 전달하는 구조입니다.

 

8. 데이터 편향과 형평성

AI 학습 데이터는 주로 대형병원의 데이터입니다. 지방 병원, 저소득층 환자, 노인 환자의 데이터는 상대적으로 적습니다. AI가 특정 집단에 덜 정확하다면 의료 불평등을 심화시킵니다. 이미 의료 접근성이 낮은 집단이 AI 진단 정확도에서도 불리해집니다. 기술이 불평등을 해소하는 도구가 될 수도 있고 불평등을 고착시키는 도구가 될 수도 있습니다. 어느 방향으로 가는가는 누가 어떤 데이터로 AI를 만드는가에 달려 있습니다.

 

기술의 정확성과 인간의 책임은 별개의 문제다

 

9. 개인이 알아야 할 것

AI 진단 결과를 받았을 때 몇 가지를 확인할 수 있습니다. 이 AI가 식품의약품안전처 허가를 받은 의료기기인지 물어볼 수 있습니다. 결과가 의심스러우면 AI 판독 없이 의사가 직접 영상을 검토해달라고 요청할 수 있습니다. 중요한 진단일수록 다른 병원에서 이중 확인을 받는 것도 권리입니다. AI는 도구입니다. 최종 판단은 의사가 합니다. 환자는 그 과정에서 충분한 설명을 받을 권리가 있습니다. 기술을 신뢰하되 의문을 가질 권리도 있습니다.

 

10. 판단의 무게

김태훈은 6개월 후 재촬영을 했습니다. 결절 크기에 변화가 없었습니다. 양성으로 판정됐습니다. 6개월 동안의 불안이 사라졌습니다. AI가 발견한 것은 맞았습니다. 걱정할 것이 없다고 알려준 것은 의사였습니다. 기술이 이상을 찾아내고 사람이 의미를 설명했습니다. 그것이 지금 AI 진단의 현실입니다. 앞으로 AI가 더 정확해질 것입니다. 그러나 진단 결과가 한 사람의 삶에 어떤 무게로 다가오는지는 숫자로 측정되지 않습니다. 정확한 기술과 인간적 판단이 함께 있을 때 의료는 완성됩니다.