[메디게이트뉴스 박민식 기자] 의료 AI가 병원 현장으로 들어오는 속도가 빨라지고 있다. 흉부 CT, 유방촬영, 생체신호 모니터링 등 특정 업무를 보조하는 개별 솔루션은 이미 주요 병원에서 활용되고 있고, 생성형 AI와 파운데이션 모델, 에이전틱 AI까지 등장하면서 적용 범위도 넓어지고 있다.

하지만 병원 입장에서 AI 도입은 단순히 성능 좋은 기술을 구매하는 문제가 아니다. 환자 개인정보가 어디로 이동하는지, 병원 EMR과 어떻게 연동되는지, 의료진 업무 흐름에 실제로 도움이 되는지, 도입 이후에도 기대한 효과를 내는지까지 따져야 한다. AI가 환자 진료와 병원 운영에 깊숙이 들어올수록 병원의 관리 책임도 커질 수밖에 없다.

서울아산병원이 올해 2월 말 AI혁신지원실을 정식 출범시킨 배경도 여기에 있다. 병원 안팎에서 쏟아지는 AI 솔루션을 기술적 성능만 보고 들여올 수 없는 만큼, 도입 전 검토부터 실제 적용, 사후 모니터링까지 담당할 전담 조직이 필요해진 것이다.

서울아산병원 양동현 AI혁신지원실장(영상의학과 교수)은 메디게이트뉴스와 만난 자리에서 의료 AI 도입을 “기술이 아니라 정책의 문제”라고 규정했다. AI 솔루션 자체는 기업이 만들 수 있지만, 이를 병원 워크플로우 안에 어떻게 배치하고 어떤 위험을 관리할지는 병원이 판단해야 한다는 의미다.

특히 양 실장은 생성형 AI 시대 병원의 역할로 ‘좋은 시험 문제’를 만드는 일을 강조했다. 공개된 의사 국가시험 문제를 AI가 풀어 높은 점수를 받는 식의 평가는 한계가 있고, 실제 리얼월드 데이터를 반영한 검증 체계가 필요하다는 것이다.

동시에 의료 AI 확산을 위해서는 병원별로 제각각인 EMR 구조부터 바꿔야 한다고 했다. 그는 “한국형 에픽을 만들어야 한다”며 “이건 개별 병원이 투자해서 할 수 있는 일이 아니다. 정부와 주요 대형병원이 함께 EMR의 핵심 뼈대를 만들어야 한다”고 말했다.

한편, 양 실장은 오는 9월 3일 서울 코엑스에서 열리는 메디게이트뉴스 ‘제3회 미래 헬스케어 트렌드 컨퍼런스’에서도 서울아산병원의 의료 AI 도입에서 확산까지를 주제로 강연에 나선다. 병원에 쏟아지는 다양한 AI 솔루션을 어떤 기준으로 검증하고 실제 임상 워크플로우에 안착시킬 것인지 등을 서울아산병원의 사례를 중심으로 소개할 예정이다.

AI 솔루션 활용 늘어, 병원 차원 전주기 관리 시스템 필요

Q. 서울아산병원이 AI혁신지원실을 출범시킨 배경은 무엇인가.

올해 2월 말에 정식으로 출범했다고 보면 된다. 인력이 들어오고 공간이 세팅되면서 준비 기간을 거쳐 본격적으로 업무를 시작했다. 지난 3월 미국 HIMSS(북미의료경영정보학회)에 다녀왔는데, 현장에서 느낀 변화가 컸다. HIMSS는 의료 IT 관련 회사들이 대거 모이는 행사로 미국 주요 병원의 IT 부서들도 많이 참석한다. 인상적이었던 건 미국에서는 에픽이라는 EMR 회사가 거의 애플 앱스토어 같은 플랫폼이 됐다는 점이다. 에픽 위에서 돌아가는 AI 솔루션을 판매하는 서드파티 업체들이 엄청나게 많아졌고, 생태계가 굉장히 활발하게 움직이고 있었다.

의료 AI가 더 이상 단순한 PoC나 콘셉트 단계가 아니라 실제 서비스로 구현되고 있었다. 예를 들어 유방암 환자가 진단을 받으면 AI가 환자에게 전화를 걸어 어느 교수에게 진료를 받기로 했는지 확인하고, 병원 방문 여부를 체크해 노쇼를 줄이는 식이다. 기술적으로 아주 높은 수준이 필요한 일은 아니지만 실제 병원 시스템 안에서 서비스로 돌아가고 있다는 점이 중요하다. 또 유방암 환자가 병원에 오면 여러 진료과 협진이 필요한데, AI가 관련 정보를 정리하고 주치의가 봐야 할 내용을 브리핑해주거나 관련 의료진이 함께 컨설트할 수 있는 플랫폼도 이미 판매되고 있었다.

이제 글로벌 빅테크들이 의료 학회에 부스를 내고 실제 병원 시스템의 백그라운드에서 돌아가는 서비스를 팔기 시작한 시대가 됐다. 병원 차원에서 대응할 필요가 생긴 것이다.

Q. 병원 차원에서 AI 도입을 관리해야 하는 이유는 무엇인가.

AI 솔루션은 많이 나오지만, 병원에 적용해 실제로 사용하는 건 전혀 다른 문제다. AI는 기술적인 측면보다 도입 과정 자체가 정책에 가깝다. 회사가 기술을 개발할 수는 있지만, 그것이 병원 워크플로우 안에 어떻게 들어갈지는 별개다. 도입하려면 직원들이 일하는 흐름을 상세히 분석해야 한다. 어느 지점에 AI가 들어가야 시너지가 날지 어느 지점에서는 위협 요소가 생길 수 있는지 봐야 한다. 

대표적인 문제가 환자 프라이버시다. AI혁신지원실이 출범한 뒤 초기에 한 업무 중 하나가 의료 AI 스타트업들의 솔루션 심사였다. 두 달 정도 동안 20건 넘게 심사했다. 심사하다 보면 스타트업 솔루션이 아직 PoC 단계인 경우가 있다. 환자 개인정보로 볼 수 있는 정보가 병원 밖으로 나갔다가 들어와야 하는 구조도 있다. 예를 들어 아마존 클라우드를 거쳐야 한다든지 하는 방식이다.

기존 병원 시스템은 환자 민감정보 보호가 매우 중요하기 때문에 기본적으로 폐쇄망 중심으로 설계돼 있다. 반면 AI 솔루션은 그렇지 않은 경우가 많다. 회사는 'AWS를 사용하지만 안전하다'고 설명할 수 있다. 하지만 병원 입장에서는 데이터가 어디 저장되는지, 누가 어떤 권한으로 보는지, 중간 관리 과정에서 어떤 위험이 있는지 세세하게 봐야 한다.

보안 사고는 기술적 결함보다 관리 부실에서 생기는 경우가 많다. 누군가 아이디와 패스워드를 잘못 관리해 환자 민감정보가 유출된다면 병원 입장에선 난처한 일이 된다. 그렇다고 AI혁신지원실의 역할이 단순한 감시는 아니다. 어떻게 하면 AI를 병원 안에서 효율적으로 잘 쓰게 도와줄지, 동시에 개인정보와 병원 지식재산이 밖으로 나가지 않도록 어떻게 관리할지 함께 보는 것이다. 

Q. AI 기본법 시행에 따른 영향도 있나.

AI 기본법 시행도 병원 AI 거버넌스 구축의 중요한 배경이 됐다. 병원이 어떤 회사의 AI 솔루션을 구매했는데 문제가 생겼다고 해서 환자에게 그건 회사 책임이라고만 할 수는 없다. 병원은 어떤 절차로 도입 결정을 했는지, 도입 후 일정 기간이 지난 후에도 실제로 합당하게 쓰이고 있는지 등을 모니터링해야 한다. 오남용은 없는지 처음 기대했던 효과가 실제로 나타나는지도 봐야 한다.

예를 들어 어떤 AI가 진단 정확도 90%라고 해서 들어왔는데, 막상 우리 병원 데이터로 써보니 형편없을 수도 있다. 이런 부분을 도입 전부터 도입 후까지 관리할 전담 기구가 필요하다. 법 이전에도 서울아산병원처럼 큰 조직에서는 자연스럽게 필요했던 일이라고 본다.

Q. 서울아산병원에서 현재 사용 중인 AI 솔루션은 어떤 것들이 있나.

서울아산병원은 병원과 융합연구원이 함께 있는 구조가 특징이다. 융합연구원에는 많은 연구자들이 있고, 초창기부터 병원 내부에서 AI 솔루션을 개발해 기술이전한 사례가 많다. 대표적인 것이 영상 관련 솔루션이다. 영상 관련 AI 솔루션은 10여 개 정도 사용하고 있다. 생체신호를 미리 모니터링해 위험을 알려주는 솔루션도 있는데, 일부 고위험 환자를 대상으로 선택적으로 사용하고 있다.

전체 환자에게 적용할 것인지, 고위험 환자에게만 적용할 것인지는 비용과 기존 시스템 연동 문제까지 함께 고려해야 하는 중요한 결정이다. 앞서 언급했듯이 최근 두 달 동안 AI혁신지원실에서 심의한 것만 20개가 넘는다. 상당수는 진료 현장과 관련된 솔루션들이다. 

병원 자체 생성형 AI 시스템∙차세대 데이터 플랫폼 준비

Q. 생성형 AI나 에이전틱 AI도 의료현장에 속속 도입되고 있다. 어떤 방식으로 병원 업무에 적용될 수 있나.

초기에는 사람이 하는 일 중 반복적이고 본질에서 떨어진 업무를 줄이는 방향이 될 가능성이 크다. 의료진 업무를 하나의 스펙트럼으로 보면 고차원적 판단이 필요한 일도 있고, 반복적이고 상대적으로 낮은 수준의 업무도 있다. 초반에는 낮은 스펙트럼의 반복 업무를 줄이는 쪽으로 AI가 많이 활용될 것이다.

서울아산병원은 작년에 오래 준비해 일부 시스템을 올해 론칭할 계획이다. 예를 들어 특정 검사를 하기 전에 필요한 환자 정보를 미리 정리하는 업무가 있다. 기존에는 의료진이 환자 기록을 훑어보고 검사 준비 전 기록지에 필요한 내용을 채워 넣었다. 앞으로는 병원 안에 구축한 진료용 GPU 팜을 활용해 환자가 검사를 받기 전 백그라운드에서 AI가 기록을 미리 검색하고 필요한 항목을 채워두는 방식이 가능하다. 이 경우 할루시네이션(환각) 위험은 낮다. 환자의 실제 기록을 검색해 정해진 양식에 채워 넣는 방식이기 때문이다. 이를 통해 의료진은 기존에 이 작업에 쓰던 시간을 줄일 수 있다.

원내 지식 검색도 중요한 영역이다. 병원에는 진료 지침, 간호 지침, 직원 규정 등 수많은 내부 문서가 있다. 이런 문서를 RAG 방식으로 연결해 원내에서 사용할 수 있는 GPT 형태의 시스템을 만드는 것도 검토하고 있다. 예를 들어 응급 상황에서 필요한 진료 프로토콜을 물었을 때 원내 지침에 근거해 답하고, 근거 문서를 함께 보여주는 방식이다. 그래야 사용자가 AI의 답변이 거짓말이 아닌지 확인할 수 있다.

에이전틱 AI도 비슷한 맥락이다. 작은 에이전트들을 조합하고 중간에서 오케스트레이션하는 구조 자체가 따라갈 수 없는 기술 장벽이라고 보지는 않는다. 다만 의료 현장에서 더 본질적인 기술 장벽은 의료 파운데이션 모델이다. 환자가 있을 때 그 환자가 앞으로 어떻게 될지 예측하는 모델을 만들려면 어마어마한 리소스와 그에 맞게 준비된 데이터가 필요하다. 서울아산병원이 데이터를 준비한다는 것도 그런 의미다.

Q. AI가 실제 임상 의사결정이나 환자 치료 결과에 미치는 영향은 어떻게 보나.

전 세계적으로 봐도 진료의 본질에 굉장히 가깝게 접근한 AI 솔루션은 아직 생각보다 많지 않다. 현재까지 나온 AI 솔루션 대부분은 의사 업무 중에서도 상대적으로 낮은 스펙트럼에 가까운 일을 한다. 그중 본질에 접근한 대표 사례가 유방촬영 AI다. 미국이나 유럽 일부 국가는 유방촬영 결과를 두 명의 의사가 독립적으로 판독해야 하는 시스템을 운영한다. 굉장히 고비용 구조다. 이런 곳에서는 의사 한 명과 AI 하나가 함께 판독했을 때 기존처럼 의사 두 명이 판독하는 것과 비교해 괜찮은지 전향적으로 연구한다.

그 결과 실제 암 진단, 불필요한 추가 검사, 위양성 문제 등을 비교했을 때 일부 시나리오에서는 AI 대체가 괜찮다는 근거가 나왔다. 이런 경우 해당 국가에서는 관련 소프트웨어가 빠르게 도입된다. 이런 시나리오는 진료의 본질에 접근하는 연구다. 긍정적 결과가 나온 영역에서는 국내외에서 AI 소프트웨어가 도입되고 있다. 서울아산병원도 이런 종류의 솔루션을 사용하고 있다.

다만 중요한 건 AI의 권고가 실제 진료 현장에 맞느냐다. IBM 왓슨이 실패한 이유도 그런 데 있었다. 프로토콜을 많이 외워서 답을 내놓더라도 실제 맥락에 맞지 않으면 현장에서 쓸 수 없다. 생체신호 기반 AI도 잘못 도입하면 불필요한 알람만 계속 생성할 수 있고, 현장에서는 결국 알람을 꺼놓고 쓰게 된다. 그러면 AI 도입은 완전히 헛일이 된다. 뉴스에서 좋다고 나오거나 규제기관 승인을 받았다고 해서 현장에서 바로 의미가 있는 건 아니다. 승인 받을 때는 회사가 정한 데이터셋으로 평가하는 경우가 많다. 그 데이터셋이 실제 병원 현장과 맞지 않는 경우도 흔하다. 따라서 승인 당시 정확도는 기본 단계일 뿐이다. 현장에서의 검증은 완전히 다른 이야기다.

Q. 의료 AI의 한계나 우려는 무엇이라고 보나.

과도한 의존, 오남용, 환각, 현장 부적합성 등이 모두 중요하다. 그래서 도입 과정에서 그런 문제를 따져보는 것이다. 과도한 의존이라는 것도 맥락에 따라 다르다. 정말 고도의 판단이 필요한 문제라면 의사가 쉽게 과도하게 의존하지 않을 수도 있다. 하지만 AI가 실제 문제를 해결하지 못하는데도 병원과 회사가 나쁘게 표현하면 결탁해 수익만 발생시키는 구조가 된다면 문제가 생길 수 있다. 잠깐은 좋을 수 있지만 결국 문제가 될 수밖에 없다.

AI의 환각 문제도 중요하다. 영상 AI에서는 AI가 병변이 있다고 판단했을 때 어느 부위가 문제인지 표시해주면 의사가 그 부위를 보고 확인할 수 있다. 이런 방식이 휴먼 인 더 루프다. AI가 의사결정 과정에 들어오더라도 사람이 어딘가에서 확인할 수 있어야 한다. 특히 챗GPT 이후 생성형 AI, 파운데이션 모델의 시대가 되면서 문제는 더 복잡해졌다. 딥러닝 시대에는 AI가 틀리더라도 지금처럼 그럴싸하게 틀린 말을 하지는 않았다. 하지만 생성형 AI는 틀린 말을 아주 그럴싸하게 할 수 있다.

전통적으로 의료는 새로운 기술이 나오면 따라가면서 검증했다. 의학계와 병원이 그 기술이 환자에게 도움이 되는지, 사회경제적으로 타당한지 보고 시장에 들어오게 했다. 그런데 지금 AI 기술은 너무 빠르게 바뀐다. 병원이나 의학계가 매주 쏟아지는 기술을 따라가며 검증할 수 있느냐가 큰 문제다.
 
병원 역할은 AI 개발 넘어 검증으로…정부-대형병원 합심해 '한국형 에픽' 구축 필요

Q. 생성형 AI 시대에 병원의 역할은 어떻게 달라져야 하나.

딥러닝 시대에는 병원 데이터를 이용해 AI를 학습시키고, 이를 바탕으로 솔루션을 만드는 프레임이 강했다. 서울아산병원도 그런 연구와 기술이전을 많이 해왔다. 하지만 지금은 병원이 단순히 데이터를 제공해 AI를 개발하는 역할만 할 수는 없다. 이제 병원은 ‘시험 문제’를 열심히 만들어야 하는 시대가 됐다. 통상적으로는 벤치마크라고 부르는 것이다.

의사 국가시험 문제를 AI에게 풀게 해서 90점을 받았다고 하는 사례들이 있다. 그런데 그런 문제들은 대부분 공개돼 있고, AI가 이미 학습했을 가능성이 높다. 오염된 데이터라면 큰 의미가 없다. 병원이 해야 할 일은 믿을 만하고 실제 리얼월드 데이터를 반영하며, 끊임없이 변하는 의료 시나리오에 맞춘 좋은 문제지와 답안을 만드는 것이다. 특히 서울아산병원 같은 대형병원은 그런 역할을 해야 한다. AI 기술은 급속도로 발전하고 있는데, 병원이 평가 체계를 만드는 속도는 그렇게 빠르기 어렵다. 그래도 적어도 트렌드에 맞춰 따라가야 한다. 그래야 어느 순간 어떤 AI가 '이걸 다 해준다'고 주장할 때 병원이 제대로 평가할 수 있다.

Q. 서울아산병원 임상 데이터의 강점은 무엇인가.

서울아산병원의 강점은 중증 환자가 많다는 것뿐 아니라 환자의 시작과 끝을 모두 볼 수 있다는 데 있다. 환자 데이터라는 점에서 ‘가지고 있다’는 표현은 조심스럽지만, 중증 환자들은 보통 진단부터 수술, 이후 추적관찰까지 서울아산병원에서 이어지는 경우가 많다. 단순히 환자 수가 많은 것이 아니라 데이터가 깊다. 그만큼 복잡하기도 하다.

서울아산병원은 국내 병원 중에서도 데이터 플랫폼을 선도적으로 만들고 활용했던 기관 중 하나다. 초기에 AI 소프트웨어가 많이 나올 수 있었던 것도 이런 기반 덕분이다. 다만 선도적으로 시작했기 때문에 시간이 지나면서 시스템을 크게 한 번 수정할 필요가 생겼다. 그래서 올해 차세대 데이터 플랫폼을 설계하고 사업을 시작하려고 한다.

Q. 차세대 데이터 플랫폼은 어떤 방향으로 구축되나.

병원에서 생산되는 데이터는 AI 회사나 연구자들이 원하는 형식과 많이 다르다. AI를 학습시키거나 검증하려면 데이터가 잘 정렬돼 있어야 한다. 해외에는 오픈 데이터셋이 일부 있어 기업들이 개발과 검증에 활용하지만, 한국에서는 병원 데이터를 외부에 공개하기 어렵다. 환자 입장에서도 자신의 진료 데이터가 밖으로 돌아다닌다고 생각하면 받아들이기 힘들 것이다.

그래서 서울아산병원이 구상하는 차세대 데이터 플랫폼의 핵심은 활용성과 보안성을 동시에 확보하는 것이다. 정형 데이터뿐 아니라 영상, 유전체 같은 비정형 데이터까지 포괄하고, 시스템 차원에서 가명화·익명화가 이뤄지도록 해야 한다. 동시에 데이터는 외부로 나가지 않고, 내부 연구자나 외부 연구자·기업이 일정 절차를 거쳐 병원 안의 분석 환경에서 활용하는 구조를 만들려 한다. 올해 2월 유니스트와 MOU를 맺은 것도 같은 취지다. 외부 연구자나 기업이 서울아산병원 플랫폼 안으로 들어와 데이터를 활용하되, 데이터 자체는 밖으로 반출되지 않는 방식이다.

결국 중요한 건 잘 관리된 데이터셋과 시험 문제를 만드는 것이다. 구글 Med-Gemini 같은 모델도 학습 데이터나 성능 평가 데이터셋을 병원 리얼월드 데이터 관점에서 보면 아직 조악한 부분이 있다. 외부 스타트업이 자신들의 모델을 서울아산병원 데이터로 검증하고 싶다면, 병원이 관리하는 환경 안에서 시험을 치르고 성적을 확인하는 형태가 될 수 있다. 관련 구축은 조만간 시작할 계획이고, 파일럿 시스템은 이미 원내에 있다.

Q. 병원의 AI 활용과 관련해 정부 차원의 지원이 필요한 부분은 무엇인가.

일관되게 주장하는 것이 있다. 한국형 에픽을 만들어야 한다. 이건 개별 병원이 투자해서 할 수 있는 일이 아니다. 국내 주요 대형병원들은 10년에 한 번 정도 1000억원 규모의 예산을 들여 EMR 시스템을 고도화한다. 병원들이 각자 반복적으로 대규모 비용을 쓰는 구조다. 차라리 정부가 주도해서 EMR의 핵심 뼈대를 만들 필요가 있다. 전체 예산이 100이라고 하면 정부가 50을 내고, 빅5 병원 등이 나머지 50을 부담하는 식으로 공통 기반을 만들 수 있다.

정부 주도로 관련 사업을 하고, 해당 시스템을 EMR 인증제에 쓰면서 거기에 참여한 병원들은 무상으로 사용할 수 있게 하면 되지 않나. 작은 병원이나 공공의료원에도 정부 예산으로 만든 것이니 나눠줄 수 있다. 이렇게 하면 의료 현장의 AI 도입이 훨씬 빨라질 수 있다.

다만 모든 병원의 용어와 워크플로우를 완전히 통일하자는 뜻은 아니다. 병원마다 문화와 업무 방식이 다르기 때문에 그것을 공통으로 만드는 건 말이 안 된다. 대신 환자 진료와 EMR의 핵심 축이 되는 데이터 구조, 용어, 이동 방식은 맞춰야 한다. 부차적인 부분은 병원별로 알아서 하면 된다. 이렇게 하면 국가 차원에서 의료 데이터를 훨씬 효율적으로 활용할 수 있고, AI 도입도 빨라질 수 있다. 병원들이 10년에 한 번씩 대규모 예산을 들여 시스템을 바꾸는 부담도 줄어들 수 있다.

국내 병원이 에픽을 그대로 사다 쓰기는 현실적으로 어렵다. 에픽은 미국 주요 병원에도 마음대로 커스터마이징을 해주지 않는 '슈펴 갑'이고, 비용도 국내 병원이 감당하기 쉽지 않다. 결국 국내 병원 EMR의 효율성은 살리면서, AI와 데이터 활용을 위한 공통 기반은 국가 차원에서 마련해야 한다.