[메디게이트뉴스 이지원 기자] 의료 AI(인공지능)의 핵심으로 '데이터'가 주목되면서 AI 제품·기술 개발 초기부터 병원과 협력이 중요해지고 있다.

19일 카카오벤처스의 인사이트풀 데이(KV Insightful Day 2024: 혁신 너머의 미래)에서 병원에서의 생성형 인공지능(AI) 역할이 논의됐다.

이날 카카오벤처스 정주연 선임 심사역은 의료 현장에서 생성형 AI가 지닌 잠재력을 강조하며, 병원과 의료 AI 기술 간의 간극을 좁히는 노력이 필요하다고 밝혔다.

정 심사역에 따르면 의료 생성형 AI는 이미 의사 국가고시를 통과할 정도의 수준에 도달했으며, 의료인보다 더 높은 수준의 답변을 일반인에게 제시한다. 하지만 데이터 편향성, 책임소재, 알고리즘의 투명성 부족, 개인정보 보호 등으로 병원 내 의료 AI 도입에는 어려움이 있다.

정 심사역은 헬스케어 기술 회사와 의료기관 사이의 투자 수익률(ROI)에 대한 간극을 언급하며 "의료기관은 아직 효능, 가치가 와닿지 않기에 참여와 지불 의향이 미미하다. 다만 번아웃, 불안정한 정책 등으로 병원 내 나뉘었던 역할과 책임(R&R)이 흔들리고 있다. 이에 업무범위를 재정의하는 논의가 시작됐다"고 말했다.

정 심사역은 "생성형 의료 AI는 크게 '인간을 보조하는 것'과 '대체하는 것'으로 나눌 수 있다"고 설명했다. 이 안에서는 '완전히 새로운 것'과 '주어진 룰 내에서 변주하는 것'으로 나뉜다며, ▲AI-enabled ▲AI Copilot ▲AI Imagineer, companion ▲AI Agent를 소개했다.

인간을 보조하는 범주에 속한 AI-enabled는 인간의 해석으로는 알 수 없는 추가적인 통찰력을 제공한다. AI Copilot은 기존의 업무환경에서 생산성 향상을 목적으로 일부 작업을 자동화한다.

인간을 대체하는 범주에 속한 AI Imagineer, companion은 AI를 통해 효율성과 정확성, 사용자 경험을 강화한 서비스를 선보이고, 데이터와 임상의 간 변동성을 줄여 진료의 품질을 향상한다. AI Agent는 최소한의 인간 개입으로 특정 작업을 수행하는 자율 또는 반자율 시스템을 의미한다.

이날 정 심사역은 "의료 생성형 AI의 주도권은 멀티모달(multimodal)과 상황 이해를 통해 맥락을 파악하는 제품이 차지할 것"으로 전망했다.

정 심사역은 "의료 데이터는 다차원적이다. 임상기록, 영상, 비디오, 웨어러블 기기 데이터, 유전자 시퀀싱 등 다양한 유형의 데이터를 다룬다"며 "이 때문에 멀티모달 입력이 가능해지면 의료인의 업무 방식을 더욱 가깝게 모사하고 다양한 조합을 통해 의미있는 사용 사례를 만들 것"이라고 전했다.

그는 "같은 나이, 성별, 증상으로 병원을 방문하더라도 환자의 과거력과 현재 상황 등에 따라 진단이 달라진다"며 "어떤 맥락에서 시행한 검사인지에 따라 해석이 달라지기 때문에 다양한 신호를 습득하고, 그 안에서 우선순위를 분류해 의미와 의도를 파악하는 과정이 필요하다"고 말했다.

이어 그는 생성형 AI가 병원에서 활용되기 위해서는 생성형 의료 AI를 새로운 형태의 지능으로 인정할 수 있어야 한다고 언급했다.

정 심사역은 "지금까지 AI는 어떤 용도에서, 특정 질환에서 진단 목적으로 혹은 스크리닝 목적으로 사용했다. 목적에 따라 정확도를 평가하고 이에 따라 인허가를 결정했다. 하지만 LLM을 일례로, 하나의 특정 용도가 아닌 수만 가지에서 활용할 수 있다"며 "앞으로 AI를 어떻게 받아들이고 평가해 안전·효율성을 확인할지에 대해 논의해야 한다"고 전했다.
 
이어진 토론에서 서울대병원 영상의학과 윤순호 교수는 병원이 보유한 데이터의 가치를 강조하며, 의료 데이터를 기반으로 한 AI 개발의 중요성을 설명했다.

윤 교수는 "병원과 연구자가 가지는 헤게모니(hegemony)는 데이터다. 합성 데이터가 기존의 한계를 극복할 수 있는 하나의 방안으로 연구되고 있지만, 환자 고유의 치료 과정 중 생성된 데이터를 따라가기 쉽지 않다. 또 연구 결과를 보면 합성 데이터로 생성된 인공지능의 성능은 실제 데이터에 비해 떨어진다"고 말했다.

이에 병원은 데이터 가치를 올리기 위해 노력하고 있는 것으로 나타났다. 윤 교수는 "멀티 모달 데이터는 핸들링이 쉽지 않다. 하지만 이를 규제에 부합하면서 제때 원하는 형태로 공급할 수 있는, 또 피드백을 통해 인공지능을 개선할 수 있는 병원이 우위를 점유할 것"이라며 "서울대병원 역시 앞으로 데이터에 집중할 계획"이라고 언급했다.

카카오브레인에서 흉부 엑스레이 판독 보조 AI를 개발해 창업한 숨빗AI 배웅 대표는 "AI 모델 개발 과정에서 초기부터 병원과 협력해야 한다"라며 "의료 AI가 의료진의 신뢰를 얻을 수 있는 방향으로 나아가야 한다"고 제언했다.

배 대표는 "AI 개발을 위해서는 양질의 데이터가 필요하다. 이 데이터는 병원에 있다"며 "AI 개발 시 초기부터 병원과 협력해 개발하는 것이 좋다. 또 해당 분야 전문가와 AI 전문가가 함께했을 때 더 좋은 방향성을 찾는다"고 말했다.

이어 AI가 의료진의 업무를 지원하며 신뢰성을 높이는 방향으로 발전해야 한다고 밝혔다.

배 대표는 "지난해 말 카카오브레인에서 흉부 엑스레이에 대한 초안 판독문 생성 웹 데모를 연구용으로 만들었다. 당시 다양한 피드백이 있었다. 그 중 인간의 언어로 이야기하는 것은 신기하지만 실제로 AI가 이해하고 있는지에 대한 의문이 있었다"며 "이에 의료진에게 더 신뢰를 줄 수 있는 AI를 제공하기 위해 고민했다"고 회상했다.

이에 배 대표는 단계적 접근이 필요하다고 언급했다. 배 대표는 "현재 의사 업무를 도와주는 쪽에 집중하고 있다"며 "사람도 단계마다 기대하는 기대치가 다르다. 이 기대치에 맞춰 AI를 설계하는 것이 중요하다. 결국 단순한 기능이라도 고객이 도움이 된다고 느끼면 사용할 것이고, 이에 대한 피드백을 줄 것이다. 이를 통해 AI 발전의 선순환이 가능해진다"이라고 설명했다.

마지막으로 배 대표는 의료 AI가 현장에서 활용되기 위해서는 인허가 방식의 유연화가 필요하다고 주장했다.

그는 "AI는 기존 평가 기준에 맞추는 등 일반화가 어렵다. 이 때문에 안전성을 입증하기 쉽지 않다"며 "전향적인 연구나 인허가 관문을 낮춰 QA(품질 보증) 등을 강화하는 방향으로 나아갈 필요가 있다"고 제언했다.