[메디게이트뉴스 이지원 기자] 생성형 인공지능(AI)으로 비개발자도 필요한 프로그램을 직접 만들 수 있을 만큼 개발 문턱이 낮아지고 있다. 특히 병원에서 의료진의 직접 개발을 실제 업무 활용으로 이어가기 위해서는 AI 리터러시 교육과 보안·전자의무기록(EMR) 연동·유지관리 체계를 함께 마련해야 한다는 제언이 나왔다.

분당서울대병원 영상의학과 황성일 교수는 메디게이트뉴스 주최로 열린 '제3회 미래 헬스케어 트렌드 컨퍼런스'에서 '의사가 직접 만드는 의료AI, 바이브코딩랩 실험'을 주제로 발표하며 병원 내 의료진의 바이브코딩 실험 사례와 과제를 소개했다.

황 교수는 올해 병원 내 중견 교수들을 중심으로 바이브코딩 모임을 시작했다. 임상 경험을 통해 각자 업무에서 느끼는 불편함(페인포인트)을 생성형 AI를 활용해 직접 해결해보자는 취지다.

현재 15개 진료과 교수 28명이 참여해 월 1회, 2시간 이상 모임을 진행하고 있으며, 연말까지 각자 실제 업무에서 필요한 도구 하나를 만드는 것이 목표다.

첫 실습에서는 전립선특이항원(PSA) 밀도 등 진료과별 임상 계산기를 만들었다. 이후 연구계획서 작성과 연구업무 지원, 연구비 청구 자동화, 갑상선 TI-RADS 관련 판독 프로그램 등으로 범위를 넓혔다.

페인포인트는 알아도 'AI로 풀 문제' 찾기는 어려워

실제 모임에서는 코딩 자체보다 무엇을 AI로 해결할 수 있는지 판단하는 단계에서 먼저 어려움이 나타났다.

황 교수는 임상 경험이 많은 중견 교수라면 업무에서 해결하고 싶은 문제가 충분히 쌓여 있는 만큼 생성형 AI를 활용해 필요한 프로그램을 빠르게 만들 수 있을 것으로 예상했다. 하지만 무엇이 불편한지는 알고 있어도 이를 AI로 해결할 수 있는지 판단하고 구체적인 개발 과제로 만드는 데는 별도의 학습이 필요했다.

황 교수는 "중견 교수들이 각자의 페인포인트를 알고 있는 만큼 필요한 도구를 쉽게 구상할 것으로 예상했지만, 실제로는 이를 AI로 해결할 수 있는 문제로 구체화하는 데 어려움을 겪었다"며 "내가 답답한 건 아는데 이게 과연 AI로 될까 안 될까 하는, 어떻게 보면 이게 진정한 AI 리터러시"라고 말했다.

참가자별로 컴퓨터와 AI 활용 수준이 다른 점도 영향을 미쳤다. 사용하는 운영체제와 장비가 제각각이었고, 프로그램을 설치하고 개발 환경을 갖추는 단계부터 어려움을 겪는 경우가 있었다. 병원 내 망분리 환경 역시 제약으로 작용했다.

학습을 지속하는 것도 과제였다. 모임이 월 1회 진행되다 보니 이전에 배운 내용을 다음 모임에서 다시 설명하는 일이 반복됐다. 별도의 과제를 내면 참가자의 부담이 커지고, 반대로 과제를 주지 않으면 실습이 이어지기 어려웠다.

일부 참가자는 기초적인 질문을 하는 것이 다른 사람의 시간을 빼앗는 것은 아닌지 부담을 느끼기도 했다.

이에 황 교수는 비슷한 프로그램을 운영하려는 기관이라면 초기 환경설정부터 적극적으로 지원해야 한다고 제언했다. 그는 "가장 많은 이탈은 시작하기 전에 일어난다"며 계정과 프로그램 설치 등을 개인에게 맡기지 않고 초기 단계부터 지원할 필요가 있다고 강조했다.

이어 "동기와 성취감을 계속 공급하고 가르치는 사람에게 적절한 보상을 해야 한다"며 "AI가 중요한 게 아니고 교육이 중요하다"고 덧붙였다.
 
직접 만드는 것과 병원에서 쓰는 것은 별개...보안·연동·관리체계 과제

의료진이 생성형 AI로 프로그램을 직접 만드는 것과 이를 실제 병원 업무에 적용하는 것은 별개의 문제다.

생성형 AI가 작성한 코드를 충분히 검토하지 않고 사용할 경우 보안 취약점이 발생할 수 있고, 악성 패키지가 유입되거나 공개 저장소에 API 키 등 인증정보가 노출될 가능성이 있다. 프롬프트나 화면 캡처를 통해 민감정보가 외부로 유출될 위험도 고려해야 한다.

개인이 만든 프로그램을 병원에 배포하거나 EMR과 연동할 경우에는 병원 차원의 관리와 모니터링도 필요하다.

황 교수는 환자정보나 주요 연구 데이터를 외부 생성형 AI에 입력하는 데도 한계가 있다고 설명했다. 그는 "개인적으로 진행하는 주요 연구 데이터를 외부로 내보낸 적은 없다"며, 환자 민감정보와 개인정보 보호 문제는 개별 연구자 차원에서 해결하기 어렵다고 밝혔다.

프로그램을 병원에서 안정적으로 활용하려면 개발 이후 유지관리 주체도 명확히 해야 한다. 기술 변화나 보안 취약점에 대응한 지속적인 업데이트·관리가 필요하기 때문이다.

황 교수는 "놀랍게도 병원에는 이미 유지보수가 제대로 되지 않는 프로그램이 많다"며 "개인이 개발한 프로그램에 유지보수까지 요구하는 것은 어찌 보면 가혹한 요구가 아닌가 생각한다"고 말했다.

이어 그는 오픈소스 AI 모델의 성능이 높아지고 개인용 장비에서도 로컬 모델을 구동할 수 있게 되면서 향후 의료진이 각자의 AI 환경을 병원 내부에 연결하려는 수요가 늘어날 수 있다고 내다봤다. 다만 개인이 구축한 AI를 병원 네트워크에 연결할 경우 업데이트와 보안, 모니터링을 누가 담당할 것인지 관리 주체를 명확히 해야 한다고 강조했다.

황 교수는 "각자 사 가지고 각자 붙였을 때 이걸 누가 갱신하고 누가 지키는지, 누가 모니터링하는지"가 문제가 될 수 있다며 "위험은 개인이 아니라 병원 네트워크 전체로 번지게 된다"고 말했다.

아울러 그는 의료진의 자발적인 AI 활용을 지속하기 위한 지원체계가 필요하다고 제언했다. 다른 의료진의 개발과 교육을 돕는 인력에게 연구 공동저자나 기여 인정, 자문 등 역할에 따른 보상 기준을 마련하고, 자발적으로 시작된 활동을 병원의 공식 AI 리터러시 교육이나 조직으로 연결하는 방식이다.

황 교수는 "바텀업에서 필요한 가장 중요한 인프라는 GPU가 아니고 자발성을 계속 유지하고 재미있게 뛸 수 있는 환경을 만들어주는 것"이라고 강조했다.