[메디게이트뉴스 박도영 기자] 미국 식품의약국(FDA)이 인공지능(AI) 기술에 대한 감독의 필요성을 설명하고, 환자와 의료진 모두의 삶을 개선하기 위해 안전하고 효과적이며 신뢰할 수 있는 AI 도구를 보장하는 데 중심적인 역할을 계속하겠다는 입장을 밝혔다.

18일 관련업계에 따르면 FDA는 최근 미국의사협회저널(JAMA)에 '의료 및 생물의학 분야에서 AI 규제에 대한 FDA의 관점'을 게재했다.

기고글에서 FDA는 ▲글로벌 맥락 내의 규제 ▲AI 변화 속도에 발맞추기 ▲AI 모델 전반에 걸친 유연한 접근 방식 ▲의료 제품 개발에서의 활용 ▲대규모 언어 모델(LLM)과 생성형 AI의 미지에 대한 대비 ▲AI 수명 주기 관리의 중요성 ▲규제 산업의 책임 ▲견고한 공급망 유지 ▲빅테크, 스타트업, 학계 간의 균형 찾기 ▲재정 수익 최적화보다 건강 결과 개선을 우선시하는 전환 등 빠르게 진화하는 AI 기술을 다루기 위해 규제 시스템이 적응할 때 고려해야 할 10가지 개념을 설명했다.

FDA는 1995년 이후 약 1000개의 AI 지원 의료 기기를 승인했으며, 약물 발굴 및 개발에 AI를 사용한 규제 신청서 수백 건을 접수했다. 2021년에는 2020년에 비해 10배 증가한 132건이 접수됐다.

FDA는 "의료 제품 개발의 여러 측면에 정보를 제공하는 AI의 잠재력은 매우 크며 이미 진행 중이다"면서 "특정 사례를 특별히 지지하지는 않지만, 의약품 개발 및 임상 연구에 AI를 적용하는 데 큰 잠재력이 있다고 보고 있다"고 말했다.

예를 들어 방대한 양의 실제 데이터를 분석함으로써 AI 시스템은 잠재적인 안전성 문제, 예상치 못한 혜택, 성능 비효율성을 발견하는 능력을 향상시킬 수 있는 패턴과 이상징후를 감지할 수 있다. 이를 통해 부작용을 더 빨리 파악해 적시에 개입하고 수정할 수 있다.

또한 임상시험, 시판 후 감시, 환자 피드백에 대한 분석을 종합해 이전에는 분리돼 있던 영역에 걸쳐 제품 수명 주기에 대한 종합적인 개요를 제공할 수 있다. 이는 환자 안전을 강화하는 동시에 의료 제품 혁신을 가속화한다.

FDA는 "LLM과 같은 생성형 AI 적용은 예기치 못한 돌발적인 결과를 초래할 수 있기 때문에 고유한 과제를 안고 있으며, 아직 LLM을 승인하지 않았다"면서 "그러나 의료 분야에서 제안된 많은 애플리케이션이 질병이나 상태의 진단, 치료 또는 예방을 위한 용도로 사용되기 때문에 FDA의 감독이 필요하다"고 설명했다.

FDA는 "LLM은 전자건강기록(HER)과 웨어러블 디지털 의료 기술과 같은 기존 기술의 유용성을 높일 수 있는 큰 잠재력이 있다. 따라서 이러한 정보 소스를 분석하고 임상 의사 결정에 통합할 수 있도록 이 분야의 규제 혁신이 필요하다"면서 "디지털 헬스 자문위원회와 같은 플랫폼에서 개발자, 임상의, 의료 시스템 리더, 규제 당국 간의 적극적인 참여가 매우 중요하다"고 했다.

또한 FDA는 "AI의 민감성을 고려할 때 AI가 사용되는 환경에서 AI 성능을 모니터링해야 한다. 앞으로 의료 시스템은 중환자실에서 환자를 모니터링하는 것과 같은 정보 생태계를 제공해야 한다. 이러한 지속적인 평가 도구와 환경은 반복적이고 가능한 한 연속에 가까워야 하며 평가가 사용되는 임상 환경에서 이뤄져야 한다"면서 "AI 평가를 더욱 구체화하기 위해서는 더 많은 접근 방식과 도구가 필요하다"고 덧붙였다.

재정 최적화와 환자 및 지역사회의 건강 결과 개선 사이는 복잡하고 상충되기도 한다. 여기에서 FDA는 건강 결과에 의도적으로 초점을 맞추는 것이 필요하다고 했다.

FDA는 "너무나 많은 미국인이 의료 사막에 살고 있고, 의사가 밀집한 지역에서도 1차 진료가 부족한 상황에서 AI 알고리즘은 현재 수익성이 없는 예방적 서비스를 더 많이 제공할 수 있다"면서 "또한 AI는 임상 서비스의 효율성을 크게 개선해 임상의가 궁극적으로 기계가 할 수 없는 일, 즉 환자와 인간적인 관계를 형성할 수 있게 해줄 수 있다"고 설명했다.

생성형 AI 분야는 자본과 전문성을 갖춘 대기업이 주도하고 있지만 여러 스타트업이 이 분야에 뛰어들고 있고 학계에서도 아이디어가 넘친다. 이에 FDA는 그 사이에서 균형을 찾는 것도 필요하다고 본다.

FDA는 "수많은 과제 중 소규모 기업을 포함한 모든 개발자가 다양한 환경에서 전체 제품 수명 주기 동안 AI 모델을 안전하고 효과적으로 사용할 수 있는 방법을 결정해야 하는 어려운 과제도 있다"면서 "현재 FDA 프로그램 대부분에 중소기업과 학계를 지원하기 위한 스페셜 이니셔티브가 있고 이는 AI에도 적용될 수 있다"고 말했다.

마지막으로 FDA는 "생물의학 및 의료 분야에 적용된 AI의 역사적인 발전은 AI가 배포되는 환경에서 AI가 어떻게 작동하는지 더 잘 이해하기 위한 지속적인 보완 노력과 함께 이뤄져야 한다"면서 "가속화되는 기술 발전에 발맞추기 위해 FDA를 넘어 소비자 및 의료 생태계를 아우르는 포괄적인 접근 방식이 수반돼야 한다"고 강조했다.

포괄적으로 접근하지 않으면 모델의 성능이 저하될 수 있고, 재정적 수익에 집중하면 의료계에 배포된 다른 범용 기술과 마찬가지로 AI가 실망스러운 결과를 초래하거나 심각한 해를 끼칠 위험이 있다는 것이다.

이어 "FDA 및 기타 기관의 강력한 감독은 규제 대상 분야에서 높은 수준의 대중적 신뢰를 유지함으로써 규제 대상 제품의 장기적인 성공을 보호하는 것을 목표한다"면서 "FDA는 건강 결과에 중점을 두고 중심적인 역할을 계속할 것이지만, 모든 관련 분야에서 잠재적으로 혁신적인 이 기술의 장점에 주의를 기울이고 엄격하게 AI에 접근해야 한다"고 말했다.