[메디게이트뉴스 조운 기자] 의료 인공지능(AI)이 진단·수술·건강관리 영역으로 빠르게 확산하면서 의료 AI 사고 발생 시 책임 문제에 대한 우려도 커지고 있다.

법조계는 현행 법체계상 AI 자체에 의료사고 책임을 묻기 어려운 만큼 의사와 의료기관, 제조사·설계사·판매사 등 인간과 조직에 책임이 귀속될 수밖에 없다고 분석했다. 특히 의료 AI 사고는 사고 원인과 결함, 인과관계 입증이 쉽지 않아 별도의 책임 규율 체계가 필요하다고 제언했다.

10일 유네스코 회관에서 온라인 병행으로 생명윤리 유관기관 공동학술대회 '인공지능과 거버넌스'에서 강남대 법행정학과 최민정 교수와 성균관대 법학전문대학원 김천수 교수가 ‘의료 인공지능과 민·형사상 책임의 귀속’을 주제로 발표하며 이같이 밝혔다.

최 교수는 “현재 활용되고 있는 의료 인공지능은 민사상·형사상 법적인 지위를 가질 수 없다는 게 발표진의 입장”이라며 “권리·의무의 귀속 주체가 되는 계약 당사자의 지위는 물론 형법상 행위능력, 책임능력, 형벌능력도 인정하기 어렵다”고 말했다.

이어 “앞으로 기술이 더 발달해 인공지능이 인간과 독립적으로 자율성을 획득한다면 독자적 형사책임 논의가 가능할 수 있겠지만 아직은 이른 단계”라고 덧붙였다.

이에 따라 의료 AI를 활용한 진료 과정에서 환자 피해가 발생하더라도 AI 자체에 책임을 물을 수는 없다. 대신 의료진, 의료기관, AI 공급자 등이 책임 주체가 될 가능성이 크다.

최 교수는 의료 AI 활용이 의사의 설명의무를 확대할 것이라고 전망했다.

그는 “의료 인공지능을 이용한 의료사고의 경우 설명의무 목록이 늘어난다”며 “인공지능을 이용하지 않았을 때의 진료와 이용했을 때의 진료를 비교해 위험성과 효과, 비용 등을 설명해야 하고, AI 진료의 신뢰도에 대한 설명도 필요하다”고 밝혔다.

AI 공급자의 책임도 주요 쟁점으로 제시됐다. 최 교수는 “인공지능 공급자는 환자에 대해 제조물책임을 질 수 있다”면서도 “현행 제조물책임법상 소프트웨어는 제조물 개념에 포함되지 않아 책임 인정에 한계가 있다”고 지적했다.

형사책임 구조 역시 기존 의료사고와 달라질 것으로 전망됐다.

최 교수는 “기존 의료사고는 의료인 개인 책임 중심이었다면 의료 인공지능 사고는 의료인, 의료기관, 제조업자, 설계업자, 판매업자, 규제기관 등이 함께 관여하는 구조”라며 “책임 역시 공동으로 분산되는 형태가 될 수 있다”고 설명했다.

특히 의료 AI 시대에는 데이터 관리와 알고리즘 검증 의무가 중요해질 것으로 내다봤다.

그는 “의료 인공지능이 확대될수록 관리·감독을 하지 않거나 데이터를 적절히 관리하지 않아 발생하는 부작위 과실이 증가할 수 있다”며 “알고리즘 조작이나 편향적 데이터 공급에 대해서는 과실범은 물론 경우에 따라 고의범 성립도 가능하다”고 말했다.

최 교수가 꼽은 가장 큰 문제는 ‘입증의 어려움’이다.

그는 “의료 인공지능 사고는 증명이 곤란하다”며 “의료사고가 발생했을 때 그것이 인공지능 사고인지, 인공지능 결함이 존재하는지, 결함과 손해 사이 인과관계가 있는지를 입증하기 어렵다”고 밝혔다.

이어 “인간이 사후에 밝혀낼 수 없는 오작동 원인에 대한 책임을 누구에게 귀속시킬 것인지가 새로운 쟁점이 될 것”이라고 말했다.

이에 최 교수는 의료 AI 사고 손해배상 책임을 규율하는 별도 특별법 제정을 제안했다.

그는 “현재 인공지능 기본법 등 관련 법령에는 인공지능 사고 손해배상 책임을 다루는 규정이 없다”며 “인공지능 사고로 인한 손해배상 책임 고유의 특별법이 필요하다”고 강조했다.

구체적으로는 의료 AI가 이용된 진료에서 사고가 발생할 경우 우선 AI 사고로 추정하고, AI 결함 존재와 결함·손해 사이 인과관계 역시 일정 부분 추정하는 방안을 제시했다.

아울러 의료 AI 진료자의 자격과 지속 교육, 데이터 편향성·신뢰성 관리, 위험관리 의무, 의료인의 독립적 검토 의무 등을 제도화해야 한다고 주장했다.

최 교수는 “인공지능 이용은 의료현장에서 활성화될 수밖에 없다”면서 “증명이 곤란한 의료사고가 빈발할 우려가 있는 만큼 인공지능 사고 책임보험 가입을 의무화하는 방안도 검토할 수 있다”고 밝혔다.