생성형 인공지능(AI) 기술이 의료현장으로 빠르게 확산되면서 규제당국의 역할도 새로운 전환점을 맞고 있다. 과거 의료영상 판독이나 진단보조 기능에 집중됐던 AI 의료기기가 이제는 거대언어모델(LLM)을 기반으로 새로운 정보를 생성하고 의료진의 의사결정을 지원하는 단계로 진화하면서 기존 의료기기 규제 체계만으로는 안전성과 신뢰성을 충분히 확보하기 어렵다는 지적도 제기되고 있다.

이 같은 변화에 대응해 식품의약품안전처가 생성형 AI 의료기기 시대를 겨냥한 새로운 규제체계 구축에 속도를 내고 있다. 단순한 허가·심사 기능을 넘어 품질관리와 전자적 보안, 사후관리, 규제특례를 아우르는 전주기 관리체계를 마련하며 AI 의료기기 규제의 패러다임 전환을 추진하는 모습이다.

식약처 출입 전문지 기자단의 취재에 따르면, 생성형 AI 기반 디지털의료기기는 기존 기계학습 기반 의료기기와 달리 특정 의료목적에 국한되지 않은 방대한 데이터를 활용해 새로운 출력을 생성하는 특징을 가진다. 동일한 입력값에 대해서도 맥락에 따라 다양한 결과를 도출할 수 있으며 기술 발전 속도 역시 매우 빠르다.

이 때문에 규제당국이 관리해야 할 위험 요소도 기존 의료기기와는 차이를 보인다. 학습데이터의 오류나 편향 여부, 출력 과정에서의 정보 누락, 사실과 다른 정보가 생성되는 이른바 '할루시네이션(Hallucination)', 결과의 일관성 확보 등이 대표적인 관리 대상이다.

식약처는 이러한 특성을 고려해 생성형 AI 의료기기에 대한 신속한 인허가를 지원하기 위해 지난해 '생성형 인공지능 의료기기 허가·심사 가이드라인'을 마련했으며, 현재 거대언어모델에 특화된 별도의 허가·심사 가이드라인도 준비 중이다.

특히 주목되는 부분은 규제의 범위가 허가 단계에 머무르지 않는다는 점이다.

전통적인 의료기기는 허가를 획득한 이후 상대적으로 제한적인 변경관리가 이뤄졌지만 AI 의료기기는 지속적인 업데이트와 재학습이 필수적이다. 오류 수정과 보안패치, 학습데이터 보완, 성능 개선 등이 반복적으로 이뤄지기 때문에 허가 이후의 관리체계가 제품 안전성과 직결된다.

식약처는 사용목적이나 핵심 성능, 주요 알고리즘과 같은 중요 사항은 변경허가를 받도록 하되 그 외 업데이트는 품질관리체계 내에서 수행하도록 하고 있다. 또한 제조사는 변경 이력을 관리하고 관련 문서를 제출해야 하며 학습데이터와 성능 변경 사항을 사용자에게 투명하게 공개하도록 하고 있다.

여기에는 인공지능 모델 훈련 방법, 학습데이터 정보, 성능 범위와 한계, 클라우드 활용 여부 등의 정보도 포함된다.

사실상 AI 의료기기는 허가를 받는 순간 관리가 종료되는 제품이 아니라 허가 이후에도 지속적으로 감독과 검증이 이뤄져야 하는 제품이라는 점을 제도적으로 반영한 셈이다.

식약처는 이를 위해 인허가 이전 단계에서부터 AI 디지털의료기기 제조·수입업체의 관리 역량을 평가하고 있다. 평가 항목에는 학습데이터 품질관리, 비식별화 조치, AI 모델 설계 및 구현, 성능 모니터링 체계 등이 포함된다.

이와 함께 AI 제품의 재학습과 성능변경 과정에서도 전자적 보안 체계가 유지될 수 있도록 관련 규정을 마련해 운영하고 있다. AI 의료기기의 활용이 확대될수록 사이버 보안과 개인정보 보호 문제가 중요해지는 만큼 안전성 확보를 위한 제도적 장치를 강화하겠다는 의미로 해석된다.

글로벌 규제 경쟁 속에서 우리나라의 전략도 주목된다.

현재 AI 기반 의료기기 규제는 국가별로 서로 다른 방향으로 발전하고 있다. 유럽은 AI법(AI Act)을 시행하고 있으며 미국은 관련 가이드라인을 지속적으로 개정하고 있다. 영국은 규제 샌드박스 개념의 AI Airlock 제도를 운영하며 새로운 AI 기술의 실증을 지원하고 있다.

식약처는 이러한 국제 흐름에 대응하기 위해 국제의료기기규제당국자포럼(IMDRF)의 소프트웨어·AI 가이드라인을 적극 반영하고 있다. 디지털의료제품법을 통해 AI 특성에 부합하는 인허가와 품질관리 체계를 구축하고 이를 실제 허가·심사 과정에 적용하고 있다는 설명이다.

특히 식약처는 국내 허가 경험 자체가 해외 진출을 위한 규제 역량 확보 과정이 될 수 있도록 제도를 운영하겠다는 방향을 제시하고 있다. AI 의료기기의 경우 허가 이후에도 규제기관과 지속적으로 소통하며 제품 생애주기를 관리해야 하는 만큼 국내 기업들이 국내 허가 과정에서 글로벌 규제 대응 역량을 축적할 수 있도록 지원하겠다는 의미다.

시장 성장세 역시 가파르다.

식약처에 따르면 AI 기반 의료기기 허가·인증 건수는 2021년 37건에서 2022년 47건, 2023년 64건, 2024년 108건, 2025년 153건으로 증가했다. 올해도 5월까지 이미 75건이 허가·인증되며 성장세가 이어지고 있다.

AI 의료기기 시장이 확대될수록 규제체계 역시 새로운 진화를 요구받고 있다.

식약처는 생성형 AI를 넘어 향후 피지컬 AI, 멀티모달 AI, 연속학습 AI 등 보다 고도화된 기술이 등장할 것으로 전망하고 있다. 이러한 차세대 AI는 기존의 고정된 알고리즘 기반 제품과 달리 스스로 정보를 생성하고 지속적으로 변화하는 특성을 가질 것으로 예상된다.

이에 따라 식약처는 디지털의료제품법에 근거한 '우수관리체계 규제특례 제도' 도입도 추진하고 있다. 이는 제품 중심의 전통적 인허가 방식에서 벗어나 기업의 AI 관리 역량을 중심으로 평가하는 새로운 개념의 제도다.

정부는 향후 의료 AI 거버넌스 역량이 우수한 기업을 지정해 현행 규제체계로 평가하기 어려운 혁신적 AI 의료기기에 대해 실사용 특례를 부여하는 방안을 검토하고 있다. 영국의 AI Airlock과 유사한 개념으로, 혁신 기술의 시장 진입을 지원하면서도 안전성을 확보하기 위한 새로운 규제 모델로 평가된다.

AI 의료기기가 단순한 소프트웨어를 넘어 의료서비스의 핵심 인프라로 자리 잡아가는 가운데 식약처 역시 허가기관을 넘어 AI 거버넌스를 설계하는 규제기관으로 역할을 확대하고 있다.

생성형 AI 시대의 의료 혁신 경쟁은 기술 개발뿐 아니라 얼마나 정교한 규제체계를 구축하느냐에 따라 국가 경쟁력이 결정되는 단계로 접어들고 있다는 분석이 나온다.