삼성이 또 한 번 대전환에 나섰다. 

최근 삼성은 전 계열사를 대상으로 생성형 AI와 AI 에이전트를 전면 도입하고, 연구개발·생산·물류·마케팅 등 핵심 업무 전반에 AI를 적용하는 AI 전환(AX, AI Transformation)을 본격화하고 있다. 이는 단순한 업무 혁신을 넘어 기업 운영 방식 자체를 AI 중심으로 재설계하려는 시도로 평가된다.

삼성전자, 삼성SDS, 삼성바이오로직스, 삼성서울병원 등 주요 계열사들이 AI Native 기업으로의 전환을 가속화하면서 의료·제약·헬스케어 산업 역시 새로운 변화 국면에 진입하고 있다.

그러나 AI 활용이 확대될수록 새로운 질문이 등장한다. AI가 무엇을 판단하는가 보다, AI가 무엇을 실행할 수 있는가가 더 중요해지는 것이다.

 AI 모델 경쟁에서 AI 실행 통제 경쟁으로…

그동안 글로벌 AI 산업 중심은 모델 경쟁이었다. GPT, Gemini, Claude, HyperCLOVA X 등 누가 더 똑똑한 AI를 만드는가가 핵심 관심사였다. 하지만 AI가 실제 업무와 서비스 현장에 투입되기 시작하면서 상황이 달라지고 있다. 이제 중요한 것은 AI의 판단 그 자체가 아니라 그 판단이 실제 행동(Action)으로 연결되는 과정이다.

특히 의료 분야에서는 그 중요성이 더욱 크다.

잘못된 복약 가이드, 부정확한 건강 상담, 오작동한 AI 에이전트는 단순한 시스템 오류를 넘어 환자 안전에 직접적인 영향을 미칠 수 있기 때문이다.

이에 따라 글로벌 AI 산업은 단순 모델 경쟁에서 Runtime Governance, Human Oversight, Agent Governance, Execution Safety 중심으로 이동하고 있다는 분석이 나온다.

글로벌 규제도 이미 ‘실행 통제’를 요구한다

이러한 변화는 기술 산업 만의 흐름이 아니다.

유럽연합(EU AI Act)은 고위험 AI에 대해 전문가 감독(Human Oversight), 감사 가능성(Auditability), 위험 관리(Risk Management)를 요구하고 있으며, 미국 FDA 역시 의료 AI의 지속적인 업데이트를 관리하기 위한 PCCP(Predetermined Change Control Plan) 체계를 운영하고 있다.

또 의료기기 품질경영 국제표준인 ISO 13485 역시 AI 기반 의료기기 영역으로 적용 범위가 확대되고 있다.

결국 앞으로 의료 AI 경쟁력은 단순한 정확도가 아니라 실행 권한 관리(Execution Authority), 전문가 감독(Human Oversight), 실행 이력 감사(Audit Trail), 위험 차단(Kill-switch) 등을 얼마나 체계적으로 구현하는가에 달려 있다는 평가다.

Connected Care 시대가 던지는 새로운 질문

웨어러블 기기와 스마트홈, 디지털 헬스 플랫폼이 연결되는 Connected Care 시대가 열리면서 새로운 과제가 부상하고 있다. 생체신호를 수집하는 기기, 이를 분석하는 AI, 사용자 행동을 유도하는 디지털 서비스가 하나의 생태계로 연결되기 시작한 것이다.

하지만 여기서 반드시 해결해야 할 질문이 있다. 누가 AI의 최종 실행을 승인하는가? 누가 위험한 행동을 차단하는가? 누가 책임을 지는가? 누가 실행 과정을 감사하는가?

이 질문은 특정 기업만의 문제가 아니다. 앞으로 AI 플랫폼을 도입하는 모든 병원, 약국, 보험사, 제약사, 헬스케어 기업이 반드시 마주하게 될 핵심 과제다.

‘ Healthcare Execution Governance OS’ 등장

이러한 흐름 속에서 최근 의료 AI 분야에서는 'Healthcare Execution Governance OS'라는 개념이 주목받고 있다.

이는 AI가 판단한 내용을 실행 이전 단계에서 검증하고, 전문가가 승인하며, 위험 발생 시 즉시 차단하고, 모든 실행 이력을 기록·감사하는 운영체계를 의미한다. 특히 최근 의료 AI 업계에서는▶ Prompt-to-Action Defense ▶ Runtime Execution Authority ▶Human Override  ▶Runtime Kill-switch   ▶Agent Identity & Trust  ▶ Autonomous Agent Isolation  ▶ Multi-agent Safety Arbitration  8) Execution Evidence Chain 등 실행 안전 기술들이 핵심 인프라로 부상하고 있다.

이러한 기술들은 AI 모델 자체를 만드는 영역이 아니라, AI가 실제 의료 환경에서 안전하게 행동하도록 통제하는 실행 인프라 계층에 해당한다.

AI 시대 승자는 누가 될 것인가? 

과거 PC와 모바일 산업에서는 운영체제(OS)를 장악한 기업이 시장을 지배했다. AI 시대 역시 비슷한 흐름이 전개될 가능성이 높다. 거대 모델 경쟁이 치열해질수록, 최종 경쟁력은 AI가 얼마나 안전하게 실행되고 관리되는가에 달려 있기 때문이다.

정부가 소버린 AI를 추진하고, 기업들이 AI 전환을 가속화하며, 제약사와 보험사, 의료기관이 AI 플랫폼 경쟁에 뛰어드는 지금, 의료 AI 산업의 다음 경쟁력은 더 똑똑한 모델이 아니라 더 안전한 실행일 수 있다.

AI가 인간을 대신해 판단하는 시대를 넘어, AI가 인간과 함께 안전하게 행동하는 시대. Healthcare Execution Governance OS는 그 변화를 설명하는 새로운 기술적 화두가 되고 있다는 게 대체직인 진단이다.