AI의료기기에 대한 규제가 향후 더 엄격해질 것으로 보인다.
한국보건산업진흥원은 20일 펴낸 글로벌보건산업동향에서 유럽연합(EU)이 최근 제정한 ‘REGULATION (EU) 2024/1689’에 대해 이같이 분석했다. ‘REGULATION (EU) 2024/1689’는 새로운 인공지능(AI) 규제법으로, AI 시스템이 사회적, 경제적, 법적 문제를 일으킬 수 있는 가능성이 높아짐에 따라 이에 대비하기 위해 제정됐다. AI 기술을 규제하는 법이 제정된 일은 이번이 세계 처음이다.
제정된 AI 법은 AI 기술을 그 위험도에 따라 허용할 수 없는 위험, 고위험, 제한적 위험, 최소 위험 네 가지로 분류했다.
AI 의료기기는 고위험군에 들었다. 따라서 AI 시스템을 제공하는 의료기기 업체는 엄격한 규제를 받게 된다.
이런 규제에는 위험 평가와 관리체계, 품질 높은 데이터 사용, 투명성, 설명 가능성, 사람의 직접 감독 뿐만아니라 기술명세서 작성, 시스템 운영 기록 보관, 이용자에 대한 정보 제공 같은 의무가 포함된다. 이들은 모두 EU가 2017년 제정한 바 있는 EU 의료기기 규정(REGULATION (EU) 2017/745)에는 들어있지 않은 내용이다.
새 AI 법은 AI 시스템을 쓰는 모든 사람에게 책임을 부과할 것도 명시했다. 의료진과 임상의가 의료서비스를 제공하는 가운데 AI 시스템을 활용한다면 그들도 AI시스템의 배포자로 인정한다는 내용이다.
배포자에게는 ▲AI 시스템이 지침에 따라 제공되도록 적절한 기술적·조직적 조치 ▲유능하고 훈련된 사람들이 하는 감독과 지원 ▲모니터링 및 감시 ▲시스템 로그가 제어 하에 있는 경우 유지 관리 ▲해당되는 경우, 데이터 보호 영향평가를 실시해야한다.
법안에 대한 의무를 제때 이행하지 않을 경우, 전년도 매출의 최대 7% 또는 최대 3500만 유로(한화 523억 9430만원), 혹은 전년도 매출의 최대 1% 또는 최대 750만 유로(한화 112억 2795만원)의 벌금이 부과될 수 있다.
다만 제약분야가 받는 규제는 의료기기분야보다 덜할 것으로 보이는데, 제약 분야에서 쓰는 AI 기술이 의료기기가 될 가능성은 낮기때문이다.
글로벌 로펌인 DLA PIPER는 “고위험 AI 시스템의 경우 엄격한 규제와 인증절차를 거쳐야 하는데, 이는 기업에게 추가적인 비용 부담과 시간 소요가 될 수 있다”며, “AI 시스템의 법적·윤리적 문제에 대한 유럽연합 차원 규제는 의료기기 산업에 중대한 영향을 미칠 것으로 예상한다”고 설명했다.
DLA PIPER는 이어 “반면 사용자 및 소비자는 더 안전하고 신뢰할 수 있는 AI 제품과 서비스를 누릴 수 있게 되는데, 이는 AI 시스템의 투명성과 안전성이 강화되고 충분한 설명이 이뤄지기 때문”이라며, “소비자가 AI기술의 작동방식과 그 한계를 명확히 이해할 수 있으면 AI 시스템에 대한 신뢰성이 향상되고, 잘못된 정보나 위험상황을 대비하는 데에도 효과가 있을 것”이라고 말했다.
AI 기술이 안전하게 발전할 수 있는 토대를 마련하려면 엄격한 규제가 혁신을 저해하지 않도록 균형을 유지해야하고, 기업들이 규제에 적응할 수 있도록 충분한 지원과 지침을 제공해야 한다고 DLA PIPER는 분석했다.
새 AI 법은 유럽연합에 진출하려는 비유럽연합 기업에도 적용될 예정이다.
