Zákony o umělé inteligenci představují výzvu pro zdravotnické firmy

Společnosti v oblasti zdravotnických technologií čelí novým výzvám s platností Zákona o umělé inteligenci (AI Act) Evropské unie. Legislativa zavádí novou regulační vrstvu do sektoru, který již funguje v souladu s některými z nejpřísnějších norem Evropské unie.

Duplicitní regulace ohrožuje inovace

Výzva spočívá nejen v přijetí nových povinností, ale i v jejich sladění s již existujícími požadavky na zdravotnické prostředky. Firmy, investoři a průmyslové asociace měsíce varují před rizikem, že některé zdravotnické řešení založené na umělé inteligenci budou muset projít paralelními regulačními procesy podle dvou různých rámců: Nařízení o zdravotnických prostředcích (MDR) a samotného AI Act.

Zatímco část sektoru požaduje zjednodušení administrativy za účelem urychlení uvedení inovací na trh, mezinárodní organizace, jako je Světová zdravotnická organizace (WHO), varují, že rychlá implementace technologií založených na umělé inteligenci ve zdravotnictví vyžaduje posílení mechanismů dohledu.

Hans Henri P. Kluge, regionální ředitel WHO pro Evropu, nedávno upozornil na nutnost regulovat tyto nástroje „předtím, než se nedostatky stanou nevratnými“.

Obavy se týkají diagnostických nástrojů a softwaru

Obavy se týkají zejména nástrojů pro diagnostiku s podporou AI, klinického softwaru, platforem pro analýzu lékařských obrazů a dalších zařízení, která již podléhají specifickým kontrolám. Jak upozorňuje Nelson Advisors ve svých analýzách, interakce mezi AI Act a rámcem MDR/IVDR vytváří zjevné duplikování požadavků: společnosti jsou nuceny k dvojím auditům a musí dvakrát obhájit aspekty, jako je dohled člověka, kontrola zkreslení v klinických datech nebo řízení technologických rizik, což zpomaluje uvedení inovací k pacientům.

Tato byrokratická redundance nejen zvyšuje náklady na vývoj, ale hrozí, že udusí evropské technologické startupy a malé a střední podniky, které nejsou nejlépe připraveny na dvojí audity.

Kromě toho sektor upozorňuje na provozní úzké hrdlo: nedostatek notifikovaných orgánů, které jsou schopny provádět audity současně podle lékařského a digitálního standardu, hrozí zmrazením certifikací a zpožděním uvedení klíčových nástrojů do nemocnic pro časnou diagnostiku nebo přesné medicínské ošetření.

Evropská komise reaguje

Evropská komise trvá na tom, že jejím cílem je pragmatická zjednodušení, aniž by ohrozila bezpečnost pacientů. Reagujíc na nespokojenost sektoru zdravotnictví, mluvčí Komise zdůrazňují, že samotné nařízení obsahuje mechanismy k prevenci zbytečných překryvů a vyzývají k integraci požadavků na software AI do systémů řízení kvality, které společnosti již uplatňují podle MDR.