Wanneer is een kliniek een "hoogrisico AI medisch systeem"?

De term “hoogrisico AI medisch systeem” verwijst naar kunstmatige intelligentie toepassingen die een aanzienlijk potentieel gevaar vormen voor de gezondheid of fundamentele rechten. Volgens de EU AI Act zijn deze systemen zwaar gereguleerd en vereisen ze strikte naleving van normen voor veiligheid, transparantie en datakwaliteit voordat ze op de markt kunnen worden gebracht of in gebruik kunnen worden genomen.

Als u als clinicus, coach of functioneel geneeskundige AI gebruikt, lijkt die definitie misschien ver weg — iets waar grote ziekenhuisnetwerken of fabrikanten van apparaten zich zorgen over moeten maken. Maar de grens tussen het eenvoudigweg gebruiken van een AI-tool voor administratieve taken en het inzetten van een hoogrisico systeem is verrassend dun. Het begrijpen van die grens is niet alleen een kwestie van juridische hygiëne; het is een cruciaal onderdeel van veilig en ethisch handelen.

Wat de AI Act daadwerkelijk zegt

De EU AI Act is een baanbrekende wetgeving die AI-systemen classificeert naar risiconiveau: minimaal, beperkt, hoog en onaanvaardbaar. De categorie ‘hoogrisico’ is waar de nalevingslast pas echt begint. Systemen vallen in deze categorie op twee manieren: als ze een veiligheidscomponent van een product zijn, of als ze een op zichzelf staand product zijn dat wordt vermeld in bijlage III van de wet.

Voor medische professionals betreft het meest relevante deel van bijlage III AI-systemen die bedoeld zijn om te worden gebruikt als medisch hulpmiddel. Dit omvat software voor diagnose, monitoring of het voorspellen van behandelingen. Als een AI-tool die u in uw praktijk gebruikt een aanbeveling doet, patiëntgegevens interpreteert of een klinische beslissing stuurt, valt deze waarschijnlijk onder de Medical Devices Regulation (MDR) en wordt deze, bij uitbreiding, als hoogrisico beschouwd door de AI Act.

Gebruiker vs. Implementeerder: een cruciaal onderscheid

De AI Act maakt onderscheid tussen 'aanbieders' (die een AI-systeem ontwikkelen en op de markt brengen), 'implementeerders' (die een AI-systeem onder hun eigen autoriteit gebruiken) en 'gebruikers' (die het onder toezicht van de implementeerder bedienen). Een solopraktizijn kan in theorie alle drie zijn. Als u uw eigen diagnostische tool bouwt met een commerciële API, bent u een aanbieder. Als u een gecertificeerde AI diagnostische tool koopt en deze bij patiënten in uw kliniek gebruikt, bent u een implementeerder.

De meeste praktizijns zullen 'implementeerders' zijn. De veelvoorkomende fout is om aan te nemen dat omdat u betaalt voor een software-as-a-service (SaaS) product, de nalevingsplicht volledig bij de aanbieder ligt. Dit is onjuist. Implementeerders hebben hun eigen verantwoordelijkheden, waaronder het garanderen dat het systeem wordt gebruikt in overeenstemming met de instructies, het monitoren van de prestaties en het bijhouden van logboeken van de werking.

Wanneer administratieve tools medische hulpmiddelen worden

Waar eindigt een eenvoudig administratief hulpmiddel en begint een medisch hulpmiddel? De sleutel is het ‘beoogde doel’. Een AI die uw patiëntnotities transcribeert, is een administratieve tool. Een AI die die notities analyseert om een differentiaaldiagnose of een behandelplan voor te stellen, is een medisch hulpmiddel. Op het moment dat software wordt gebruikt voor een medisch doel — screening, diagnose, monitoring, prognose, behandeling — valt het onder een ander regelgevend kader.

Neem een groot taalmodel. Als u het gebruikt om een nieuw onderzoeksartikel samen te vatten voor uw eigen educatie, is dat een onderzoeksactiviteit. Als u het de symptomen van een patiënt geeft en vraagt naar mogelijke aandoeningen, heeft u aantoonbaar net een ongereguleerde tool gebruikt voor een diagnostisch doel. Dit is het grijze gebied waar solopraktizijns het meest kwetsbaar zijn. Het is een kernonderdeel van de Wellness & AI-methode: gebruik AI voor Onderzoek en om een Ledger van uw gegevens op te bouwen, maar wees uiterst voorzichtig bij het definiëren van een Protocol voor een patiënt.

Het probleem met 'off-label' AI-gebruik

Het gebruik van een algemene AI (zoals een openbare chatbot) voor specifieke medische taken is vergelijkbaar met het 'off-label' gebruik van een medicijn. Hoewel dit gebruikelijk is in de geneeskunde, brengt dit bij AI unieke risico's met zich mee. Een studie uit 2023 in de Journal of Medical Internet Research (JMIR) wees uit dat hoewel sommige grote taalmodellen medische licentie-examens konden halen, ze ook plausibel klinkende desinformatie produceerden, een fenomeen dat bekend staat als 'hallucinatie'.

“De aanbieder van een hoogrisico AI-systeem is verplicht het beoogde doel ervan te specificeren. Wanneer u, de praktizijn, het voor een ander doel gebruikt, creëert u feitelijk een nieuw, ongereguleerd medisch hulpmiddel, met uzelf als fabrikant.”

— Gebaseerd op artikel 5 van de EU AI Act

Als u een niet-medische AI opnieuw inzet voor een klinische taak en dit leidt tot patiëntschade, kunt u aansprakelijk worden gesteld, niet alleen voor wanpraktijken, maar ook voor het inzetten van een niet-conform medisch hulpmiddel. De wettelijke bescherming die u veronderstelt te hebben van uw SaaS-aanbieder, vervalt, omdat u het hulpmiddel buiten het beoogde toepassingsgebied hebt gebruikt.

Een kader voor compliance

Voor de solopraktizijn is het navigeren door dit geen kwestie van een duur juridisch team. Het vereist een nuchter beleid over hoe AI in uw praktijk wordt gebruikt. Uw doel is om waar mogelijk een 'gebruiker' van laagrisico tools te blijven, en een volledig conforme 'implementeerder' te zijn wanneer u een hoogrisico systeem moet gebruiken.

1. Inventariseer uw AI: Maak een lijst van elk stukje software dat u gebruikt met een AI-component, van uw boekingssysteem tot eventuele klinische analysetools.
2. Definieer het doel: Schrijf voor elke tool de exacte functie ervan in uw praktijk op. Is het puur administratief, of raakt het klinische gegevens om inzicht te verschaffen? Wees brutaal eerlijk.
3. Controleer de certificering: Als een tool voor medische doeleinden wordt gebruikt, vraag de aanbieder dan naar de MDR- of FDA-certificeringsstatus. Als ze die niet kunnen verstrekken, mag u het niet gebruiken voor klinische beslissingen.
4. Creëer een gebruiksbeleid: Documenteer voor uzelf en eventueel personeel de goedgekeurde toepassingen voor elke tool. Verbied expliciet het gebruik van niet-medische, algemene AI's voor diagnostische of behandelplanningsdoeleinden.

Deze interne documentatie is uw eerste verdedigingslinie. Het toont aan dat u de risico's begrijpt en redelijke stappen hebt ondernomen om deze te mitigeren. Een studie van de British Medical Journal over AI-governance benadrukt het belang van dergelijke gelokaliseerde beleidsregels om brede regelgeving om te zetten in veilige klinische praktijk (BMJ, 2021; doi:10.1136/bmj.n1865).

Veelgestelde vragen

Geldt dit ook voor mij als ik niet in de EU ben?

Ja, zeer waarschijnlijk. De AI Act heeft, net als de GDPR voor gegevensprivacy, een extraterritoriale reikwijdte. Als u diensten aanbiedt aan cliënten die in de EU wonen, of als de output van het AI-systeem in de EU wordt gebruikt, is de wet van toepassing. Bovendien zal het naar verwachting de wereldwijde maatstaf worden, waarbij landen als het VK, Canada en Amerikaanse staten vergelijkbare risicogebaseerde kaders zullen aannemen.

Mijn EPD/praktijkbeheersoftware heeft net AI-functies toegevoegd. Ben ik nu een implementeerder?

Het hangt af van de functie. Als de AI helpt bij het plannen of factureren, is het waarschijnlijk een laagrisico administratieve tool. Als het patiëntendossiers begint te markeren voor potentiële risico's of klinische codes voorstelt op basis van diagnostische notities, beweegt het zich in hoogrisico gebied. Vraag uw EPD-aanbieder hoe zij de functie classificeren en om documentatie over het beoogde gebruik en de regelgevende status ervan.

Wat is de grootste fout die een praktizijn kan maken?

De grootste fout is aannemen dat elke AI-tool slechts een stukje software is. Het gebruik van een algemene chatbot om patiëntensymptomen te interpreteren of een behandelplan te maken, zelfs als 'eerste concept', vormt de inzet van een ongereguleerd, hoogrisico medisch hulpmiddel. Het gemak is de juridische en ethische blootstelling niet waard. Houd u aan gecertificeerde tools voor klinisch werk en gebruik algemene AI's alleen voor niet-klinische taken.