AI-spraakassistenten in de zorg: wat de wet echt oplegt

Vier teksten, en geen enkele gaat over spraak-AI

Een spraakassistent die afspraken maakt voor een praktijk of een ziekenhuis verwerkt gezondheidsgegevens: hij valt onder artikel 9 van de AVG (GDPR), onder het medisch beroepsgeheim van artikel L1110-4 van de Franse Code de la santé publique, en zijn hostingpartij moet beschikken over de HDS-certificering waarin artikel L1111-8 voorziet. Wat de AI betreft, deelt de Europese verordening 2024/1689 hem niet in bij de hoge risico’s: ze legt hem één enkele verplichting op, namelijk de patiënt waarschuwen dat hij met een machine praat, vanaf 2 augustus 2026. Deze vier teksten bestonden vóór de spraakagent. Geen enkele noemt hem. Het is hun samenspel dat het kader vormt, en precies daar vergissen leveranciers zich — of misleiden ze u. Twee fouten komen terug in verkoopgesprekken: de verwerking baseren op de toestemming van de patiënt, en de AI Act voorstellen als een hoogrisicoverplichting die een meerprijs rechtvaardigt. Beide zijn onjuist. Hieronder volgt elke tekst, artikel per artikel, en het geheel eindigt met de stukken die u moet opvragen voordat u tekent.

Artikel 9: een afspraak is een gezondheidsgegeven

De AVG verbiedt in beginsel de verwerking van gegevens over gezondheid. Dat is artikel 9, lid 1. Een telefoontje naar een tandartspraktijk valt daaronder. De naam van de beller, de reden “pijn aan een kies” en de toegewezen zorgverlener vormen samen informatie over zijn gezondheidstoestand. De vraag is dus niet of u mag verwerken, maar op grond van welke uitzondering. De juiste uitzondering is artikel 9, lid 2, punt h. Het staat de verwerking toe die nodig is voor gezondheidszorg of sociale zorg en voor het beheer van de stelsels en diensten voor gezondheidszorg. Een afspraak maken valt precies daaronder. De toestemming van punt a is een valkuil. Ze moet uitdrukkelijk, vrij en op elk moment intrekbaar zijn. Een patiënt die belt met kiespijn weigert de telefooncentrale niet: zijn toestemming is niet vrij. Baseer de verwerking op punt h en noteer dat in uw register. Punt h houdt maar onder één voorwaarde stand, vastgelegd in lid 3: wie de gegevens verwerkt, moet gebonden zijn aan een beroepsgeheim. Daarover gaat het volgende onderdeel.

Het medisch beroepsgeheim houdt niet op bij uw dienstverlener

Artikel 226-13 van het Franse Strafwetboek straft met een jaar gevangenisstraf en een boete van 15 000 € het onthullen van geheime informatie door een persoon die daarvan houder is uit hoofde van zijn staat, zijn beroep, of een tijdelijke functie of opdracht. Artikel L1110-4 van de Code de la santé publique bepaalt de reikwijdte in de zorg. Het geheim omvat alle informatie waarvan de zorgverlener kennis heeft genomen, en alle informatie waarvan elk personeelslid van de instelling kennis heeft genomen, “en van elke andere persoon die door zijn activiteiten in contact staat met deze instellingen of organisaties”. Hetzelfde artikel preciseert dat het geheim geldt voor alle beroepsbeoefenaars die in het gezondheidsstelsel werken. Uw leverancier van de spraakassistent is die andere persoon. Hij valt binnen het geheim, niet ernaast. In de zin van de AVG is hij uw verwerker, en artikel 28 maakt van het contract tussen u beiden meer dan een commerciële formaliteit. Dit moet het contract de leverancier opleggen.

• Alleen verwerken op gedocumenteerde instructie van de verwerkingsverantwoordelijke
• Elke persoon die toegang heeft tot de gegevens tot geheimhouding verplichten
• Elke subverwerker schriftelijk laten goedkeuren en wijzigingen melden
• De gegevens wissen of teruggeven bij het einde van het contract
• Zijn audits openstellen en bewijzen van zijn conformiteit leveren

HDS: wie gecertificeerd moet zijn, en wie niet

Artikel L1111-8 van de Code de la santé publique legt de HDS-certificering op aan iedereen die op een digitale drager gezondheidsgegevens host die zijn verzameld bij preventie, diagnose, zorg of sociaal en medisch-sociaal opvolging, voor rekening van een derde. Drie woorden dragen de rest: “voor rekening van”. De Agence du numérique en santé bevestigt dat in haar FAQ. Een instelling die zelf de gegevens van haar patiënten host, heeft het certificaat niet nodig. De hostingpartij draagt het. De certificering bestaat uit twee afzonderlijke certificaten. “Hoster van fysieke infrastructuur” dekt de lokalen en het materiaal. “Hoster-infogeerder” dekt de virtuele infrastructuur, het softwareplatform, het beheer en de exploitatie van het systeem, en de externe back-up. Een leverancier die antwoordt “onze servers staan bij een HDS-gecertificeerde hoster” heeft dus niet geantwoord op de gestelde vraag: de exploitatie van zijn toepassing valt onder het tweede certificaat, niet onder het eerste. De ANS publiceert de lijst van gecertificeerde hosters met het toepassingsgebied van elk. Controleer de naam van de leverancier, niet die van zijn datacenter.

AI Act: uw afsprakenagent is geen hoogrisicosysteem

Verordening (EU) 2024/1689 deelt AI-systemen in naar risiconiveau, en hoog risico is een gesloten lijst. Bijlage III somt acht domeinen op: biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid, toegang tot essentiële diensten, politie, migratie, justitie. De gezondheidszorg komt er maar één keer in voor, in punt 5, d, voor systemen die noodoproepen beoordelen en sorteren en voor de triage van patiënten in noodgevallen. Een afspraak maken is geen van beide. De Europese Commissie plaatst gespreksagenten uitdrukkelijk in het transparantierisico en wijst erop dat de verordening geen regels invoert voor minimaal risico. Wat echt van toepassing is, past in twee artikelen. Artikel 50 verplicht de aanbieder het systeem zo te ontwerpen dat de persoon weet dat hij met een AI communiceert, tenzij dat duidelijk is — en de Commissie legt die uitzondering restrictief uit. Artikel 4 richt zich op u, de gebruiksverantwoordelijke. Verordening (EU) 2026/1744 heeft het op 27 juli 2026 herschreven: u neemt maatregelen om de AI-geletterdheid van uw teams te ondersteunen, zonder het bereikte niveau van iedereen te moeten garanderen. Deze verordening heeft het hoge risico uitgesteld, niet de transparantie. De melding aan de patiënt blijft verschuldigd op 2 augustus 2026. De systemen van bijlage III schuiven door naar 2 december 2027. AI die is ingebouwd in gereguleerde producten, medische hulpmiddelen inbegrepen, wacht tot 2 augustus 2028.

• De AI-geletterdheid intern ondersteunen: artikel 4, sinds februari 2025
• De AI aankondigen aan de patiënt bij het opnemen: vanaf 2 augustus 2026
• AI als medisch hulpmiddel onderscheiden: hoog risico op 2 augustus 2028
• Tot 15 miljoen euro of 3 % van de wereldwijde omzet riskeren

Informeren bij het opnemen, en wat u niet mag opnemen

Twee afzonderlijke verplichtingen botsen bij het opnemen van de telefoon. Artikel 13 van de AVG verplicht de informatie te verstrekken op het moment dat de gegevens worden verzameld: identiteit van de verwerkingsverantwoordelijke, doeleinden, rechtsgrond, ontvangers, bewaartermijn, rechten van de patiënt. Artikel 50 van de AI Act verplicht op zijn beurt te zeggen dat de gesprekspartner een machine is. Beide passen in één welkomstzin, op voorwaarde dat die verwijst naar volledige informatie die elders beschikbaar is. Opnemen is een afzonderlijke verwerking. De CNIL heeft haar doctrine over het afluisteren en opnemen van gesprekken vastgelegd: geen permanent of systematisch systeem, behalve op grond van een wettekst — de spoeddiensten vallen daaronder. Elke gesprekspartner moet op het moment van zijn oproep worden geïnformeerd over het doel, de ontvangers, zijn recht van verzet en zijn recht van toegang. Opnames worden maximaal zes maanden bewaard, analysedocumenten een jaar, tenzij een tekst een andere duur oplegt. De CNIL beveelt beter aan: de opname in de dagen erna beluisteren, er het analysedocument uit halen en daarna de audio verwijderen. Een leverancier die de opnames bewaart om zijn model te trainen, laat u die verwerking dragen. De verantwoordelijke bent u.

DPIA: verplicht in het ziekenhuis, niet in de solopraktijk

Artikel 35 van de AVG legt een effectbeoordeling op vóór de uitvoering zodra een verwerking waarschijnlijk een hoog risico inhoudt. Lid 3, punt b, noemt uitdrukkelijk de grootschalige verwerking van gegevens uit artikel 9. De vraag blijft waar grootschalig begint. De CNIL heeft dat beslist met twee lijsten. De eerste maakt de beoordeling verplicht voor verwerkingen van gezondheidsgegevens door zorginstellingen of medisch-sociale instellingen voor de zorg voor personen. Een ziekenhuis, een universitair ziekenhuis of een kliniek die een spraakassistent op zijn telefooncentrale aansluit, moet er dus een uitvoeren. De tweede stelt vrij van de beoordeling de verwerkingen die nodig zijn voor de zorg voor een patiënt door een zorgverlener die individueel werkt in een praktijk, een apotheek of een laboratorium, en noemt uitdrukkelijk het beheer van afspraken. Overweging 91 van de AVG zegt hetzelfde: de verwerking van patiëntgegevens door een individueel werkende arts is niet grootschalig. Tussen beide ligt de groepspraktijk. Geen enkele lijst noemt haar. De CNIL beveelt aan de beoordeling uit te voeren bij twijfel.

De vijf vragen die u stelt voordat u tekent

Een conforme leverancier beantwoordt elk van deze vragen met een document, niet met een zin van een verkoper. Vraag de stukken op. Een HDS-certificaat is leesbaar: het vermeldt een entiteit, een toepassingsgebied en een geldigheidsdatum, en de ANS publiceert de lijst waarmee u het kunt natrekken. Een verwerkersovereenkomst leest u regel voor regel, aan de hand van de vijf verplichtingen van artikel 28 die hierboven staan. Een rechtsgrond citeert u met zijn artikel, niet met het woord “conformiteit”. Deze vijf vragen vereisen geen juridische kennis. Ze vragen een schriftelijk antwoord, en ze volstaan om te sorteren. Stel ze per e-mail, niet in een vergadering: wat telt, is het spoor. Een leverancier die u doorverwijst naar zijn juridische dienst en nooit terugkomt, heeft al geantwoord. En let op de laatste: de aankondigingszin is het enige onderdeel van het geheel dat de patiënt zal horen, en u zult hem tegenover de patiënt moeten verantwoorden.

• De entiteit noemen die het HDS-certificaat houdt, en haar toepassingsgebied
• De rechtsgrond citeren: artikel 9, lid 2, punt h
• De verwerkersovereenkomst van artikel 28 vóór de ondertekening verstrekken
• De bewaring van opnames en hun gebruik voor training toelichten
• De AI-aankondigingszin uitschrijven die de patiënt bij het opnemen zal horen

Bronnen

1. RGPD, article 9 — Traitement de catégories particulières de données (CNIL) https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre2
2. RGPD, article 13 — Information de la personne concernée (CNIL) https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre3
3. RGPD, articles 28 et 35 — Sous-traitant et analyse d’impact (CNIL) https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre4
4. RGPD, considérant 91 — Notion de traitement à grande échelle https://gdpr-info.eu/recitals/no-91/
5. Code pénal, article 226-13 — Légifrance https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000006417944
6. Code de la santé publique, article L1110-4 — Légifrance https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000043895798
7. Code de la santé publique, article L1111-8 — Légifrance https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000049577902
8. Certification des hébergeurs de données de santé — Agence du Numérique en Santé https://esante.gouv.fr/labels-certifications/hds/certification-des-hebergeurs-de-donnees-de-sante
9. FAQ HDS, hébergement pour son propre compte — Agence du Numérique en Santé https://esante.gouv.fr/faq/nous-ne-sommes-pas-etablissement-de-sante-ce-sont-nos-clients-qui-hebergent-les-donnees-de-sante-de
10. Liste des hébergeurs certifiés HDS — Agence du Numérique en Santé https://esante.gouv.fr/offres-services/hds/liste-des-hebergeurs-certifies
11. Obligations de transparence de l’article 50 de l’AI Act — Commission européenne https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act
12. Cadre réglementaire européen de l’IA et niveaux de risque — Commission européenne https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
13. Règlement (UE) 2024/1689, annexe III — Systèmes d’IA à haut risque https://artificialintelligenceact.eu/annex/3/
14. Règlement (UE) 2024/1689, article 4 — Maîtrise de l’IA https://artificialintelligenceact.eu/article/4/
15. Entrée en vigueur de l’AI Omnibus, 27 juillet 2026 — Commission européenne https://digital-strategy.ec.europa.eu/en/news/ai-omnibus-enters-force
16. Ce que le règlement (UE) 2026/1744 change au calendrier de l’AI Act — Future of Privacy Forum https://fpf.org/blog/the-ai-act-implementation-timeline-what-changes-under-the-ai-omnibus/
17. Règlement (UE) 2024/1689, article 99 — Sanctions https://artificialintelligenceact.eu/article/99/
18. Calendrier d’application du règlement européen sur l’IA https://artificialintelligenceact.eu/implementation-timeline/
19. L’écoute et l’enregistrement des appels — CNIL https://www.cnil.fr/fr/lecoute-et-lenregistrement-des-appels-sur-le-lieu-de-travail
20. Enregistrement des conversations téléphoniques : informer ses interlocuteurs — CNIL https://www.cnil.fr/fr/cnil-direct/question/enregistrement-ou-ecoute-des-conversations-telephoniques-faut-il-informer-ses
21. Liste des traitements pour lesquels une AIPD est requise — CNIL https://www.cnil.fr/fr/liste-traitements-aipd-requise
22. Liste des traitements pour lesquels une AIPD n’est pas requise — CNIL https://www.cnil.fr/fr/liste-traitements-aipd-non-requise
23. § 203 StGB, Verletzung von Privatgeheimnissen — Gesetze im Internet https://www.gesetze-im-internet.de/stgb/__203.html
24. Kriterienkatalog C5:2026 für Cloud-Dienste — BSI https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Cloud-Computing/Kriterienkatalog-C5/C5_2025/C5_2025_node.html
25. IA et santé : projet de guide HAS-CNIL, consultation close en avril 2026 — CNIL https://www.cnil.fr/fr/cloturee-ia-et-sante-la-has-et-la-cnil-lancent-une-consultation-publique-sur-un-projet-de-guide