KI-Telefonsekretariat auswählen: die Fragen vor der Unterschrift

Auswählen heißt: pro Frage ein Beleg

Ein KI-Telefonsekretariat wählt man über sieben überprüfbare Antworten aus: wo die Daten liegen, wer sie hostet und mit welchem Nachweis, ob das Modell auf Ihren Anrufen lernt, was der Agent tut, wenn er nicht versteht, was er in Ihre Praxissoftware schreibt, wie man abschaltet und woran gemessen wird. Eine belastbare Antwort kommt mit einem Anhang, eine schwache mit einem Adjektiv. Zertifikat, Vertragsklausel, Gesprächsprotokoll. Das ist kein Verkaufsargument. Das Meiste steht bereits im Gesetz. Art. 28 DSGVO regelt Auftragsverarbeitung und Unterauftragnehmer. § 203 StGB stellt den Bruch der Schweigepflicht unter Strafe: Freiheitsstrafe bis zu einem Jahr oder Geldstrafe. Art. 50 der KI-Verordnung verlangt, dass die anrufende Person erfährt, dass sie mit einem KI-System spricht. Die Pflicht gilt ab dem 2. August 2026. Ihr Anbieter tut Ihnen keinen Gefallen, wenn er antwortet. Er erfüllt eine Pflicht. Stellen Sie die sieben Fragen schriftlich. Nehmen Sie die Antworten schriftlich. Wer im Videocall antwortet und nie im Vertrag, verkauft eine Absicht, keine Leistung.

Wo die Aufzeichnungen liegen, mit welchem Nachweis

Ein Patientenanruf erzeugt Gesundheitsdaten: Name, Geburtsdatum, Anliegen, manchmal ein laut ausgesprochener Schmerz. Frankreich verlangt dafür eine eigene Pflichtzertifizierung, HDS, nach Art. L1111-8 des Code de la santé publique. In Deutschland gibt es dieses Gegenstück nicht. Die Frage verschiebt sich deshalb: Welches Testat hält der Hoster tatsächlich, für welchen Geltungsbereich, und wo stehen die Server physisch? Der zweite Hebel ist strafrechtlich. § 203 Abs. 3 Satz 2 StGB erlaubt die Offenbarung gegenüber sonstigen mitwirkenden Personen, soweit dies für die Inanspruchnahme ihrer Tätigkeit erforderlich ist. § 203 Abs. 4 Nr. 1 StGB macht daraus eine Pflicht der Praxis: Wer nicht dafür Sorge trägt, dass die mitwirkende Person zur Geheimhaltung verpflichtet wurde, macht sich strafbar. Die Verpflichtungserklärung gehört in die Vertragsmappe, nicht in ein Gespräch. Eine schwache Antwort sagt „in Europa gehostet“ und hört auf. Ein Sprachagent besteht aus mindestens vier Bausteinen: Transkription, Sprachmodell, Sprachsynthese, Telefonie. Jeder davon ist ein Unterauftragnehmer. Art. 28 Abs. 2 DSGVO verbietet, einen davon ohne Ihre vorherige schriftliche Genehmigung hinzuzuziehen.

• Fordern Sie das Testat samt Geltungsbereich und Ausstellungsdatum an
• Lassen Sie Standorte einzeln benennen, nicht pauschal „in Europa“
• Zählen Sie alle vier Bausteine: Transkription, Modell, Stimme, Telefonie
• Prüfen Sie, wer ein Transkript im Klartext lesen darf
• Verlangen Sie die Verpflichtungserklärung nach § 203 Abs. 4 StGB

Trainieren Ihre Anrufe deren Modell?

Eine Frage, ein Satz. Die Antwort gehört in eine Vertragsklausel. Die französische Aufsichtsbehörde CNIL hat im Februar 2025 klargestellt, dass jede Weiterverwendung eines Datenbestands am ursprünglichen Erhebungszweck zu messen ist. Im Vertrag heißt das: eine Zweckbindungsklausel, die Training auf Ihren Anrufen ausdrücklich ausschließt. Das Risiko ist nicht theoretisch. Der Europäische Datenschutzausschuss hat am 17. Dezember 2024 die Stellungnahme 28/2024 zu KI-Modellen angenommen: Wurde ein Modell mit unrechtmäßig verarbeiteten personenbezogenen Daten entwickelt, kann das im Einzelfall die Rechtmäßigkeit der späteren Verarbeitung berühren, sofern das Modell nicht ordnungsgemäß anonymisiert ist. Die Latte liegt hoch. Als anonym gilt ein Modell erst, wenn die Wahrscheinlichkeit unerheblich ist, personenbezogene Daten daraus zu ziehen, direkt wie per Abfrage. Eine belastbare Antwort lautet „nein“, mit der Nummer der Vertragsklausel. Oder „ja“, mit Rechtsgrundlage, Umfang und Widerspruchsverfahren. Eine schwache Antwort spricht von kontinuierlicher Verbesserung und sagt nicht, wer wann anonymisiert und was das Modell behalten hat. Fragen Sie zusätzlich nach der Aufbewahrungsdauer der Roh-Audiodateien.

Was der Agent tut, wenn er nicht versteht

Diese Frage trennt ein Produkt von einer Demo. Ein Agent, der bei einem missverstandenen Satz auflegt, erzeugt keine technische Störung. Er erzeugt eine Lücke in der Erreichbarkeit, und dafür haftet die Praxis, nicht der Anbieter. Fragen Sie deshalb nicht, wie gut der Agent versteht. Fragen Sie, was er tut, wenn er nicht versteht. Zweiter Punkt: Dringlichkeitstriage. Anhang III Nummer 5 Buchstabe d der KI-Verordnung stuft Systeme als Hochrisiko-KI ein, die Notrufe bewerten und klassifizieren, Prioritäten bei der Entsendung von Rettungsdiensten setzen oder Notfallpatienten triagieren. Wenn Ihr Agent Schmerzangaben priorisiert, fragen Sie, unter welche Einstufung er fällt. Dritter Punkt: Art. 50 der KI-Verordnung verlangt, dass die Person vom ersten Austausch an erfährt, dass sie mit einem KI-System interagiert. Anwendbar ab dem 2. August 2026. Art. 99 Abs. 4 beziffert den Verstoß auf bis zu 15 000 000 € oder 3 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Eine schwache Antwort nennt eine Automatisierungsquote. Die Quote sagt nichts darüber, wo die übrigen Anrufe geblieben sind.

• Verlangen Sie eine benannte Weiterleitungsnummer, keine Mailbox
• Legen Sie die Höchstdauer bis zur Übergabe an Menschen fest
• Schreiben Sie die Ausstiegsfälle auf: Notfall, Schmerz, Schweigen, Ärger
• Fordern Sie einen schriftlichen Vermerk zu jeder Weiterleitung
• Testen Sie mit Dialekt, Hintergrundlärm und Verbindungsabbruch

Der Terminkalender: nur lesen oder auch schreiben

Ein Agent, der Ihren Terminkalender nicht liest, bietet Fantasietermine an. Ein Agent, der ohne Regeln hineinschreibt, erzeugt Dubletten. Dazwischen liegt ein Anbindungsvertrag, und der wird Zeile für Zeile gelesen. Fragen Sie nach dem genauen Namen der Praxissoftware, der Version und dem Anbindungsweg: offizielle Schnittstelle, zertifizierter Konnektor oder Automatisierung auf dem Praxiskonto. Alle drei gibt es. Alle drei versagen auf unterschiedliche Weise. Fragen Sie danach den Schreibumfang ab: Anlegen, Verschieben, Absagen. Und dann: Was passiert, wenn die Synchronisation abreißt? Wenn die Verbindung dreißig Sekunden ausfällt, was sagt der Agent der anrufenden Person? Art. 28 Abs. 3 Buchst. h DSGVO gibt Ihnen das Werkzeug dafür. Der Auftragsverarbeiter stellt alle Informationen bereit, die zum Nachweis der Einhaltung nötig sind, und ermöglicht Überprüfungen einschließlich Inspektionen. Eine Anbindung wird dokumentiert, nicht erzählt. Bei Solva bleibt der Praxiskalender die Referenz. Der Agent liest die echten Verfügbarkeiten und schreibt den Termin dorthin zurück, ohne Parallelkalender. Eine schwache Antwort verspricht Kompatibilität mit allem. Verlangen Sie die Liste. Verlangen Sie die Version.

Abschalten: Rückgabe, Löschung, Rufnummer

Über den Ausstieg verhandeln Sie vor der Unterschrift. Drei Dinge müssen den Anbieter mit Ihnen verlassen: Ihre Daten, deren Kopien und Ihre Rufnummer. Für die ersten beiden gibt es Recht. Art. 28 Abs. 3 Buchst. g DSGVO verpflichtet den Auftragsverarbeiter, nach Abschluss der Erbringung der Verarbeitungsleistungen alle personenbezogenen Daten zu löschen oder zurückzugeben und bestehende Kopien zu vernichten. Der französische Hostingrahmen schreibt dieselbe Rückgabe- und Vernichtungspflicht ausdrücklich in den Vertrag. Lassen Sie sich das nicht zusagen, lassen Sie es sich bescheinigen. Der dritte Punkt ist die Falle. Gehört die Rufnummer, die Ihre Patientinnen und Patienten seit zehn Jahren wählen, dem Anbieter, ist die Kündigung kein Schalter, sondern eine Abschaltung. Schreiben Sie die Rufnummernportierung in den Vertrag, mit Frist in Tagen. Eine belastbare Antwort nennt ein Exportformat, eine Frist in Tagen und eine Löschbescheinigung. Eine schwache Antwort sagt, Sie könnten jederzeit aufhören, und benennt nicht, was mitgeht. Testen Sie den Ausstieg vor der Unterschrift. Fordern Sie im Pilotbetrieb einen Probeexport auf echten Daten an.

Die Laufzeit: Verbraucherschutz greift für die Praxis nicht

Wer als Praxis einen Dienstleistungsvertrag unterschreibt, unterschreibt als Unternehmer. Dieser Satz wird teuer, und niemand spricht ihn vor dem zweiten Jahr aus. § 309 Nr. 9 BGB begrenzt in Allgemeinen Geschäftsbedingungen die Laufzeit auf zwei Jahre, verbietet die stillschweigende Verlängerung ohne kurze Kündigungsmöglichkeit und deckelt die Kündigungsfrist auf einen Monat. § 310 Abs. 1 Satz 1 BGB schaltet genau diese Schranke ab, sobald die Klauseln gegenüber einem Unternehmer verwendet werden. Die Laufzeitklausel, die Sie unterschreiben, ist die Laufzeitklausel, die gilt. Was eine belastbare Antwort enthält: Erstlaufzeit, Kündigungsfrist in Tagen, Verlängerungsregel, Regel zur Preisanpassung und ein Sonderkündigungsrecht bei verfehltem Service-Level. Der letzte Punkt fehlt fast immer. Was eine schwache Antwort umgeht: die tatsächliche Dauer. Eine lange Bindung, die als Preis der Einrichtung verkauft wird, bleibt eine lange Bindung. Fragen Sie zusätzlich, was beim Wechsel der Praxissoftware passiert. Ein Vertrag, der eine Anbindung überlebt, die es nicht mehr gibt, ist ein Vertrag über nichts.

Messen: die Kennzahlen, die im Vertrag stehen

Eine Kennzahl, die nur im Dashboard des Anbieters steht, ist keine Kennzahl. Sie ist Werbung. Das Recht gibt Ihnen zwei Hebel. Art. 28 Abs. 3 Buchst. h DSGVO verpflichtet den Auftragsverarbeiter, alle erforderlichen Informationen zum Nachweis der Einhaltung bereitzustellen und Überprüfungen einschließlich Inspektionen zu ermöglichen. Der französische Rahmen geht weiter und verlangt Qualitäts- und Leistungskennzahlen direkt im Hostingvertrag, mit denen sich das zugesagte Serviceniveau überprüfen lässt. Übernehmen Sie diese Idee, auch wenn Ihre Praxis in Deutschland sitzt. Erheben Sie vor der Umstellung Ihren Nullpunkt: eingegangene Anrufe, verlorene Anrufe, telefonisch vergebene Termine, über einen vollen Monat. Ohne diese Zahlen hält sechs Monate später kein Vergleich. Verlangen Sie dann das Compliance-Material selbst: Verarbeitungsbeschreibung, Sicherheitsmaßnahmen, Löschfristen. Aufsichtsbehörden veröffentlichen Listen der Verarbeitungen, die eine Datenschutz-Folgenabschätzung erfordern, so die CNIL in ihrem Beschluss Nr. 2018-327. Ein Anbieter, der Ihnen dieses Material nicht aushändigen kann, hat es nie geschrieben.

• Schreiben Sie die Kennzahlen in den Vertrag, nicht ins Angebot
• Zählen Sie weitergeleitete Anrufe, nicht nur angenommene
• Hören Sie zehn Zufallsgespräche pro Woche, keine Anbieterauswahl
• Erheben Sie den Nullpunkt vor dem Start, über einen vollen Monat
• Nutzen Sie das Auditrecht aus Art. 28 DSGVO einmal jährlich

Quellen

1. Code de la santé publique, article L1111-8 (Légifrance), 2024 https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000049577902
2. Code de la santé publique, article R1111-11 (Légifrance), 2018 https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000036658473
3. Agence du numérique en santé, certification HDS, 2024 https://esante.gouv.fr/produits-services/hds
4. Agence du numérique en santé, évolution des référentiels de certification et d’accréditation HDS https://esante.gouv.fr/actualites/toutes-les-actualites/hebergement-des-donnees-de-sante-hds-evolution-des-referentiels-de-certification-et-d-accreditation
5. Arrêté du 26 avril 2024 approuvant le référentiel de certification HDS (Légifrance) https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000049537692
6. RGPD, article 28 — texte publié par la CNIL, 2016 https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre4
7. Code pénal, article 226-13 (Légifrance) https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000006417945
8. Code de la santé publique, article R4127-47 (Légifrance) https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000006912913
9. Code de la santé publique, article R4127-232 — déontologie des chirurgiens-dentistes (Légifrance) https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000006913036
10. Commission européenne, obligations de transparence de l’article 50 du règlement IA, 2026 https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act
11. Règlement (UE) 2024/1689, article 99 — AI Act Service Desk, Commission européenne https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-99
12. Règlement (UE) 2024/1689, annexe III — AI Act Service Desk, Commission européenne https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3
13. Comité européen de la protection des données, avis 28/2024 sur les modèles d’IA, adopté le 17 décembre 2024 https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
14. CNIL, recommandations IA et RGPD, 7 février 2025 https://www.cnil.fr/fr/ia-et-rgpd-la-cnil-publie-ses-nouvelles-recommandations-pour-accompagner-une-innovation-responsable
15. Code de la consommation, article L215-1 (Légifrance) https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000034072591/
16. CNIL, délibération n° 2018-327 du 11 octobre 2018 — liste des traitements soumis à une AIPD https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000037559521
17. Strafgesetzbuch, § 203 — Gesetze im Internet https://www.gesetze-im-internet.de/stgb/__203.html
18. Bürgerliches Gesetzbuch, § 309 — Gesetze im Internet https://www.gesetze-im-internet.de/bgb/__309.html
19. Bürgerliches Gesetzbuch, § 310 — Gesetze im Internet https://www.gesetze-im-internet.de/bgb/__310.html
20. NHS England, Data Security and Protection Toolkit https://www.dsptoolkit.nhs.uk/