KI-Systeme sind im Gesundheitswesen längst nicht mehr nur Forschungsprojekte. Chatbots beantworten Fragen, Assistenten strukturieren Informationen und generative Systeme erstellen Texte für Patienten, Beschäftigte oder die Öffentlichkeit. Im August 2026 greifen Transparenzpflichten des europäischen AI Act. Damit wird aus einer Frage guter Kommunikation eine konkrete Governance-Aufgabe.
Menschen müssen wissen, wenn sie mit einer Maschine interagieren
Der AI Act verfolgt einen risikobasierten Ansatz. Nach der aktuellen Übersicht der Europäischen Kommission müssen Menschen beispielsweise informiert werden, wenn sie mit einem KI-System wie einem Chatbot interagieren, sofern dies nicht ohnehin offensichtlich ist. Die Kommission ordnet den Beginn dieser Transparenzregeln dem August 2026 zu.
Auch KI-generierte Inhalte sollen als solche erkennbar sein. Für bestimmte Inhalte gelten weitergehende Kennzeichnungspflichten, etwa bei Deepfakes oder Texten, die zu Themen von öffentlichem Interesse veröffentlicht werden.
Im Gesundheitswesen ist diese Klarheit besonders relevant. Patienten und Angehörige müssen einschätzen können, ob eine Antwort automatisiert erzeugt wurde, welche Grenzen das System hat und wann ein Mensch übernimmt.
Wo Transparenz im Alltag schnell fehlt
Die meisten Risiken entstehen nicht durch ein einzelnes spektakuläres KI-System, sondern durch viele kleine Anwendungen:
- Ein Chatbot beantwortet Fragen zu Leistungen, Terminen oder Vorbereitung.
- Ein Assistent formuliert E-Mails, Website-Texte oder Patienteninformationen vor.
- Ein internes System fasst Dokumente zusammen oder schlägt nächste Schritte vor.
- Ein Sprach- oder Übersetzungstool unterstützt die Kommunikation.
- Generative KI erstellt Inhalte, die anschließend ohne erkennbare Prüfung veröffentlicht werden.
Oft ist nicht dokumentiert, wo solche Systeme bereits genutzt werden. Transparenz lässt sich dann weder konsistent gestalten noch zuverlässig nachweisen.
Vier Aufgaben für Healthcare-Organisationen
KI-Anwendungen inventarisieren
Organisationen sollten zunächst erfassen, wo KI eingesetzt wird – einschließlich eingebetteter Funktionen in Standardsoftware. Entscheidend sind Zweck, Zielgruppe, Datenarten, Verantwortliche und die Frage, ob das Ergebnis direkt an Patienten oder die Öffentlichkeit gelangt.
Kontaktpunkte eindeutig kennzeichnen
Bei patientennahen Chatbots und Assistenten muss verständlich sein, dass eine Maschine beteiligt ist. Die Kennzeichnung sollte nicht in allgemeinen Nutzungsbedingungen versteckt werden, sondern dort erscheinen, wo die Interaktion beginnt.
Menschliche Eskalation organisieren
Transparenz allein reicht nicht. Nutzer brauchen einen klaren Weg zu einem zuständigen Menschen, insbesondere bei medizinisch sensiblen, missverständlichen oder dringenden Anliegen. Ein System darf keine Sicherheit suggerieren, die organisatorisch nicht abgesichert ist.
Veröffentlichungsprozesse anpassen
Für KI-unterstützte Texte und Medien sollten Prüfung, Freigabe und Nachweis definiert sein. Das betrifft Website-Inhalte, Patienteninformationen, Kampagnen, Social Media und interne Kommunikation. Verantwortlich bleibt die Organisation, nicht das eingesetzte Modell.
Nicht jede KI ist automatisch Hochrisiko – aber jede braucht einen klaren Zweck
Der AI Act unterscheidet verschiedene Risikostufen. Ob ein System als hochriskant gilt, hängt von Produkt, Funktion und Nutzungskontext ab. Ein allgemeiner Service-Chatbot ist anders zu bewerten als eine KI-Komponente, die sicherheitsrelevante medizinische Entscheidungen beeinflusst.
Deshalb ist eine pauschale Einstufung wenig hilfreich. Organisationen benötigen ein strukturiertes Verfahren, das Anwendungsfall, Daten, betroffene Personen, mögliche Schäden, menschliche Aufsicht und regulatorische Einordnung gemeinsam betrachtet.
Fazit: Vertrauen entsteht durch sichtbare Verantwortung
Die Transparenzpflichten sind kein Hindernis für sinnvolle KI-Nutzung. Sie schaffen einen Mindeststandard dafür, wie Organisationen Verantwortung zeigen. Patienten und Beschäftigte müssen erkennen können, wann KI beteiligt ist, welche Rolle sie spielt und wo menschliche Entscheidungskompetenz beginnt.
Primärquellen und Gültigkeitsgrenze
- Europäische Kommission: AI Act – Regulatory framework, abgerufen am 11. August 2026. Belegt den risikobasierten Rahmen und den von der Kommission ausgewiesenen Start der Transparenzregeln im August 2026.
- Verordnung (EU) 2024/1689 über künstliche Intelligenz, amtlicher EU-Rechtsakt. Maßgeblich für die konkrete Pflichten- und Anwendungsprüfung.