Seit dem 27. Juli 2026 gilt Art. 4 AI Act in geänderter Fassung. Anbieter und Betreiber von KI-Systemen müssen weiterhin Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz der mit KI befassten Personen zu unterstützen. Neu ist insbesondere: Ein bestimmtes individuelles Kompetenzniveau müssen sie nicht garantieren.
Für Krankenhäuser, Arztpraxen, Medizinische Versorgungszentren und andere Gesundheitseinrichtungen bleibt KI-Kompetenz im Gesundheitswesen dennoch eine zentrale Compliance-Aufgabe. Denn hier treffen KI-Anwendungen auf sensible Gesundheitsdaten, Patientensicherheit und medizinische Entscheidungsprozesse.
Entscheidend ist daher nicht nur, ob Beschäftigte eine KI-Schulung absolviert haben. Sie müssen das konkret eingesetzte KI-System entsprechend ihrer Tätigkeit sachgerecht, sicher und kritisch nutzen können. Dazu gehört auch zu wissen, wo die Grenzen der eigenen Kompetenz und der eingesetzten KI liegen.
Das Wichtigste in Kürze
Lesezeit: ca. 10 Minuten
- Art. 4 AI Act verpflichtet Anbieter und Betreiber weiterhin zu Maßnahmen zur Förderung der KI-Kompetenz.
- Seit dem 27. Juli 2026 muss kein bestimmtes Kompetenzniveau einzelner Personen garantiert werden.
- Umfang und Inhalt der Kompetenzmaßnahmen sollten sich am konkreten KI-Einsatz, den Vorkenntnissen und den jeweiligen Aufgaben orientieren.
- KI-Kompetenz bedeutet grundsätzlich nicht, dass Beschäftigte KI-Systeme selbst programmieren oder Modelle trainieren können müssen.
- Im Gesundheitswesen sind insbesondere KI-Awareness, Datenkompetenz, Datenschutz, das Verständnis von Einsatzgrenzen und die kritische Prüfung von KI-Ergebnissen wichtig.
- Bei medizinisch relevanter KI müssen insbesondere Datenqualität, Bias, Automation Bias und ein möglicher Verlust eigener Fachkompetenz berücksichtigt werden.
- KI-Kompetenz ist nicht nur eine Schulungsfrage, sondern auch eine Frage funktionierender KI-Governance.
KI-Kompetenz nach Art. 4 AI Act: Was sich 2026 geändert hat
Art. 4 AI Act gilt grundsätzlich bereits seit dem 2. Februar 2025. Durch die Änderung im Juli 2026 wurde die Vorschrift jedoch wesentlich neu gefasst.
Nach der bisherigen Regelung mussten Anbieter und Betreiber nach besten Kräften sicherstellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Der neue Art. 4 verfolgt einen weniger starren Ansatz: Anbieter und Betreiber müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz zu unterstützen.
Dabei sind weiterhin insbesondere zu berücksichtigen:
- technische Kenntnisse und Erfahrung,
- Aus- und Fortbildung,
- der konkrete Einsatzkontext und
- die Personen oder Personengruppen, bei denen das KI-System eingesetzt wird.
Die Neufassung stellt ausdrücklich klar, dass Anbieter oder Betreiber nicht verpflichtet sind, für jede einzelne Person ein bestimmtes Kompetenzniveau zu garantieren.
Für Gesundheitseinrichtungen bedeutet das: Eine starre KI-Schulung für sämtliche Beschäftigten nach demselben Muster lässt sich aus Art. 4 AI Act nicht ableiten. Erforderlich bleibt vielmehr ein nachvollziehbarer und risikobezogener Ansatz, der zum tatsächlichen KI-Einsatz passt.
Inhaltsverzeichnis
Wo KI im Gesundheitswesen eingesetzt wird
Welche KI-Kompetenzen brauchen Beschäftigte im Gesundheitswesen?“ geführt wird
KI-Governance im Gesundheitswesen: Kompetenzen und Verantwortlichkeiten organisieren
Eigene Kompetenzgrenzen erkennen
Human in the Loop: Menschliche Kontrolle bei medizinischer KI
Hochrisiko-KI im Gesundheitswesen: Welche Regeln gelten?
KI-Richtlinie für Kliniken und Praxen: Klare Nutzungsgrenzen festlegen
KI-Kompetenz im Gesundheitswesen umsetzen: 6 To-dos für Kliniken und Praxen
Wo KI im Gesundheitswesen eingesetzt wird
Der Einsatz künstlicher Intelligenz reicht von administrativen Anwendungen bis zu medizinisch hochrelevanten Systemen. Beispiele sind:
- generative KI für Dokumentation, Arztbriefe und Verwaltung,
- KI-gestützte Bildanalyse und Diagnostik,
- klinische Entscheidungsunterstützung,
- Chatbots und digitale Patientenkommunikation sowie
- KI-Anwendungen im Personalwesen und bei der Bewerberauswahl.
Gerade diese Bandbreite zeigt, warum KI-Kompetenz kontextbezogen sein muss. Ein Verwaltungsmitarbeiter, der einen internen Text mit generativer KI erstellt, benötigt andere Kenntnisse als eine Radiologin, die die Ausgabe eines diagnostischen KI-Systems beurteilt.
Welche KI-Kompetenzen brauchen Beschäftigte im Gesundheitswesen?
KI-Awareness: Möglichkeiten und Grenzen von KI verstehen
Beschäftigte müssen nicht zu KI-Entwicklern oder Data Scientists werden. KI-Kompetenz setzt grundsätzlich weder Programmierkenntnisse noch die Fähigkeit voraus, selbst KI-Modelle zu entwickeln oder zu trainieren.
Entscheidend ist vielmehr ein anwendungsbezogenes Verständnis des konkret eingesetzten Systems.
Beschäftigte sollten insbesondere wissen,
- für welche Zwecke das System vorgesehen ist,
- welche Informationen für seine Ergebnisse relevant sind,
- welche typischen Fehler und Grenzen auftreten können,
- wie KI-Ausgaben fachlich einzuordnen sind,
- wann Ergebnisse überprüft oder verworfen werden müssen und
- wann menschliche Fachkompetenz Vorrang hat.
Bei generativer KI gehört dazu beispielsweise das Bewusstsein, dass plausibel klingende Ausgaben sachlich falsch oder erfunden sein können.
Die Abgrenzung gegenüber umfassendem Entwicklerwissen ist auch sachlich sinnvoll: Für die sichere Anwendung von KI stehen das Verständnis der Technologie, der Daten und ihrer Grenzen im Vordergrund – nicht die Fähigkeit, selbst Algorithmen zu programmieren oder zu trainieren.
Datenkompetenz bei KI: Datenschutz, Datenqualität und Bias
Im Gesundheitswesen kommt der Datenkompetenz besondere Bedeutung zu. Diagnosen, Befunde, Medikationen und andere Informationen über den Gesundheitszustand sind regelmäßig Gesundheitsdaten und damit besondere Kategorien personenbezogener Daten im Sinne von Art. 9 DSGVO.
Datenkompetenz erschöpft sich jedoch nicht im Datenschutz. Beschäftigte und Verantwortliche müssen auch verstehen, dass die Qualität und Zusammensetzung der Daten die Ergebnisse eines KI-Systems erheblich beeinflussen können.
Relevant sind insbesondere:
- Datenqualität und Vollständigkeit,
- mögliche Verzerrungen und Bias,
- Repräsentativität der verwendeten Daten,
- mögliche Benachteiligungen bestimmter Patientengruppen und
- Grenzen datenbasierter Prognosen.
Ein KI-System kann technisch ordnungsgemäß funktionieren und dennoch problematische Ergebnisse liefern, wenn seine Datengrundlage bestimmte Gruppen nicht angemessen abbildet.
Datenkompetenz bedeutet dabei nicht, dass sämtliche Beschäftigten selbst komplexe Datenanalysen durchführen können müssen. Entscheidend ist vielmehr, dass die jeweils zuständigen Personen die Qualität, Aussagekraft und Grenzen der für die KI-Anwendung relevanten Daten angemessen einschätzen können.
Je stärker ein KI-System medizinische, organisatorische oder personelle Entscheidungen unterstützt, desto wichtiger wird diese Fähigkeit.
KI-Governance im Gesundheitswesen: Kompetenzen und Verantwortlichkeiten organisieren
KI-Kompetenz betrifft nicht nur die unmittelbaren Anwender eines KI-Systems.
Führungskräfte und andere Verantwortliche müssen beispielsweise beurteilen können,
- ob ein Prozess überhaupt sinnvoll durch KI unterstützt werden kann,
- welche Risiken mit der Anwendung verbunden sind,
- wer ein KI-System freigibt,
- welche menschlichen Kontrollen erforderlich sind und
- wann zusätzliche Fachleute einbezogen werden müssen.
KI-Kompetenz beginnt damit bereits vor dem eigentlichen Einsatz eines Systems. Verantwortliche sollten beurteilen können, bei welchen Tätigkeiten KI sinnvoll eingesetzt werden kann und bei welchen Prozessen fachliche Verantwortung, Patientensicherheit oder andere Risiken gegen eine weitgehende Automatisierung sprechen.
Gerade bei komplexeren KI-Anwendungen wird sich die erforderliche Kompetenz regelmäßig nicht bei einer einzigen Person bündeln lassen. Entscheidend ist deshalb, dass medizinische, technische, datenschutzrechtliche, informationssicherheitsbezogene und regulatorische Kompetenzen innerhalb der Organisation verfügbar sind und bei Bedarf zusammengeführt werden können.
Gesundheitseinrichtungen sollten hierzu insbesondere medizinische Fachbereiche, IT, Datenschutz, Informationssicherheit und, soweit erforderlich, Rechtsberatung miteinander verzahnen.
Eine funktionierende KI-Governance setzt zudem voraus, dass technische, medizinische und regulatorische Informationen zwischen den beteiligten Bereichen verständlich vermittelt werden können.
Einen gesetzlich vorgeschriebenen „KI-Beauftragten“ verlangt Art. 4 AI Act allerdings nicht.
Eigene Kompetenzgrenzen erkennen
Zu professioneller KI-Kompetenz gehört auch, die Grenzen der eigenen Zuständigkeit und Fachkenntnisse zu erkennen.
Nicht jeder Anwender und nicht jede Führungskraft kann sämtliche technischen, rechtlichen, medizinischen oder ethischen Fragen selbst beantworten. Wichtig ist deshalb, dass Beschäftigte und Verantwortliche erkennen können, wann zusätzliche Expertise erforderlich ist.
Je nach Anwendung können beispielsweise medizinische Fachbereiche, IT, Datenschutz, Informationssicherheit oder rechtliche Beratung einzubeziehen sein.
Gerade bei komplexen KI-Anwendungen ist deshalb weniger entscheidend, dass eine einzelne Person sämtliche Kompetenzen besitzt, als dass die Gesundheitseinrichtung die erforderlichen Kompetenzen organisatorisch zusammenführen kann.
Human in the Loop: Menschliche Kontrolle bei medizinischer KI
Besonders bei medizinischen Anwendungen muss menschliche Fachkompetenz erhalten bleiben.
„Human in the Loop“ bedeutet vereinfacht, dass ein Mensch eine tatsächliche Kontroll- und Eingriffsmöglichkeit behält. Für medizinisches Personal bedeutet das insbesondere: KI-Ergebnisse müssen fachlich eingeordnet und bei Bedarf verworfen werden können.
Wirksame menschliche Kontrolle setzt daher nicht nur die formale Möglichkeit voraus, eine KI-Ausgabe zu überprüfen. Die verantwortliche Person muss auch über ausreichende fachliche Kompetenz verfügen, um Unstimmigkeiten zu erkennen, Ergebnisse kritisch zu hinterfragen und der KI erforderlichenfalls zu widersprechen.
Der Einsatz einer KI nimmt Ärztinnen und Ärzten die fachliche Verantwortung für eine medizinische Entscheidung nicht automatisch ab. Wie Verantwortung und Haftung im konkreten Einzelfall verteilt sind, hängt jedoch vom jeweiligen System, seiner Funktion, möglichen Produktfehlern und den organisatorischen Umständen ab.
Automation Bias vermeiden
Beim sogenannten Automation Bias wird einer automatisierten Empfehlung zu stark vertraut. Gerade in der Medizin besteht dabei die Gefahr, dass eigene fachliche Zweifel oder abweichende Befunde weniger berücksichtigt werden. Der Automation Bias (Automationserinnerung oder Automations-Verzerrung) beschreibt in der Medizin das psychologische Phänomen, bei dem medizinisches Fachpersonal computergestützten Empfehlungen und automatisierten Systemen (wie z. B. Künstlicher Intelligenz) unkritisch vertraut und das eigene fachliche Urteil zurückstellt.
Dieses Phänomen gewinnt durch den vermehrten Einsatz von KI-Systemen in der Diagnostik, Radiologie und bei klinischen Entscheidungsunterstützungssystemen stark an Relevanz
Deskilling: Medizinische Fachkompetenz muss erhalten bleiben
Werden fachliche Aufgaben dauerhaft an KI-Systeme abgegeben, kann zudem ein Verlust eigener Kenntnisse und Erfahrungswerte eintreten.
KI-Kompetenz bedeutet daher auch, die Fähigkeit zu erhalten, Ergebnisse selbstständig zu plausibilisieren und Fehler eines KI-Systems zu erkennen.
Datenschutz bei KI im Gesundheitswesen: Was bei Patientendaten gilt
Werden personenbezogene Gesundheitsdaten mit KI verarbeitet, muss neben dem AI Act insbesondere die DSGVO eingehalten werden.
Vor dem Einsatz einer KI-Anwendung sollten insbesondere geprüft werden:
| [ ] | Rechtsgrundlage nach Art. 6 DSGVO und Zulässigkeit der Verarbeitung von Gesundheitsdaten nach Art. 9 DSGVO, |
| [ ] | datenschutzrechtliche Rollen und eingebundene Dienstleister, |
| [ ] | Zugriffsberechtigungen und technische Schutzmaßnahmen, |
| [ ] | Speicherorte und Speicherfristen, |
| [ ] | mögliche Drittlandübermittlungen, |
| [ ] | berufliche Verschwiegenheitspflichten sowie |
| [ ] | gegebenenfalls die Erforderlichkeit einer Datenschutz-Folgenabschätzung nach Art. 35 DSGVO. |
Gerade bei öffentlich verfügbaren oder extern betriebenen generativen KI-Diensten gilt deshalb: Patientendaten sollten erst dann eingegeben werden, wenn Datenschutz, technische Ausgestaltung und interne Freigabe geprüft wurden.
Hochrisiko-KI im Gesundheitswesen: Welche Regeln gelten?
Nicht jede medizinische KI ist automatisch ein Hochrisiko-KI-System nach dem AI Act.
Bei produktbezogenen KI-Systemen nach Art. 6 Abs. 1 AI Act kommt es insbesondere darauf an, ob das System selbst ein von Anhang I erfasstes Produkt oder entsprechendes Sicherheitsbauteil ist und ob die weiteren gesetzlichen Voraussetzungen erfüllt sind.
Auch außerhalb der unmittelbaren Patientenversorgung kann Hochrisiko-KI relevant werden. Bestimmte KI-Systeme zur Bewerberauswahl und für Personalentscheidungen können beispielsweise zu den in Anhang III erfassten Anwendungsbereichen gehören.
Nach den im Ausgangsentwurf berücksichtigten Änderungen sind insbesondere folgende Zeitpunkte relevant:
- Für Hochrisiko-KI nach Art. 6 Abs. 2 und Anhang III gelten die entsprechenden Vorschriften grundsätzlich ab 2. Dezember 2027.
- Für Hochrisiko-KI nach Art. 6 Abs. 1 in Verbindung mit Anhang I können die entsprechenden Regelungen grundsätzlich ab 2. August 2028 relevant werden.
Die regulatorische Einordnung sollte deshalb immer anhand des konkreten Systems, seiner Zweckbestimmung und seines Einsatzes erfolgen.
KI-Richtlinie für Kliniken und Praxen: Klare Nutzungsgrenzen festlegen
Neben Schulungen können klare Regeln für den täglichen Umgang mit KI besonders wirksam sein.
Eine interne KI-Richtlinie im Gesundheitswesen kann beispielsweise folgende Vorgaben enthalten:
- Keine Patientendaten in nicht freigegebene KI-Systeme eingeben.
- Medizinisch relevante KI-Ausgaben nicht ungeprüft übernehmen.
- KI-Systeme nur innerhalb des freigegebenen Einsatzzwecks nutzen.
- KI-Systeme nicht ohne erforderliche Datenschutz-, Sicherheits- und Regulierungsprüfung einführen.
- Bei risikoreichen Anwendungen nicht allein auf allgemeine Standardschulungen vertrauen.
- Wesentliche Änderungen des Systems oder seines Einsatzzwecks vor der weiteren Nutzung neu bewerten.
Solche Vorgaben übersetzen abstrakte Compliance-Anforderungen in konkrete Regeln für den Arbeitsalltag.
KI-Kompetenz im Gesundheitswesen umsetzen: 6 To-dos für Kliniken und Praxen
| Schritt | Maßnahme nach Art. 4 AI Act | Verantwortlich im MVZ / Klinik |
|---|---|---|
| 1. Inventar | Erfassung aller KI-Systeme und generativen Tools: Welche KI-Systeme und KI-Dienste werden tatsächlich eingesetzt? | IT-Leitung / Medizintechnik |
| 2. Risikocheck | Einordnung nach Zweck, betroffenen Prozessen, verarbeiteten Daten, betroffenen Personen und regulatorischem Risiko, insbesondere Hochrisiko gegenüber geringerem Risiko. | Datenschutzbeauftragter / Legal / Compliance |
| 3. Matrix | Rollenspezifisches Anforderungsprofil erstellen: Welche Beschäftigten benötigen welche KI-Kompetenzen? | HR / Pflegedirektion / ärztliche Leitung |
| 4. Kompetenzmaßnahmen | Erforderliche KI-Kompetenzen festlegen, insbesondere KI-Awareness, Datenkompetenz, Datenschutz, Sicherheit und Fähigkeit zur kritischen Prüfung von KI-Ergebnissen. | HR / Fachbereichsleitungen / Qualitätsmanagement |
| 5. Governance | Freigaben, Verantwortlichkeiten, Kontrollmechanismen und Eskalationswege festlegen und zwischen medizinischen, technischen und organisatorischen Kompetenzen verzahnen. | Klinikleitung / Geschäftsführung / Compliance / IT-Sicherheit |
| 6. Dokumentation | Schulungen und sonstige Kompetenzmaßnahmen nachvollziehbar dokumentieren und bei wesentlichen Änderungen von System, Einsatzzweck oder Risikoprofil aktualisieren. | Qualitätsmanagement / Compliance / Datenschutz / HR |
Art. 4 AI Act schreibt weder ein bestimmtes Schulungsformat noch eine bestimmte Zertifizierung vor. Auch eine ausdrückliche Dokumentationspflicht enthält Art. 4 nicht. Aus Compliance-Sicht empfiehlt sich eine Dokumentation dennoch, um die tatsächlich ergriffenen Maßnahmen nachvollziehen zu können.
Drei Praxisbeispiele für KI im Gesundheitswesen
- Generative KI für Arztbriefe
Ein Arzt möchte mit einem externen KI-Dienst aus medizinischen Stichpunkten einen Entlassungsbrief erstellen.
Vor der Eingabe personenbezogener Gesundheitsdaten müssen insbesondere Datenschutz, Anbieter, technische Ausgestaltung und interne Freigabe geprüft werden. Der fertige Text muss zudem fachlich kontrolliert werden, da generative KI auch fehlerhafte medizinische Aussagen erzeugen kann.
- KI-gestützte radiologische Auswertung
Eine Klinik setzt ein KI-basiertes System zur Unterstützung der Bildauswertung ein.
Radiologinnen und Radiologen müssen nicht verstehen, wie der Algorithmus programmiert wurde. Sie müssen aber Zweckbestimmung, Grenzen, relevante Fehlerquellen und erforderliche Kontrollmechanismen kennen und in der Lage sein, die Ergebnisse fachlich zu hinterfragen.
- KI bei der Bewerberauswahl im Krankenhaus
Ein Krankenhaus nutzt KI, um Bewerbungen automatisiert zu analysieren oder Bewerber zu bewerten.
Auch wenn die Anwendung keinen medizinischen Zweck verfolgt, kann sie grundsätzlich in einen Hochrisiko-Anwendungsbereich des Anhangs III AI Act fallen.
Die Beispiele zeigen: Welche KI-Kompetenz erforderlich ist, hängt vom konkreten Einsatz und seinem Risikoprofil ab.
Fehlende KI-Kompetenz: Haftung und Compliance-Risiken
Art. 4 AI Act bleibt auch nach seiner Neufassung eine verbindliche Rechtspflicht. Geändert wurde insbesondere, dass Anbieter und Betreiber kein bestimmtes Kompetenzniveau einzelner Personen mehr garantieren müssen.
Unzureichende KI-Kompetenz kann darüber hinaus bei einem Schaden für die Beurteilung von Organisations-, Sorgfalts- oder Aufsichtspflichten relevant werden.
Werden zugleich Gesundheitsdaten rechtswidrig verarbeitet, bestehen daneben eigenständige datenschutzrechtliche und aufsichtsrechtliche Risiken nach der DSGVO.
Fazit
KI-Kompetenz im Gesundheitswesen bleibt auch nach der Änderung des Art. 4 AI Act eine zentrale Compliance-Aufgabe. Kliniken, Arztpraxen, MVZ und andere Gesundheitseinrichtungen müssen zwar grundsätzlich kein bestimmtes Kompetenzniveau jeder einzelnen Person garantieren. Geeignete Maßnahmen zur Unterstützung der KI-Kompetenz sind dennoch erforderlich.
Dabei geht es nicht darum, Beschäftigte zu KI-Entwicklern auszubilden. Entscheidend ist, dass sie Möglichkeiten und Grenzen ihrer KI-Systeme verstehen, Gesundheitsdaten sicher behandeln und KI-Ergebnisse kritisch prüfen können.
Nicht jede Person muss sämtliche technischen, medizinischen, rechtlichen und organisatorischen Kompetenzen selbst besitzen. Entscheidend ist vielmehr, die benötigten Kompetenzen rollen- und risikobezogen zu bestimmen, klare Verantwortlichkeiten zu schaffen und die erforderliche Expertise zusammenzuführen.
BTL Rechtsanwälte unterstützt Gesundheitseinrichtungen insbesondere bei der AI-Act-Klassifizierung, der Erstellung von KI-Richtlinien sowie der datenschutzrechtlichen Prüfung.
Sie setzen bereits KI in Ihrer Einrichtung ein oder planen neue Anwendungen? Sprechen Sie uns an für eine rechtssichere und praxistaugliche Umsetzung.
Häufig gestellte Fragen (FAQ)
Müssen alle Beschäftigten eine KI-Schulung absolvieren?
Nein. Art. 4 AI Act schreibt keine identische Schulung sämtlicher Beschäftigter vor. Die Maßnahmen sollten insbesondere zu Vorkenntnissen, Tätigkeit und Einsatzkontext passen. Ein bestimmtes Kompetenzniveau jeder einzelnen Person muss seit der Änderung im Juli 2026 ausdrücklich nicht garantiert werden.
Gibt es eine Zertifizierungspflicht für KI-Schulungen?
Nein. Art. 4 AI Act verlangt weder eine bestimmte Zertifizierung noch ein festgelegtes Schulungsformat. Ob und wann Auffrischungen sinnvoll sind, hängt insbesondere von Änderungen der Systeme, ihrer Nutzung und des Risikoprofils ab.
Müssen Kliniken oder Arztpraxen einen KI-Beauftragten bestellen?
Nein. Eine gesetzliche Pflicht zur Bestellung eines speziellen KI-Beauftragten ergibt sich aus Art. 4 AI Act nicht. Klare interne Zuständigkeiten können bei umfangreicherem KI-Einsatz dennoch sinnvoll sein.
Gilt Art. 4 AI Act auch für ChatGPT und andere generative KI?
Grundsätzlich ja. Nutzt eine Organisation ChatGPT oder ein anderes KI-System in eigener Verantwortung im Rahmen ihrer beruflichen Tätigkeit, kann sie Betreiber im Sinne des AI Act sein. Beschäftigte sollten dann insbesondere über zulässige Einsatzzwecke, Datenschutz, Vertraulichkeit und mögliche fehlerhafte KI-Ausgaben informiert sein.
Dürfen Patientendaten in generative KI eingegeben werden?
Nicht ohne vorherige Prüfung. Erforderlich sind insbesondere eine tragfähige datenschutzrechtliche Grundlage, die Zulässigkeit der Verarbeitung von Gesundheitsdaten nach Art. 9 DSGVO, eine Prüfung der Verarbeitung durch den Anbieter und angemessene Schutzmaßnahmen. Hinzukommen können berufliche Verschwiegenheitspflichten.
Ist medizinische KI automatisch Hochrisiko-KI?
Nein. Maßgeblich sind insbesondere Verwendungszweck, Funktion und regulatorische Einordnung des konkreten Systems. KI-basierte Medizinprodukte können unter den Voraussetzungen des Art. 6 Abs. 1 AI Act Hochrisiko-KI sein; allein der Einsatz im Gesundheitswesen genügt dafür nicht.