KI-Recht | KI-Compliance

Was ist KI-Compliance?

Unter KI-Compliance versteht man die Einhaltung aller rechtlichen, technischen und ethischen Anforderungen beim Einsatz von KI-Systemen. Dazu zählen unter anderem Vorgaben des EU AI-Act, datenschutzrechtliche Anforderungen aus der DSGVO wie Datenschutz-Folgenabschätzungen (DPIA), IT-Sicherheitsvorgaben gemäß z.B. DORA oder NIS-2 sowie zivil- und arbeitsrechtliche Rahmenbedingungen.

Hier können wir mit unserer Expertise rechtliche Unterstützung leisten bei allen Compliance-Fragen, z.B. Datenschutz-Compliance im KI-Training, der datenschutzkonformen Nutzung von KI-basierten Chatbots oder auch bei Datenschutz-Folgeabschätzungen bei Training und Einsatz von Sprachmodellen, wie LLMs, um nur einige Fragestellungen zu nennen.

Eine wirksame KI-Compliance-Strategie stellt sicher, dass Unternehmen sowohl rechtlich abgesichert als auch innovationsfähig bleiben. Sie dient dazu, Haftungsrisiken zu vermeiden, Vertrauen bei Nutzern und Aufsichtsbehörden zu schaffen und Prozesse technisch wie juristisch zukunftssicher auszugestalten.

Wer ist betroffen?

KI-Compliance betrifft längst nicht mehr nur große Tech-Konzerne. Vielmehr sind alle Organisationen angesprochen, die datenbasierte oder automatisierte Systeme einsetzen – oft ohne sich dessen bewusst zu sein. Dazu zählen:

• Alle Unternehmen, Firmen und Betriebe, die Künstliche Intelligenz, insbesondere KI-Software oder KI-gestützte Prozesse einsetzen
• Start-ups & KMU, die auf KI-Tools, beispielsweise zur Texterstellung oder Kundenkommunikation setzen
• Öffentliche Hand & Verwaltung, die zunehmend KI für Prognosen, Automatisierung oder Entscheidungsunterstützung oder im Rahmen von öffentlichen Beschaffung und Ausschreibungen zur Prozessoptimierung und Ressourcenoptimierung einsetzt
• Marketing-, HR- und IT-Abteilungen, die etwa auf Chatbots, Bewerber-Screening-Tools oder Predictive Analytics zurückgreifen, um nur einige Beispiele zu nennen
• Branchenspezifische Sektoren wie HealthTech, MedTech, Automotive, Logistik oder FinTech

Selbst der Einsatz scheinbar einfacher Anwendungen kann rechtlich relevant sein, wenn etwa personenbezogene Daten verarbeitet oder automatisierte Entscheidungen getroffen werden.

Hier ist die Prüfung und Dokumentation äußerst wichtig.

Warum jetzt handeln?

Seit dem 01. August 2024 gilt der EU AI Act – mit schrittweise in Kraft tretenden Verpflichtungen. Die Vorschriften unterscheiden je nach Risikostufe der eingesetzten KI-Anwendungen zwischen strengen Anforderungen, Transparenzpflichten und vollständigen Verboten.

Die Folgen bei Nichteinhaltung sind erheblich, insbesondere wegen folgender Risiken:

• Bußgelder von bis zu 35 Mio. Euro bzw. 7 % des weltweiten Jahresumsatzes
• Haftung bei durch KI verursachten Schäden
• Vertrauens- und Reputationsverluste bei Stakeholdern
• Untersagungen oder Einschränkungen durch Aufsichtsbehörden

Wichtig ist:

Nur wer jetzt rechtzeitig handelt, kann Innovationen rechtssicher einführen, regulatorische Risiken minimieren und das Vertrauen von Kunden, Mitarbeitenden und Partnern stärken und sich zukunftssicher aufstellen.

Unsere Leistungen im Bereich KI-Compliance & KI-Recht

• Initialanalyse, GAP-Analyse & Risikobewertung

Wir analysieren, ob Ihre Anwendungen in den Geltungsbereich des AI Act fallen. Darauf aufbauend erfolgt eine rechtliche Einordnung in die Risikoklassen des Gesetzes (verboten, hoch, begrenzt). Diese Einordnung ist essenziell, da davon abhängt, welche Pflichten Sie treffen. Sämtliche Ergebnisse werden dokumentiert, um die Prüfung gegenüber Behörden nachweisen zu können.

Denn: Wenn Sie bereits nicht unter die Regelungen der KI-Verordnung fallen, müssen Sie die Vorgaben des AI-Act regelmäßig auch nicht beachten. Aber eine Dokumentation, dass Sie diese Prüfung rechtskonform durchgeführt haben ist trotzdem wichtig, schon zu Nachweiszwecken. Im ersten Schritt sollte daher immer geprüft werden, ob Sie überhaupt in den Anwendungsbereich der KI-VO fallen oder nicht.

• Datenschutz & Privacy-by-Design

Wir unterstützen Sie neben der Umsetzung der Vorgaben der KI-VO auch bei der Umsetzung der damit zusammenhängenden Vorgaben der DSGVO – von der Erstellung von Datenschutz-Folgenabschätzungen (DPIA), über technische und organisatorische Maßnahmen (TOMs), bis hin zur Dokumentation in Verzeichnissen von Verarbeitungstätigkeiten und zur Entwicklung datenschutzgerechter Löschkonzepte. Auch Ihre Datenschutzbeauftragten können wir dabei aktiv einbinden oder sie mit unserem Know-How und unserer Expertise operativ unterstützen.

• IT-Compliance & technische Dokumentation

Der AI-Act erfordert insbesondere für Hochrisiko-KI-Systeme eine lückenlose technische Dokumentation, Konformitätserklärungen sowie ein Monitoring nach der Markteinführung (Post-Market Monitoring). Wir helfen Ihnen dabei, diese Pflichten effizient und rechtssicher in Ihre bestehende IT-Compliance- und IKS-Struktur zu integrieren.

• Vertragsgestaltung & Softwarebeschaffung

Wir beraten bei der rechtssicheren Beschaffung und Lizenzierung von KI-Software – einschließlich der Prüfung von Verträgen, der Vertragsverhandlung und der Risikoverteilung mit Anbietern. Insbesondere im öffentlichen Sektor sind dabei regelmäßig vergaberechtliche Besonderheiten zu beachten, gerade auch bei der Erstellung der Ausschreibungsunterlagen, beispielsweise im Bereich von Leistungsbeschreibungen und EVB-IT-Verträgen, bei denen wir gezielt rechtlich unterstützen können.

• Haftung, Urheberrecht & Streitbeilegung

Wir prüfen Ihre Haftungsrisiken bei der Nutzung von KI-Systemen – etwa im Arbeitsrecht, bei Verbraucherschutzfragen oder im Rahmen der Produkthaftung. Zudem unterstützen wir Sie bei urheberrechtlichen Fragen rund um generative KI (Texte, Bilder, Code) sowie bei der Vertragsgestaltung und außergerichtlichen bzw. gerichtlichen Streitigkeiten.

• Schulungen & Workshops

Wir bieten praxisnahe Fortbildungen für Fachabteilungen, IT, Datenschutz und Führungskräfte. Inhalte sind u.a. KI-Verordnung (AI Act), DSGVO, NIS-2, DORA und weitere damit zusammenhängende rechtliche Bereiche sowie konkrete Anforderungen aus Ihrer Branche.

Ziel ist es, Ihr Team zu befähigen, KI verantwortungsvoll, compliant und effizient einzusetzen und dadurch die rechtliche Vorgaben und Compliance-Anforderungen umzusetzen.

Branchenlösungen & Szenarien

BTL Rechtsanwälte begleiten KI-Projekte u.a. in folgenden Branchen und Einsatzszenarien:

• IT & Softwareentwicklung: Unterstützung bei Entwicklung und Rollout von KI-Produkten, Rechtliche Bewertung von z.B. Sprachmodellen, wie Large Language Model (LLM)
• Großhandel und Einzelhandel: z.B. Unterstützung bei der Einführung und rechtlichen Bewertung von KI-Software und ki-gestützten Software-Modulen, wie beispielsiweise der Einführung von KI-unterstützten Enterprise Resource Planning-Lösungen (ERP) und Customer Relationship Management (CRM)-Lösungen
• Gesundheitswesen & Life Sciences: z.B. rechtliche Absicherung sensibler Datenverarbeitung und Diagnosetools
• Finanzdienstleister & InsurTech: Umsetzung von KI-Vorgaben unter Berücksichtigung regulatorischer Anforderungen z.B. wegen Regulierung durch die BaFin nach DORA, NIS-2 oder Regulierung durch Aufsichtsbehörden.
• Industrie 4.0 & Automotive: z.B. Einsatz von KI in der Fertigung und im autonomen Fahren
• Logistik, Energie & Smart Grids: Optimierung durch intelligente Systeme unter Einhaltung der IT-Sicherheit
• Verwaltung & Bildung: KI-basierte Automatisierung bei Verwaltungsprozessen, Lehr- und Lernsystemen
• Personalabteilungen, HR-Abteilungen, Geschäftsleitung und Betriebsrat: Einführung KI-gestützter Prozesse, z.B. im Bereich Bewerbermanagement, Vertragsmanagement, Screening und Profiling. Wir beraten und betreuen bei allen arbeitsrechtlichen Fragen rund um KI, IT und Datenschutz

Unser Mehrwert für Sie

BTL Rechtsanwälte verbinden juristische Expertise mit technologischem Verständnis und fundierter Branchenerfahrung. Das bedeutet für Sie:

• Maßgeschneiderte Lösungen statt vorgefertigter Compliance-Bausteine
• Rechtskonforme Umsetzung unter Berücksichtigung Ihrer IT- und Unternehmensstruktur und der bei Ihnen eingesetzten Technologien
• Begleitung Ihrer KI-Strategie, von der Pilotphase bis zur Skalierung
• Unterstützung Ihres (betrieblichen) Datenschutzbeauftragten bei der Umsetzung der KI-Vorgaben
• Unterstützung Ihres KI-Beauftragten oder KI-Managers bei der Umsetzung der KI-Vorgaben oder externe Übernahme des KI-Managements für Sie.
• Risikoprävention, insbesondere um Kosten, Bußgelder und Imageverluste zu vermeiden und Haftungsthemen zu reduzieren.

Fazit

Rechtssichere KI kann ein Wettbewerbsvorteil sein, Kundenbindungen stärken und Marktanteile sichern und die positive Wahrnehmung am Markt erhöhen

Der Einsatz von KI ist kein rein technisches Thema. Wer heute zukunftssicher aufgestellt sein will, muss regulatorische Anforderungen aktiv in die Entwicklung und den Betrieb von KI-Systemen integrieren. Mit einer fundierten Compliance-Strategie schaffen Sie Rechtssicherheit, fördern Innovation und stärken das Vertrauen Ihrer Stakeholder.

Wir von der Kanzlei BTL Rechtsanwälte fangen rechtlich als Kontrollinstanz für Ihre Prozesse, Dokumente und Rechtsfragen dort an, wo KI (noch) nicht hinkommt und noch keine rechtssicheren Antworten geben kann.

Rechtliche Überprüfung der von KI erstellten Rechtstexte und Dokumente

Sie nutzen KI-Programme wie z.B. ChatGPT und haben damit Rechtstexte, wie z.B. AGB, Nutzungsbedingungen (z.B. für Apps, Internetseiten etc.), Verträge, Klageschriften, sonstige Schreiben etc. erstellt?

Sie sind aber unsicher, ob die erstellten Dokumente auch den rechtlichen Vorgaben entsprechen, z.B. weil der Datenbestand des KI-Tools möglicherweise nicht ganz aktuell ist und die Rechtsprechung und juristische Kommentierung nicht oder nicht vollständig in die Dokumentenerstellung einbezieht.

Dann lassen Sie die von Ihnen erstellten Texte und Dokumente von uns als Spezialisten auf Rechtskonformität prüfen.

Unwirksame Regelungen helfen Ihnen nicht weiter, denn darauf können Sie sich nicht berufen und solche Regelungen können beispielsweise auch rechtlich abmahnbar sein, so dass dadurch rechtliche und auch finanzielle Risiken für Sie entstehen können.

Eine rechtliche Prüfung durch uns als spezialisierte Rechtsanwälte hat für Sie den Vorteil, dass evtl. unwirksame Formulierungen und Regelungen evaluiert und erkannt werden können und Sie eine menschliche Kontrollinstanz haben.

Sprechen Sie uns an, insbesondere wenn Sie:

• KI-gestützte Prozesse rechtssicher gestalten wollen
• die Risiken Ihrer bestehenden Tools oder KI-generierte Inhalte analysieren lassen möchten
• Ihre Datenschutz- oder IT-Compliance-Abteilung und Ihr KI-Management stärken wollen
• Mit KI erstellte Dokumente, Verträge oder sonstige Informationen auf Rechtssicherheit prüfen lassen möchten