Künstliche Intelligenz & Recht

Künstliche Intelligenz & Recht 

Chancen, Pflichten und Praxisimpulse für Unternehmen

Künstliche Intelligenz ist längst im Unternehmensalltag angekommen – doch wie gelingt der rechtssichere und produktive Einsatz? Diese Frage stand im Mittelpunkt des BVMW-Events „Künstliche Intelligenz & Recht“ am 5. Juni 2025 in Bonn. Mit praxisnahen Vorträgen und Live-Demonstrationen bot die Veranstaltung wertvolle Impulse für Entscheider, IT-Verantwortliche und alle, die sich mit der Einführung von KI-Lösungen beschäftigen. Im Fokus: die neue europäische KI-Verordnung (AI Act), Datenschutz, Urheberrecht und konkrete Anwendungsfälle aus dem Microsoft-Ökosystem.

Der Vortrag von Tobias Felten (synalis) zeigte, wie KI-Tools (z.B. ChatGPT und Microsoft 365 Copilot) den Büroalltag verändern können.  

Pascal Böckmann und Lars Becker (synalis) präsentierten Microsoft KI-Services im Überblick. Die Bandbreite reicht von Standardlösungen für schnelle Erfolge bis hin zu individuell entwickelten KI-Anwendungen.

Ein zentrales Element der Workshops war das sogenannte „Painstorming“: Die Teilnehmenden identifizierten besonders zeitaufwendige oder fehlerhafte Prozesse - mithilfe von Use Case Canvas- und Ideation-Methoden wurden konkrete Anwendungsfälle für KI im eigenen Unternehmen systematisch entwickelt und bewertet.

Der juristische Schwerpunkt des Events lag auf dem Vortrag von Dr. Christian Lenz (dhpg). Im Zentrum stand die neue europäische KI-Verordnung (AI Act), die einen risikobasierten Ansatz verfolgt:

Verbotene KI-Praktiken: KI-Systeme mit unannehmbarem Risiko, etwa zur Verhaltensmanipulation, Social Scoring oder biometrischen Überwachung, sind in der EU grundsätzlich untersagt.

Hochrisiko-KI-Systeme: Anwendungen in sensiblen Bereichen wie Gesundheitswesen, Justiz oder kritischer Infrastruktur unterliegen strengen Anforderungen, z. B. Dokumentations- und Meldepflichten sowie technischer und organisatorischer Risikominimierung.

Pflichten für Anbieter und Betreiber: Während Anbieter (Entwickler, Inverkehrbringer) die Hauptverantwortung tragen, müssen auch Betreiber (Anwender) insbesondere bei Hochrisiko-Systemen zahlreiche Vorgaben erfüllen – von Mitarbeiterschulungen bis hin zu Transparenzpflichten.

Bei Verstößen drohen empfindliche Sanktionen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.

Neben dem AI Act beleuchtete Dr. Lenz weitere juristische Brennpunkte:

Datenschutz/DSGVO: Rechtsgrundlagen für die Datenverarbeitung, Informationspflichten, das Verbot automatisierter Entscheidungen und die Notwendigkeit von Datenschutz-Folgenabschätzungen bei kritischen Daten wurden ausführlich erläutert. Besonders relevant: Die datenschutzkonforme Nutzung externer Dienstleister und die Sicherstellung von Löschpflichten.

Urheberrecht: KI darf geschützte Werke Dritter nicht ohne Lizenz nutzen – prominente Klagen wie die der New York Times gegen OpenAI und Microsoft zeigen die Brisanz. Nutzungsrechte und Quellenangaben sind zwingend zu beachten.

Geschäftsgeheimnisse: Informationen mit wirtschaftlichem Wert müssen durch angemessene Geheimhaltungsmaßnahmen geschützt werden, um Schadenersatzansprüche zu vermeiden.

Betriebliche Mitbestimmung: Der Betriebsrat hat ein Mitbestimmungsrecht bei der Einführung technischer Einrichtungen, die zur Überwachung geeignet sind – auch wenn diese Funktion nur potenziell besteht.
Die Referenten gaben konkrete Empfehlungen für die Einführung und Nutzung von KI-Lösungen:

Risikobewertung und Kompetenzaufbau: Unternehmen sollten die Risiken ihrer KI-Anwendungen systematisch bewerten und für ausreichende Qualifikation der Mitarbeitenden sorgen.

Transparenz und Dokumentation: Alle Verarbeitungsschritte, Rechtsgrundlagen und Datenschutzmaßnahmen müssen nachvollziehbar dokumentiert werden.

Interne Richtlinien: Klare Vorgaben zur Nutzung von KI helfen, Chancen und Risiken zu steuern, Qualität zu sichern und Mitarbeitende zu sensibilisieren.

Pilotprojekte und Proof of Concept: Kleine, schnell umsetzbare Projekte bieten die Möglichkeit, Erfahrungen zu sammeln und Akzeptanz im Unternehmen zu schaffen.

Das Event „Künstliche Intelligenz & Recht“ zeigte Fluch und Segen von KI im Unternehmenskontext – zwischen Effizienzgewinn und Rechts(un)sicherheit. Wer die Chancen im Umgang mit KI nutzen will, sollte frühzeitig die Weichen stellen – technisch, organisatorisch und rechtlich.