Künstliche Intelligenz revolutioniert unseren Arbeitsalltag in atemberaubender Geschwindigkeit. Ob automatisierte Texterstellung, Code-Generierung oder Datenanalyse – die Tools versprechen enorme Produktivitätssprünge. Doch wo Innovationsdrang auf Unwissenheit trifft, entstehen für Unternehmen existenzielle rechtliche Risiken. Ein Blick auf die juristische Kehrseite des KI-Booms.

Wenn Mitarbeiter im Unternehmen eigenmächtig generative KI-Tools nutzen, sprechen wir von „Schatten-KI“. Das Problem dabei ist selten böse Absicht, sondern fast immer mangelndes Bewusstsein für die rechtlichen Rahmenbedingungen. Der Faktor Mensch („Human Factor“) wird so schnell zum größten regulatorischen Risiko für die gesamte Organisation.

Brandherde der KI-Nutzung

Datenschutz & Geschäftsgeheimnisse

Jedes Mal, wenn sensible Kundendaten, proprietäre Quellcodes oder interne Strategiepapiere in einen öffentlichen Prompt eingegeben werden, droht ein unkontrollierter Abfluss von Know-how.

Zu beachten sind die DSGVO und das Geschäftsgeheimnisgesetz (GeschGehG).

Anonymisierung schützt, ist aber keineswegs trivial. Das rote Haus ist in Frankfurt am Main keine individuelle Angabe, auf einem Dorf kann das anders sein.

Urheberrecht & IP-Risiken

Urheberrecht gibt es nur für eigenständige geistige Leistung von Menschen. Beim Streit um das Affen-Selfie gab es keinen urheberrechtlichen Schutz. KI-generierte Leistungen, Arbeitsergebnisse etc. sind nicht urheberrechtlich geschützt und können frei kopiert werden.

Die KI Modelle sollen keine urheberrechtlich geschützten Inhalte aus ihren Trainingsdaten ausgeben. Werden trotzdem urheberrechtlich geschützte Werke ausgegeben, schützt die KI nicht vor den Ansprüchen wegen Urheberrechtsverletzungen.

Haftung bei Fehlern

KI-Systeme „halluzinieren“. Sie erzeugen falsche Fakten mit absoluter Überzeugungskraft. Verlässt sich ein Mitarbeiter blind darauf und entsteht dadurch ein Schaden beim Kunden, haftet im Außenverhältnis das Unternehmen und im Innenverhältnis potenziell die Geschäftsführung wegen Verletzung der Compliance-Aufsichtspflichten.

IT-Sicherheit, Deep Fakes, Phishing etc.

Organisierte Kriminalität setzt ebenfalls auf KI. Man darf nicht mehr darauf hoffen, dass E-Mails mit Schadsoftware oder anderen Angriffen am schlechten Deutsch erkannt werden können. KI verbessert die Angriffe. Weltweit bekannt wurde die interne Videokonferenz, bei der ein Mensch mit Deep Fakes verschiedener Vorstandsmitglieder konferiert und die „Weisung“ erhielt, erhebliche Zahlungen zu leisten.

Mitarbeiter müssen sensibilisiert werden, um auf derartige Angriffe vorbereitet zu sein.

Die unterschätzte Pflicht: „AI Literacy“

Ein entscheidender, oft übersehener Aspekt des EU AI Acts ist die Pflicht zur Förderung der KI-Kompetenz (Art. 4 AI Act). Unternehmen müssen explizit sicherstellen, dass ihr Personal über das notwendige Wissen verfügt, um KI-Systeme sicher und rechtskonform anzuwenden.

Reine Verbote funktionieren hierbei nicht – sie drängen die Nutzung lediglich weiter in die Anonymität der Schatten-KI, anstatt das Risiko zu minimieren.

Pragmatische KI-Guidelines

Schaffen Sie klare, verständliche Richtlinien. Welche Tools sind erlaubt (Whitelisting)? Welche Daten dürfen niemals eingegeben werden?

weitere Informationen zum Programm:
https://www.itsa365.de/de-de/actions-events/2026/it-security-talks/it-security-talk-human-factor-ai-awareness