{"id":1382,"date":"2025-11-21T17:02:52","date_gmt":"2025-11-21T16:02:52","guid":{"rendered":"https:\/\/fum-legal.advomatic-dev.de\/allgemein\/rechtliche-aspekte-beim-einsatz-von-ki-anwendungen-im-unternehmen\/"},"modified":"2026-02-19T14:34:19","modified_gmt":"2026-02-19T13:34:19","slug":"rechtliche-aspekte-beim-einsatz-von-ki-anwendungen-im-unternehmen","status":"publish","type":"post","link":"https:\/\/www.fum-legal.de\/de\/informationen\/rechtliche-aspekte-beim-einsatz-von-ki-anwendungen-im-unternehmen\/","title":{"rendered":"Rechtliche Aspekte beim Einsatz von KI-Anwendungen im Unternehmen"},"content":{"rendered":"\t\t
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\n

Die Integration von K\u00fcnstlicher Intelligenz (KI) in Unternehmensprozesse nimmt branchen\u00fcbergreifend weiter Fahrt auf und ebenso schnell steigt die Anzahl und die Qualit\u00e4t der auf dem Markt verf\u00fcgbaren Anwendungen f\u00fcr die unterschiedlichsten Einsatzbereiche. Die Nutzung von KI-Systemen bietet Unternehmen enorme Chancen, insbesondere in den Bereichen Automatisierung, Effizienzsteigerung und Innovation. Dabei ist die Einf\u00fchrung von KI-Technologien nicht nur eine technische und organisatorische Herausforderung, sondern auch aus rechtlicher Perspektive alles andere als trivial. Um entsprechenden Risiken vorzubeugen und empfindliche Sanktionen zu vermeiden, sollten die entsprechenden rechtlichen Fragestellungen daher bereits bei der Konzeption des Einsatzes und der Auswahl der entsprechenden KI-Anwendungen, dar\u00fcber hinaus bei deren Implementierung und erst recht im Rahmen der Nutzung der KI-Anwendungen ausreichend Ber\u00fccksichtigung finden. Der nachfolgende Beitrag soll Unternehmen, die KI-Systeme als Anwender einsetzen, als erste Orientierungshilfe f\u00fcr den Einstieg in die KI-Compliance dienen und zugleich einen \u00dcberblick \u00fcber die wesentlichen rechtlichen Aspekte beim Einsatz von KI-Anwendungen in Unternehmen geben.<\/p>\n\n

1. KI und Datenschutz<\/strong><\/p>\n\n

Einer der wichtigsten rechtlichen Aspekte beim Einsatz von KI-Anwendungen ist der Schutz der Daten, die als sogenannte Eingabedaten in Betracht kommen. Unter Eingabedaten versteht man dabei die Daten, die in ein KI-System eingespeist oder von diesem direkt erfasst werden und auf deren Grundlage das System eine Ausgabe hervorbringt (so auch die Definition in Artikel 3 Nr. 33 der KI-Verordnung [VO (EU) 2024\/1689]).<\/p>\n\n

Von besonderer Relevanz sind in diesem Kontext zum einen personenbezogene Daten, d. h. Informationen, die sich auf eine identifizierte oder identifizierbare nat\u00fcrliche Person beziehen (so auch die Definition in Art. 4 Nr. 1 Datenschutzgrundverordnung (DSGVO, VO (EU) 2016\/679), und zum anderen solche Daten, die Gesch\u00e4ftsgeheimnisses darstellen. Dabei sind hier neben den eigenen Gesch\u00e4ftsgeheimnissen des Anwenders vor allem auch Gesch\u00e4ftsgeheimnisse Dritter zu beachten.<\/p>\n\n

(1) Personenbezogene Daten<\/strong><\/p>\n\n

Bereits die Frage, ob die zu verwendenden Daten personenbezogen sind, ist, gerade bei gr\u00f6\u00dferen Datens\u00e4tzen, oft nicht leicht zu erkennen und ergibt sich in vielen F\u00e4llen erst aufgrund der Struktur der entsprechenden Datens\u00e4tze. Daher ist bereits im Rahmen der Konzeption des Einsatzes von KI-Anwendungen die Auswahl und der Zuschnitt der Eingabedaten sorgf\u00e4ltig zu bestimmen und in Bezug auf die Einbeziehung personenbezogener Daten zu analysieren.<\/p>\n\n

Sofern personenbezogene Daten genutzt bzw. verarbeitet werden, m\u00fcssen Unternehmen sicherstellen, dass die einschl\u00e4gigen datenschutzrechtlichen Bestimmungen eingehalten werden. Neben m\u00f6glichen gesetzlichen Spezialvorschriften, die aufgrund des jeweiligen Verarbeitungszwecks anwendbar sein k\u00f6nnen, sind dies in erster Linie die Bestimmungen der DSGVO. Dabei sind insbesondere folgende Anforderungen zu beachten:<\/p>\n\n

    \n
  • Rechtsgrundlagen der Datenverarbeitung<\/strong>: Personenbezogene Daten d\u00fcrfen nur dann verarbeitet werden, wenn es daf\u00fcr eine ausreichende Rechtsgrundlage gibt. Dies bedeutet, dass es f\u00fcr die entsprechende Verarbeitung bzw. Nutzung der Daten entweder einer gesetzlich geregelten Erlaubnis (hier kommen insbesondere die Tatbest\u00e4nde des Art. 6 Abs. 1 DSGVO in Betracht) oder einer ausdr\u00fccklichen Einwilligung des jeweils Betroffenen bedarf.<\/li>\n\n
  • Datenminimierung und Zweckbindung<\/strong>: Weiter ist zu beachten, dass nur diejenigen Daten f\u00fcr die Verarbeitung genutzt werden d\u00fcrfen, die f\u00fcr die Erreichung des Zwecks, der von der jeweiligen Rechtsgrundlage gedeckt ist, unbedingt erforderlich sind (Grundsatz der Datenminimierung). Zudem d\u00fcrfen die Daten nur f\u00fcr den jeweils festzulegenden Zweck, der von der Rechtsgrundlage gedeckt ist, verarbeitet werden und sonst nicht.<\/li>\n\n
  • Datensicherheit<\/strong>: Unternehmen m\u00fcssen sicherstellen, dass bei der Verarbeitung der personenbezogenen Daten solche organisatorischen und vor allem technischen Ma\u00dfnahmen implementiert wurden, die ein \u2013 in Bezug auf die mit der Verarbeitung verbundenen Risiken \u2013 angemessenes Schutzniveau gew\u00e4hrleisten. Besonderes Augenmerk ist dabei auf die \u00dcbermittlung personenbezogener Daten an Dritte (Provider und Anbieter entsprechende IT-Systeme) zu legen, insbesondere wenn die \u00dcbermittlung dabei in L\u00e4nder au\u00dferhalb des europ\u00e4ischen Wirtschaftsraums (EWR) erfolgt. Denn der europ\u00e4ische Gesetzgeber geht grunds\u00e4tzlich davon aus, dass in diesen L\u00e4ndern (sogenannte Drittl\u00e4nder) kein ausreichendes Schutzniveau f\u00fcr die Daten besteht, weshalb gesonderte Ma\u00dfnahmen ergriffen werden m\u00fcssen, um die Sicherheit insoweit zu gew\u00e4hrleisten.<\/li>\n\n
  • Dokumentation, Transparenz und Informationspflichten<\/strong>: Werden personenbezogene Daten verarbeitet, ist dies gem\u00e4\u00df den spezifischen Anforderungen der DSGVO zu dokumentieren. Zudem m\u00fcssen die betroffenen Personen, deren personenbezogene Daten verarbeitet werden, in transparenter Art und Weise vorab \u00fcber die Verarbeitung informiert werden (etwa im Rahmen von Datenschutzerkl\u00e4rungen und sonstigen Hinweisen).<\/li>\n<\/ul>\n\n

    (2) Sonstige Daten \/ Gesch\u00e4ftsgeheimnisse<\/strong><\/p>\n\n

    Jenseits der personenbezogenen Daten ist darauf zu achten, dass bei der Verwendung von Daten als Eingabedaten eine etwaige Vertraulichkeit der Daten gewahrt wird. Dies gilt zum einen in Bezug auf eigene Gesch\u00e4ftsgeheimnisse des Anwenders des KI-Systems, insbesondere jedoch in Bezug auf vertrauliche Daten Dritter, die als Gesch\u00e4ftsgeheimnisse sowohl auf gesetzlicher Grundlage aber auch auf Grundlage etwaiger Vertraulichkeitsvereinbarungen (NDA) gesch\u00fctzt sind und nur eingeschr\u00e4nkt oder gar nicht im Zusammenhang mit entsprechenden KI-Anwendung genutzt werden k\u00f6nnen.<\/p>\n\n

    Auch insoweit ist die Auswahl und der Zuschnitt der Eingabedaten im Rahmen der Konzeption des Einsatzes der jeweiligen KI-Anwendungen sorgf\u00e4ltig zu analysieren.<\/p>\n\n

    2. Anforderungen der KI-Verordnung<\/strong><\/p>\n\n

    Die europ\u00e4ische Verordnung \u00fcber k\u00fcnstliche Intelligenz (VO (EU) 2024\/1689), kurz KI-Verordnung, setzt erstmalig einen einheitlichen Rechtsrahmen f\u00fcr die Entwicklung, das Inverkehrbringen und die Verwendung von KI-Systemen in der Europ\u00e4ischen Union.<\/p>\n\n

    Die KI-Verordnung verfolgt einen sogenannten risikobasierten Ansatz, indem sie KI Systeme, ausgehend von dem mit ihnen verbundenen Risiko beim Einsatz, in vier unterschiedliche Kategorien einordnet. Je nach Einordnung des Systems, sind unterschiedliche Pflichten insbesondere f\u00fcr Anbieter und Anwender der Systeme (in der KI-Verordnung \u201eBetreiber\u201c genannt) vorgesehen.<\/p>\n\n

    Folgende Kategorien sind danach in Bezug auf die Risikoklassifizierung zu unterscheiden:<\/p>\n\n

    (1)<\/strong>\u00a0Systeme, die verbotene Praktiken darstellen<\/strong><\/p>\n\n

    KI-Anwendungen, die verbotene Praktiken darstellen, sind in Art. 5 der KI-Verordnung geregelt. Erfasst sind in erster Linie Anwendungen, die auf \u00f6ffentliche Anwender und weniger auf private Unternehmen abzielen, wie etwa KI-Systeme f\u00fcr das sogenannte \u201eSocial Scoring\u201c oder zur Vorhersage von Straftaten auf der Grundlage eines Profilings. Diese d\u00fcrfen weder in Verkehr gebracht noch eingesetzt werden.<\/p>\n\n

    (2) Hochrisiko-KI-Systeme (streng geregelt)<\/strong><\/p>\n\n

    Die sogenannten Hochrisiko-KI-Systeme sind streng geregelt und in Art 6 sowie im Anhang III der KI-Verordnung definiert. Dazu geh\u00f6ren beispielsweise KI-Systeme, die bestimmungsgem\u00e4\u00df als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Stra\u00dfenverkehrs oder der Wasser-, Gas-, W\u00e4rme- oder Stromversorgung verwendet werden sollen. Aber auch biometrische Fernidentifizierungssysteme oder KI Systeme, die der Entscheidungsunterst\u00fctzung in Bezug auf Besch\u00e4ftigungsverh\u00e4ltnisse dienen, sind neben anderen als Hochrisiko-KI-Systeme eingestuft.<\/p>\n\n

    Die Pflichten, die Betreiber solche Systeme betreffen, sind in Art. 26 KI-Verordnung geregelt und umfassen insbesondere:<\/p>\n\n

      \n
    • Technische und organisatorische Ma\u00dfnahmen<\/strong>: Treffen geeigneter technischer und organisatorischer Ma\u00dfnahmen (TOM), damit das System gem\u00e4\u00df den Vorgaben des Anbieters verwendet wird.<\/li>\n\n
    • Menschliche Aufsicht:\u00a0<\/strong>Sicherstellung, dass die Aufsicht des Systems durch geschulte und kompetente nat\u00fcrliche Personen erfolgt, die in der Lage sind, Entscheidungen des Systems zu \u00fcberwachen und zu korrigieren.<\/li>\n\n
    • \u00dcberwachung des Betriebs:\u00a0<\/strong>Laufende \u00dcberwachung der Systemleistung entsprechend den Vorgaben des Anbieters und ggfs. Pflicht zur Information an den Anbieter bei Auff\u00e4lligkeiten.<\/li>\n\n
    • Protokollierung \/ Logging:\u00a0<\/strong>Automatisch erzeugte Protokolle sind f\u00fcr einen angemessenen Zeitraum (mindestens 6 Monate) aufzubewahren.<\/li>\n\n
    • Meldepflicht:\u00a0<\/strong>Bei Kenntnis von schwerwiegenden Vorf\u00e4llen oder Funktionsst\u00f6rungen des Systems muss der Betreiber unverz\u00fcglich den Anbieter und die zust\u00e4ndigen Beh\u00f6rden informieren.<\/li>\n\n
    • Kontrolle der Eingabedaten:\u00a0<\/strong>Soweit der Betreiber die Kontrolle \u00fcber die Eingabedaten hat, muss er deren Relevanz und Repr\u00e4sentativit\u00e4t sicherstellen, um fehlerhafte Ergebnisse zu minimieren.<\/li>\n<\/ul>\n\n

      (3) Systeme mit begrenztem Risiko<\/strong><\/p>\n\n

      F\u00fcr KI-Systeme mit begrenztem Risiko, insbesondere KI-Systeme, die mit Menschen direkt interagieren oder Audio-, Bild-, Video- oder Textinhalte synthetisch erzeugen, gelten spezifische Transparenzpflichten (z. B. Hinweis auf KI-System im Rahmen von Chatbots, Kennzeichnung synthetischer oder Deepfake-Inhalte, etc.). Diese Pflichten sind in Art. 50 KI-Verordnung geregelt.<\/p>\n\n

      (4) Minimales Risiko (keine bzw. freiwillige Anforderungen)<\/strong><\/p>\n\n

      KI-Systeme mit geringem Risiko stellen die Mehrzahl der heute eingesetzten KI-System dar (dazu geh\u00f6ren etwa \u00dcbersetzungs-Tools, Recherche-, Sortierungs-\u00a0 und Filtersysteme, Text- und Kommunikationswerkzeuge, etc.) und unterliegen keinen gesonderten Vorgaben durch die KI-Verordnung. Betreibern werden jedoch zur Gew\u00e4hrleistung von Qualit\u00e4t und Transparenz freiwillige Verhaltenskodizes und Best-Practices empfohlen (vgl. auch Art. 95 KI-Verordnung).<\/p>\n\n

      3. KI und Geistiges Eigentum<\/strong><\/p>\n\n

      Ebenfalls von wesentlicher Bedeutung beim Einsatz von KI-Systemen sind Aspekte des geistigen Eigentums, insbesondere des Urheberechts. Entsprechende Fragestellungen tauchen dabei an verschiedenen Stelle bzw. in unterschiedlichem Kontext auf.<\/p>\n\n

      (1)\u00a0<\/strong>KI-generierte Inhalte und geistiges Eigentum<\/strong><\/p>\n\n

      Fragen des geistigen Eigentums stellen sich zum einen in Bezug auf die Nutzung der Inhalte, die von KI-Systemen f\u00fcr den Anwender generiert wurden. So k\u00f6nnen diese Inhalte Schutzrechte Dritter, insbesondere Urheberrechte, verletzen, wenn sie entsprechend gesch\u00fctzte Materialien, wie etwa Texte oder Bilder, enthalten.<\/p>\n\n

      Daher sollten beim Einsatz von generativen KI-Systemen bereits bei der Konzeption der entsprechenden Unternehmensprozesse angemessene Mechanismen zur inhaltlichen Kontrolle des generierten Outputs ber\u00fccksichtigt werden.<\/p>\n\n

      Umgekehrt ist zu beachten, dass der Anwender an den von ihm unter Verwendung von KI-Systemen generierten Inhalten in der Regel keinen eigenen urheberrechtlichen Schutz begr\u00fcndet. Insbesondere sind Inhalte, die durch KI-Systeme geschaffen werden \u2013 ausgenommen sind hier Fragestellungen in Bezug auf vorbestehende Rechte Dritter durch rechtsverletzende Eingabe- und Trainingsdaten \u2013 grunds\u00e4tzlich nicht urheberrechtlich gesch\u00fctzt, da sie in der Regel keine pers\u00f6nlich geistige Sch\u00f6pfung darstellen. Eine solche Sch\u00f6pfung setzt per Definition voraus, dass eine nat\u00fcrliche Person am entsprechenden Sch\u00f6pfungsprozess mit entsprechender eigener sch\u00f6pferischer Leistung beteiligt ist. Der fehlende urheberrechtliche Schutz der generierten Inhalte hat insbesondere insoweit Auswirkungen, als man Dritten die \u00dcbernahme dieser Inhalte zumindest auf urheberrechtlicher Basis nicht untersagen kann.<\/p>\n\n

      (2)\u00a0<\/strong>Gesch\u00fctzte Materialien als Eingabedaten<\/strong><\/p>\n\n

      Bei der Auswahl von Eingabedaten im Rahmen der Nutzung von KI-Systemen, sollte zudem ber\u00fccksichtigt werden, dass auch die Nutzung von Materialien als Eingabedaten Rechte Dritter, insbesondere Urheberrechte, ber\u00fchren kann. Je nach Art der Verwendung und des verwendeten Materials, sollte vorab der Ursprung des verwendeten Materials und die Rechtslage in Bezug auf Rechte Dritter gepr\u00fcft werden.<\/p>\n\n

      Auch insoweit empfiehlt es sich, die Art und Struktur der als Eingabedaten zugelassenen Inhalte unternehmensintern verbindlich zu regeln (etwa durch entsprechende Richtlinien) und die Einhaltung der Vorgaben im Rahmen definierter Prozesse zu \u00fcberwachen.<\/p>\n\n

      4. Arbeitsrechtliche Fragestellungen<\/strong><\/p>\n\n

      Je nach Art der KI-Anwendung und dem entsprechenden Einsatzbereich, k\u00f6nnen verschiedene arbeitsrechtliche Implikationen bei der Nutzung von KI Systemen in Unternehmen gegeben sein.<\/p>\n\n

      Neben Fragen des Arbeitnehmerdatenschutzes \u2013 so etwa Fragen in Bezug auf die Rechtm\u00e4\u00dfigkeit der Verarbeitung von Arbeitnehmerdaten in KI-gest\u00fctzten Verarbeitungsprozessen oder in Bezug auf die Zul\u00e4ssigkeit KI-gest\u00fctzter automatisierter Entscheidungen im Besch\u00e4ftigungskontext oder dem Erfordernis einer Datenschutzfolgenabsch\u00e4tzung f\u00fcr bestimmte intensive KI-gest\u00fctzte Verarbeitungsprozesse \u2013, sind im Zusammenhang mit der Implementierung von KI-Systemen aus arbeitsrechtlicher Perspektive insbesondere auch Aspekte der betrieblichen Mitbestimmung zu ber\u00fccksichtigen.<\/p>\n\n

      (1)\u00a0<\/strong>Unterrichtungs- und Beratungsrechte<\/strong><\/p>\n\n

      So sind vor Einf\u00fchrung von KI-System im Unternehmen zun\u00e4chst die diesbez\u00fcglichen Informations- und Beratungsrechte des Betriebsrats zu beachten. Hier ist insbesondere das spezielle Informationsrecht des \u00a7 90 Abs. 1 Nr. 3 BetrVG zu nennen, wonach der Arbeitgeber den Betriebsrat \u00fcber die Planung von Arbeitsverfahren und Arbeitsabl\u00e4ufen einschlie\u00dflich des Einsatzes von K\u00fcnstlicher Intelligenz rechtzeitig unter Vorlage der erforderlichen Unterlagen zu unterrichten hat. \u00a7 90 Abs. 2 BetrVG sieht erg\u00e4nzend ein Beratungsrecht vor. Danach hat der Arbeitgeber mit dem Betriebsrat die vorgesehenen Ma\u00dfnahmen und ihre Auswirkungen auf die Arbeitnehmer, insbesondere auf die Art ihrer Arbeit sowie die sich daraus ergebenden Anforderungen an die Arbeitnehmer so rechtzeitig zu beraten, dass Vorschl\u00e4ge und Bedenken des Betriebsrats bei der Planung ber\u00fccksichtigt werden k\u00f6nnen.<\/p>\n\n

      (2)\u00a0<\/strong>Mitbestimmungsrechte<\/strong><\/p>\n\n

      Relevant sind im Weiteren vor allem auch die Mitbestimmungsrechte des Betriebsrats gem\u00e4\u00df \u00a7 87 Abs. 1 Nr. 6 und 7 BetrVG.<\/p>\n\n

      \u00a7 87 Abs. 1 Nr. 6 BetrVG sieht ein Mitbestimmungsrecht in dem Fall vor, in dem ein KI-System zur \u00dcberwachung des Verhaltens oder der Leistung der Arbeitnehmer eingesetzt wird. Dabei ist es insoweit ausreichend, wenn das entsprechende KI-System objektiv geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu \u00fcberwachen. Eine \u00dcberwachungsabsicht des Arbeitgebers ist insoweit nicht erforderlich.<\/p>\n\n

      Weiter besteht nach \u00a7 87 Abs. 1 Nr. 7 BetrVG ein Mitbestimmungsrecht auch dann, wenn durch KI-Systeme Gefahren f\u00fcr die physische oder psychische Gesundheit der Mitarbeiter entstehen. Beim Einsatz von KI-Systemen in Form von generativer KI lediglich als Hilfsmittel f\u00fcr Mitarbeiter, d\u00fcrfte dies jedoch regelm\u00e4\u00dfig nicht der Fall sein.<\/p>\n\n

      In selteneren F\u00e4llen k\u00f6nnte auch eine Mitbestimmung nach \u00a7 87 Abs. 1 Nr. 1 BetrVG in Betracht kommen, wenn KI-Systeme ma\u00dfgeblichen Einfluss auf die Ordnung des Betriebs oder das Verhaltens der Arbeitnehmer im Betrieb haben.<\/p>\n\n

      Weitere Mitbestimmungsrechte des Betriebsrats k\u00f6nnen sich schlie\u00dflich aus \u00a7 94 und 95 BetrVG ergeben, wenn KI-Systeme im Rahmen von Recruiting-Ma\u00dfnahmen des Unternehmens eingesetzt werden.<\/p>\n\n

      5. Haftung und Verantwortung beim Einsatz von KI-Systemen<\/strong><\/p>\n\n

      Ein weiterer wichtiger Aspekt im Zusammenhang mit dem Einsatz von KI-Systemen ist der Aspekt der Haftung f\u00fcr Sch\u00e4den, die bei Dritten als (kausales) Resultat des Einsatzes von KI-Systemen entstehen.<\/p>\n\n

      Aus der hier ma\u00dfgeblichen Perspektive der Anwender bzw. Betreiber von KI-Systemen, sind dabei insbesondere solche Konstellation relevant, bei denen der Anwender der KI-Systeme diese in die Erbringung seiner Leistung im Verh\u00e4ltnis zu Kunden einsetzt. Die denkbaren Einsatzszenarien sind dabei vielf\u00e4ltig: Vom Einsatz als Hilfsmittel in der Produkt- und Serviceentwicklung, \u00fcber den Einsatz in der Logistik, im Rahmen von Finanzdienstleistungen und Zahlungsabwicklungen, im Marketing, im Rahmen von IT-Dienstleistungen, in der Kundenkommunikation oder medizinischen Dienstleistung (um nur einige zu nennen), ist hier vieles denkbar.<\/p>\n\n

      Wenn dabei Sch\u00e4den des Kunden auf Fehler im Rahmen des KI-Systems selbst zur\u00fcckzuf\u00fchren sind, wird sich der Anwender des KI-Systems in erster Linie mit Haftungsanspr\u00fcchen des Kunden auseinandersetzen m\u00fcssen. Hier kommen zum einen vertragliche Anspr\u00fcche aus dem entsprechenden Vertragsverh\u00e4ltnis des Anwenders mit seinen Kunden, daneben aber auch gesetzliche Schadensersatzanspr\u00fcche, insbesondere deliktische Anspr\u00fcche, in Betracht. Auf der anderen Seite stellen sich f\u00fcr den Anwender in diesen F\u00e4llen Fragen eines m\u00f6glichen Regresses gegen\u00fcber dem H\u00e4ndler und\/oder Anbieter des fehlerhaften KI-Systems sowie Fragen einer m\u00f6glichen Deckung solcher Sch\u00e4den durch entsprechende Versicherungen.<\/p>\n\n

      Aus Anwendersicht empfiehlt es sich daher bereits im Rahmen der Beschaffung eines KI-Systems besonderen Wert auf angemessene vertragliche Regelungen zur Haftung und zum Regress zu legen. Gleiches gilt spiegelbildlich in Bezug auf Vertr\u00e4ge mit Kunden, wenn die entsprechenden KI-Systeme im Rahmen der Leistungserbringung gegen\u00fcber dem Kunden eingebunden sind. Insbesondere sollten die Haftungsregelungen im Einklang mit den Regressm\u00f6glichkeiten gegen\u00fcber dem Anbieter der KI-Systeme stehen bzw. sollten entsprechende Sch\u00e4den beim Einkauf von Versicherungsleistungen mitbedacht werden<\/p>\n\n

      Dar\u00fcber hinaus ist es wichtig, durch entsprechende unternehmensinterne Vorgaben und Richtlinien f\u00fcr den Einsatz von KI-Systeme, die Risiken des Unternehmens im Rahmen der Anwendung der KI-Systeme zu minimieren.<\/p>\n\n

      6. Compliance Management<\/strong><\/p>\n\n

      Zur Sicherstellung der Einhaltung der unternehmensspezifischen rechtlichen Anforderungen im Zusammenhang mit dem Einsatz von KI-Systemen, sollten entsprechende Prozesse von Anfang an im Rahmen des unternehmensinternen Compliance-Managements ber\u00fccksichtigt und eingebunden werden.<\/p>\n\n

      Dies umfasst Ma\u00dfnahmen f\u00fcr alle drei Phasen entsprechender KI-Projekte: (1) Konzeption der KI-gest\u00fctzten Unternehmensprozesse und Auswahl der KI-Systeme, (2) Implementierung der KI-Systeme und (3) Nutzung der KI-Systeme.<\/p>\n\n

      Die Etablierung entsprechender Compliance-Ma\u00dfnahmen sollte dabei \u2013 neben der Definition und Dokumentation der Prozesse \u2013 auch die Einf\u00fchrung korrespondierender interner Vorgaben umfassen, insbesondere verbindliche Mitarbeiter-Richtlinien und Mechanismen zur Kontrollen der Einhaltung der Vorgaben. Weitere Ma\u00dfnahmen sind themen- und anwendungsspezifische Schulungen der Mitarbeiter, (soweit diese nicht gesetzlich verpflichtend sind, etwa bei Hochrisiko-KI-Systemen) die in regelm\u00e4\u00dfigen Abst\u00e4nden aufgefrischt und erweitert werden sollten.<\/p>\n\n

      Fazit<\/strong><\/p>\n\n

      Der Einsatz von K\u00fcnstlicher Intelligenz im Unternehmen bietet gro\u00dfe Potenziale, die jedoch \u2013 in Abh\u00e4ngigkeit von Einsatzgebiet und Art des jeweiligen KI-Systems \u2013 mit teilweise komplexen rechtlichen Anforderungen einhergehen. Werden die entsprechenden Compliance-Ma\u00dfnahmen rechtzeitig ergriffen, lassen sich diese Herausforderungen und Risiken aber gut beherrschen.<\/p>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t

      \n\t\t\t\t\t