HAFTUNG FÜR KI-SYSTEME
Mit Hilfe dieser Studie sollen Opazität und Autonomie beim Einsatz von Künstlicher Intelligenz erforscht und insbesondere im Hinblick auf Fehler, Haftung, Vorsorge und Schutz diskutiert werden.
Dr. Dirk Michel, Wissenschaftlicher Leiter
FÖRDERUNG
Die Realisierung dieses Projektes wird gefördert durch das Ministerium für Ministerium für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen.
INTERESSE UND KONTAKT
Haben Sie Fragen oder Anregungen zu den wirtschaftlichen Herausforderungen der Digitalisierung für die Freien Berufe? Dann kontaktieren Sie uns gerne.
PROJEKTVERANTWORTLICH
Dr. Dirk Michel
dirk.michel@ifb-nrw.de
In den Freien Berufen kommen – ähnlich wie im übrigen Wirtschaftsleben – zunehmend KI-Systeme zum Einsatz. Solchen Systemen sind die sogenannte Opazität und Autonomie immanent.
Opazität bedeutet, dass die Gründe für ihre Entscheidungen nicht beobachtet oder nachvollzogen werden können. Autonomie beschreibt die Fähigkeit von KI-Systemen, auch in Situationen, die nicht vorher durch einen Algorithmus festgelegt wurden, eine Entscheidung zu treffen.
Aus rechtlicher Sicht besonders problematisch ist die Frage, ob und unter welchen Voraussetzungen Freiberufler für eine Fehlfunktion eines KI-Systems haften.
Grundsätzlich ändert der Einsatz von KI-Systemen durch einen Freiberufler nichts an seiner Haftung für Berufsfehler. Voraussetzung für die Haftung sind aber eine Pflichtverletzung und ein Verschulden des Freiberuflers. Diese werden beim Einsatz von KI-Systemen aufgrund der Opazität nur schwer nachzuweisen sein.
Hat der Freiberufler das KI-System richtig eingesetzt und konnte er den Fehler auch nach einer Plausibilitätsprüfung nicht erkennen, realisiert sich das Autonomierisiko eines KI-Systems. Für dieses haftet der Freiberufler de lege lata nicht.
In der Folge tragen Patienten, Mandanten oder Klienten das Schadensrisiko bei einer Fehlfunktion des KI-Systems. Das Opazitätsrisiko könnte mit Beweiserleichterungen entschärft werden. Dem Autonomierisiko kann man – jedenfalls für Hochrisiko-KI-Systeme – mit einer gesetzlichen Garantie- oder Gefährdungshaftung begegnen.
Auch eine verschärfte Produzentenhaftung der Entwickler eines KI-Systems wird verbreitet diskutiert. Ein Verordnungsvorschlag der EU-Kommission wird für das dritte Quartal 2022 erwartet.
Die Diskussion um die Haftung für KI-Systeme wird meist am Beispiel von Robotern – etwa autonomer Fahrzeuge oder OP-Roboter – geführt. Weitestgehend unberücksichtigt bleibt die besondere Situation der in den Freien Berufen meist anzutreffenden Entscheidungsunterstützungssysteme.
Ziel des Teilprojektes Haftung für KI-Systeme ist es, die haftungsrechtlichen Besonderheiten freiberuflicher Dienstleistungen zu erörtern und Vorschläge für eine angemessene Verteilung des Opazitäts- und Autonomierisikos zu machen.