Führungskräfte uneins über Verantwortung bei KI-Fehlern

Wenn KI-Systeme fehlerhafte oder schädliche Ergebnisse liefern, gibt es in deutschen Unternehmen keinen Konsens darüber, wer dafür geradesteht. Das geht aus einer Studie hervor, die das Marktforschungsinstitut Opinium im Auftrag des Dokumenten-KI-Anbieters ABBYY durchgeführt hat. 29 Prozent der befragten Führungskräfte wollen die Verantwortung zwischen Unternehmen und Anbieter aufteilen, 28 Prozent sehen sie allein beim KI-Anbieter, 27 Prozent beim einsetzenden Unternehmen. Weitere 12 Prozent verorten sie beim Endnutzer, vier Prozent bei den Aufsichtsbehörden.

(Bild: ABBYY)

Die Unklarheit spiegelt sich in einem grundsätzlichen Misstrauen. Nur 29 Prozent der Führungskräfte vertrauen uneingeschränkt darauf, dass KI-Systeme korrekte Ergebnisse liefern. 31 Prozent halten den Schutz vertraulicher Informationen für vollständig gewährleistet, 28 Prozent sind sicher, dass von KI-Systemen keine unvertretbaren Risiken ausgehen, und nur 25 Prozent trauen ihnen zu, das Zustandekommen wichtiger Entscheidungen zu erklären.

Mehr als die Hälfte der Befragten gibt an, dass ihr Unternehmen KI schneller einführt, als es sie wirksam steuern kann. Bei 29 Prozent verzögern ethische Bedenken die Umsetzung von KI-Initiativen erheblich.

Datenqualität bremst den ROI

Als größtes Hindernis für einen höheren Return on Investment nennen 24 Prozent die Datenqualität, gefolgt von Fachkräftemangel mit 16 Prozent und Anforderungen an Governance und Aufsicht mit 12 Prozent. 62 Prozent berichten, dass Anforderungen an die Data Governance die Einführung von KI verlangsamen.

Gleichwohl ordnet die Studie Governance nicht als reine Bremse ein. 52 Prozent der Führungskräfte in Unternehmen mit KI-Governance geben an, dass ihre KI-Initiativen die erwarteten Ziele übertroffen haben, bei 15 Prozent bleibt die Leistung dahinter zurück. 77 Prozent sagen, ein formelles Rahmenwerk habe ihre KI-Initiativen erfolgreicher gemacht, 73 Prozent sehen Risikominderung und schnelle Bereitstellung durch ihren Governance-Ansatz in Einklang gebracht.

Notfallmechanismen fehlen vielerorts

82 Prozent der Unternehmen, die KI einsetzen, verfügen nach eigenen Angaben über ein formelles Governance-Rahmenwerk. Bei den konkreten Mechanismen sieht es dünner aus: 52 Prozent haben einen Reaktionsplan für KI-Vorfälle, 50 Prozent ein Meldeverfahren, 45 Prozent einen Abschaltmechanismus und 38 Prozent Funktionen zur Rücksetzung. Drei Prozent geben an, über keinerlei Funktionen zum Management von KI-Vorfällen zu verfügen.

Auch das Wissen um Zuständigkeiten ist ungleich verteilt. Auf oberster Führungsebene wissen den Angaben zufolge 87 Prozent der Mitarbeiter, wer für Entwicklung, Implementierung und Steuerung von KI verantwortlich ist, im mittleren Management 89 Prozent, auf unteren Hierarchieebenen dagegen nur 69 Prozent.

„Unternehmen setzen zunehmend auf KI. Unsere Studie zeigt jedoch, dass viele noch immer mit zentralen Fragen zu Verantwortung, Governance und ROI ringen”, erläutert Roman Kilun, Chief Compliance Officer bei ABBYY. Unternehmen müssten wissen, woher ihre Daten stammen, ob sie vertrauenswürdig sind, wie sie verwendet werden dürfen und wo sie gespeichert und verarbeitet werden. Mit der wachsenden Bedeutung der Datensouveränität würden maschinenlesbare Kontrollmechanismen erforderlich, die Daten über den gesamten Lebenszyklus steuern.

Als letzte Kontrollinstanz bleibt der Mensch. 59 Prozent der deutschen Führungskräfte geben an, dass Menschen alle wichtigen KI-Entscheidungen prüfen, bevor daraus Maßnahmen folgen. In Australien liegt der Wert bei 61 Prozent, in Singapur bei 49 Prozent.

Der vollständige Bericht ist hier abrufbar.