Vertrauenswürdigkeit – was wird von Anwendern erwartet
Welche Voraussetzungen müssen erfüllt sein, damit Anwender KI-Anbietern vertrauen können und deren KI-Lösung nutzen? Diese Frage steht im Mittelpunkt des Forschungsprojektes „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“, das Anfang 2023 am Institut für Internet-Sicherheit – if(is) der Westfälischen Hochschule gestartet ist. Erste Antworten hierzu liefert die kürzlich abgeschlossene Anwender-Studie TrustKI (Vertrauenswürdigkeit).
Im Rahmen des – seitens des Bundesministerium für Digitales und Verkehr (BMDV) geförderten – Forschungsprojektes „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“ wurde Ende letzten Jahres die erste Anwender-Studie TrustKI durchgeführt. Hierbei stand eine konkrete Fragestellung im Fokus: Welche Kriterien müssen erfüllt sein, um den Entscheidungsprozess von Führungskräften sowohl hinsichtlich einer KI-Lösung als auch dem entsprechend zuverlässigen KI-Anbieter durch eine Vertrauenswürdigkeits-Plattform für KI-Lösungen grundlegend zu vereinfachen.
Vertrauenswürdigkeit wird hoch bewertet
„Ein zentrales Ergebnis unserer Anwender-Studie ist, dass die befragten Anwender dem Aufbau eines reellen Vertrauensverhältnisses basierend auf Vertrauenswürdigkeit eine hohe Bedeutung beimessen,“ so Prof. Norbert Pohlmann, Leiter des ‚Institut für Internet-Sicherheit – if(is)‘, Westfälische Hochschule Gelsenkirchen. Eine Erklärung dafür liegt nach Ansicht von Ulla Coester, Projektleiterin TrustKI auf der Hand: „Die Veränderungen, die mit der Nutzung von KI einhergehen, werden absehbar sowohl die Gesellschaft insgesamt als auch jeden einzelnen Menschen zunehmend stärker betreffen.“ So würden virtuelle Assistenten wie ChatGPT oder aktuell der KI-Copilot bereits heute eindrucksvoll zeigen, wie zügig mittlerweile die Marktdurchdringung von KI-Anwendungen vonstattengeht und welche Effekte sich daraus ergeben. Von daher lässt sich leicht nachvollziehen, dass das Bedürfnis der Anwender nach Vertrauenswürdigkeit und damit einhergehend bestimmten Werten heute höher ist denn je.
263 Führungskräfte befragt
Eine ethisch orientierte Handlungsweise der KI-Anbieter wird nachdrücklich gewünscht, wie die Studienergebnisse zeigen. Konkret haben die befragten Personen klare Anforderungen formuliert, was aus ihrer Sicht für einen nachhaltigen Vertrauensaufbau notwendig ist: Um einen Nachweis ihrer Vertrauenswürdigkeit zu erbringen, müssen KI-Anbieter unter anderem verbindlich relevante Kriterien hinsichtlich des Aspekts ‚Integrität‘ – der vorrangig beinhaltet, dass alle Kriterien der Vertrauenswürdigkeit und hier insbesondere die ethischen Dimensionen sowie die gebotene Sorgfaltspflicht Berücksichtigung finden – werden erfüllen. Zudem besteht der Anspruch nach einer ‚holistischen Transparenz‘ – das heißt, die Vertrauenswürdigkeit resultiert nicht mehr einzig aus der Transparenz der KI-Lösung, sondern basiert ebenfalls auf einer transparenten Darstellung der Handlungsweise der KI-Anbieter.
Konkrete Ergebnisse
Da dem Vertrauenswürdigkeits-Aspekt ‚Integrität‘ seitens der Teilnehmer eine hohe Bedeutung beigemessen wurde – nachfolgend dazu einige Ergebnisse:
- Antworten auf die Frage „auf welchem Wege KI-Anbieter die ethischen Anforderungen der Gesellschaft umsetzen“ zu erhalten, erachten die Teilnehmer als relevant. In diesem Kontext sind sie besonders daran interessiert zu erfahren, ob „ein Ethik-Gremium im Unternehmen etabliert wurde und welche Verantwortung sowie Befugnisse dieses reell hat“.
- Das KI-Anbieter ihre Verantwortung hinsichtlich des Nicht-Schädigungsprinzip anerkennen beziehungsweise umsetzen ist aus Sicht der Teilnehmer allgemein sehr wichtig. So ist es für die Mehrzahl der Teilnehmer substanziell, dass sie darüber informiert werden, auf welche Funktionalitäten der KI-Anbieter zum Wohle des Kunden verzichtet. Ebenso besteht ein hoher Informationsbedarf bezüglich der Folgenabschätzung – hier wollten die Teilnehmer nicht nur mehr darüber erfahren, ob der KI-Anbieter eine Folgenabschätzung vornimmt, sondern auch wie diese umgesetzt wird.
Nachfolgend ausgewählte Ergebnisse zur Vertrauenswürdigkeit
- Im Kontext der holistischen Transparenz wurde seitens der Teilnehmer darauf Wert gelegt, dass sie mehr Informationen zum verantwortungsvollen Umgang mit der Technologie explizit im Kontext der Privatheit erhalten, auch weil dies wesentlich ist im Hinblick auf mögliche Manipulation.
- Auf die Frage, ob der KI-Anbieter erläutern sollte, welche Prozesse er etabliert hat, um zu gewährleisten, dass kein Mitarbeiter gegen die festgelegten (ethischen) Werte und Regeln hinwegsetzen kann gab die Mehrzahl der Befragten an, dass sie dies wissen möchten.
Zur Studie: Basierend auf der Annahme, dass spezifische Kriterien zum Aufbau eines Vertrauensverhältnisses erfüllt sein müssen, stand bei der Anwender-Studie TrustKI im Fokus auf Grundlage des etablierten Vertrauenswürdigkeits-Modells (https://vertrauenswürdigkeit.com/vertrauenswuerdigkeits-modell-its-all-about-trust/) zu untersuchen, was – im Kontext der sieben Vertrauenswürdigkeits-Aspekte – zur Beurteilung der Vertrauenswürdigkeit von KI-Anbietern geeignet ist.
Die kompletten Ergebnisse der Anwender-Studie TrustKI www.vertrauenswürdigkeit.com sowie den entsprechenden Forschungsbericht https://xn--vertrauenswrdigkeit-gbc.com/forschungsbericht/ stellen wir Ihnen gerne zur Verfügung.
