KI-Transformation trotz Herausforderungen durch Schatten-KI und EU AI Act
Die KI-Revolution schreitet mit großen Schritten voran. In diesen Tagen ist die neueste Version von ChatGPT erschienen, die auch kostenlos zur Verfügung steht. Gleichzeitig ist die Skepsis gegenüber der neuen Technologie nach wie vor groß. Philipp Adamidis, CEO und Mitgründer von QuantPi, Pionier auf dem Gebiet der vertrauensvollen KI, ordnet die Situation im Interview ein.
Wie bewerten Sie die derzeitigen Entwicklungen?
Philipp Adamidis: Klar ist: KI wird nun endgültig Teil des Arbeitsalltags vieler Menschen. Ich bin sicher, dass der Produktivitätsboost in ganz unterschiedlichen Arbeitsbereichen enorm sein wird. Zugleich nehmen allerdings auch die Risiken zu: Der Einsatz unautorisierter KI-Tools, sog. Schatten-KI, wird sich zu einem ernsthaften Sicherheitsproblem für Unternehmen entwickeln. Doch auch wenn Unternehmen KI einkaufen oder selbst entwickeln, werden die Tools in den meisten Fällen nicht gründlich genug getestet und sind somit ein erhebliches Sicherheits- und Compliance-Risiko. Zudem stellt der EU AI Act Organisationen in der kommenden Zeit vor große Herausforderungen. Die alles beherrschende Frage lautet also: Wie gelangen wir zu einer sicheren und verantwortungsbewussten Nutzung von KI? Wir dürfen uns hierbei nicht allein auf die Hersteller und Anbieter von KI-Tools verlassen. Für Transparenz, Erklärbarkeit und Kontrolle werden wir alle gemeinsam sorgen müssen.
KI-Transformation -was können Unternehmen konkret tun?
Philipp Adamidis: Zunächst einmal sind klare Richtlinien für den Umgang mit Künstlicher Intelligenz unerlässlich. Zum anderen sollten Unternehmen dazu in der Lage sein, die eingesetzten KI-Tools selbst zu überprüfen. Nur dann können die notwendigen Schutzmaßnahmen ergriffen werden, um die rechtlichen und ethischen Standards des eigenen Unternehmens sicherzustellen. Das klingt für viele Unternehmen natürlich erst einmal utopisch. Gerade kleine und mittlere Unternehmen verfügen in der Regel nicht über die personellen und finanziellen Ressourcen, um komplexe KI-Systeme zu benchmarken – von Start-ups ganz zu schweigen. Die gute Nachricht ist jedoch: Mithilfe innovativer Software-Lösungen lassen sich selbst komplexeste Large Language Models inzwischen einfach und ressourcenschonend überprüfen. Auf diese Weise haben Unternehmen die sichere und verantwortungsbewusste KI-Transformation selbst in der Hand.
Zum EU AI Act: Was müssen Unternehmen beachten?
Philipp Adamidis: Der Faktor Zeit ist ganz entscheidend: Unternehmen sollten möglichst rasch einen detaillierten Maßnahmenplan erarbeiten und umsetzen, ansonsten drohen empfindliche Geldbußen. Die Bußgelder können sich auf bis zu sieben Prozent des erzielten Umsatzes belaufen. Eine der größten Aufgaben ist es zweifellos, sich einen Überblick über alle eingesetzten KI-Systeme zu verschaffen und die jeweilige Risikoklasse zu ermitteln. Dabei sind diverse Sonderbestimmungen und Ausnahmeregelungen zu beachten. Aber auch die umfangreichen Dokumentations- und Transparenzpflichten sollten nicht unterschätzt werden. Spezialisierte Risikomanagement-Plattformen erleichtern es glücklicherweise, im Dickicht der Vorschriften und Regelungen den Überblick zu behalten und die technischen und administrativen Herausforderungen zu meistern. Das viel gefürchtete Compliance-Chaos lässt sich also mit relativ geringem Aufwand vermeiden.
Die Diskussion um die Chancen und Risiken von KI wird nach wie vor kontrovers geführt. Was ist aus Ihrer Sicht entscheidend für den Erfolg der KI-Transformation?
Philipp Adamidis: Ich beobachte seit geraumer Zeit mit Sorge, dass viele Akteure im KI-Bereich das Thema Vertrauenswürdigkeit zwar werbewirksam auf die Fahnen schreiben, es jedoch in der Praxis nicht immer mit der nötigen Sorgfalt behandeln. Dadurch ist gerade in jüngster Zeit viel Vertrauen verspielt worden. Dass OpenAI das gesamte Sicherheits-Team aufgelöst hat, halte ich für ein fatales Signal. Denn eines muss uns doch klar sein: Wenn es uns nicht gelingt, zu einem verantwortungsvollen Umgang mit der neuen Technologie zu gelangen und dadurch das Vertrauen der Menschen zu gewinnen, wird die größte technologische Revolution seit der Einführung des Internets unweigerlich scheitern.
