Anthropic öffnet die Büchse der Pandora. Schon wieder.
Während es um OpenAI, Perplexity und auch hiesige KI-Unternehmen wie Aleph Alpha aktuell eher ruhig bestellt ist, überschlagen sich die Medienberichte einmal mehr im Hinblick auf Anthropic. Diesmal geht es um Claude Mythos: ein KI-Modell, das so leistungsfähig ist, dass es angeblich nicht in die falschen Hände geraten darf.
Zusammenfassung (TL; DR):
- Anthropic sorgt mit dem extrem leistungsstarken Modell „Claude Mythos“ für Aufsehen, das aufgrund seiner potenziellen Gefahr nur über „Project Glasswing“ ausgewählten Partnern zur Schließung von Sicherheitslücken zugänglich gemacht wird.
- Kritiker vermuten dahinter ein Marketingmanöver zur Vorbereitung auf einen Börsengang, da die Fähigkeiten mangels öffentlicher Überprüfung nicht verifizierbar sind.
- Statt auf die Angst vor neuen KI-Modellen zu setzen, wird die Sicherung der Codebasis über den gesamten Software-Lebenszyklus als entscheidender Schutz hervorgehoben.
Über einen Mangel an Publicity kann sich der Anthropic-Chef Dario Amodei dieser Tage sicher nicht beschweren. Den ersten großen Medienrummel in diesem Jahr löste seine Ankündigung von Claude Code Security aus. Das Tool wurde von der Fachpresse als ein Gamechanger in Sachen Cybersecurity in höchsten Tönen gelobt und manch einer glaubte schon, dass damit das Thema „Schwachstellen in der Codebasis“ ein für alle Mal der Vergangenheit angehören würde. Ich war damals schon skeptisch und bin es bis heute. Kurz darauf machte Amodei klar, dass er seine KI nicht dem US-Militär zur Verfügung stellen wolle. Seitdem gilt Anthropic als Risiko für die nationale Sicherheit der USA.
Und dann war da Anfang April plötzlich die Rede von Claude Mythos. Ein Modell, das so leistungsstark ist, dass es bereits tausende von hochgradigen Schwachstellen in allen sich im Umlauf befindenden Betriebssystemen und Webbrowsern aufgespürt hat. Natürlich ist diese neue Büchse der Pandora gefährlich. Laut Anthropic sogar zu gefährlich, um sie der Öffentlichkeit zugänglich zu machen. Stattdessen wurde Project Glasswing gegründet, ein Zusammenschluss der namhaftesten Unternehmen der IT-Welt. Gemeinsam mit ihnen will man das Potenzial von Claude Mythos für das Gute einsetzen und die offenbar teilweise seit Jahrzehnten klaffenden Sicherheitslücken in deren Software Stück für Stück schließen. Die Erkenntnisse aus diesen Bemühungen will das Projekt dann mit der Öffentlichkeit teilen.
Was erst einmal ganz positiv klingt, hinterlässt auf den zweiten Blick allerdings einen unangenehmen Beigeschmack. Da Claude Mythos nur sehr ausgewählten Partnern zugänglich gemacht wird, besteht keinerlei objektive Möglichkeit, die Leistungsstärke und das Gefahrenpotenzial wirklich zu verifizieren. Da Anthropic natürlich wirtschaftliche Interessen hat – es wird über einen nahen Börsengang spekuliert –, könnte das Ganze auch einfach nur ein Marketing-Hebel sein.
Sollte Claude Mythos hingegen wirklich so gefährlich sein, wie Anthropic es behauptet, ist es da nicht fahrlässig, nur den Tech-Giganten Zugriff auf das Modell für die Absicherung der eigenen Produkte zu gewähren? Wäre es nicht ganz im Sinne von Amodeis angeblichem Altruismus, allen legitimen Unternehmen die Möglichkeit zu geben, ihre Software abzusichern? Mir erscheint der Mythos um den Mythos bereits jetzt ein wenig zu stark. Davon abgesehen: Wer seine Codebasis von der Pike auf sicher gestaltet und deren Integrität über den gesamten Software beziehungsweise neuerdings Agentic Development Lifecycle hinweg gewährleistet, braucht vor der Künstlichen Intelligenz aus Pandoras Büchse keine Angst zu haben.
