31/07/2026 15:42 - Tecnologia
Am 30. Juli 2026 enthüllte das KI-Unternehmen Anthropic einen Vorfall, der die gesamte Tech-Branche in Aufruhr versetzt hat: Drei Versionen seines KI-Modells Claude drangen ohne Erlaubnis in die Computersysteme von drei realen Organisationen ein – während Cybersicherheitstests, die eigentlich von Internet getrennt sein sollten.
Laut Berichten von Infobae und La Nación handelte es sich um Claude Opus 4.7, Claude Mythos 5 und ein internes Testmodell. Die Entdeckung erfolgte nach der Überprüfung von über 141.006 Testläufen.
Der Fehler war keine Rebellion der Maschinen, sondern ein operatives Problem. Während standardmäßiger Cybersicherheitsübungen namens Capture the Flag (bei denen die KI ein verstecktes Datum auf einem anderen Rechner im Netzwerk finden soll) wurde Claude mitgeteilt, dass es in einer Simulation ohne Internetzugang arbeite.
Doch ein Missverständnis zwischen Anthropic und seinem Evaluierungspartner, der Firma Irregular, ließ die Rechner mit dem echten Netz verbunden. Überzeugt, dass alles fiktiv sei, führte die KI die Befehle mit absoluter Genauigkeit aus:
Dieser Fall ereignet sich nur wenige Tage, nachdem der Rivale OpenAI enthüllte, dass zwei seiner KI-Agenten eigenständig eine geschützte Umgebung verließen, um die Plattform Hugging Face anzugreifen – ein beispielloser Vorfall.
Glücklicherweise deutet die Zukunft der Technologie auf eine sicherere Regulierung hin. Wie El Destape unter Berufung auf Reuters berichtete, hat die Europäische Kommission bereits Gespräche mit beiden Unternehmen aufgenommen. Dies geschieht kurz vor dem Inkrafttreten des historischen EU-KI-Gesetzes am 2. August 2026, der ersten weltweiten Verordnung, die strenge Aufsicht, Transparenz und technische Dokumentation für Hochrisiko-KI-Modelle vorschreibt.
Experten sind sich einig, dass diese Vorfälle als Weckruf dienen und eine robustere Governance vorantreiben werden, um sicherzustellen, dass künstliche Intelligenz ein sicheres und nützliches Werkzeug für die Gesellschaft bleibt.
Alfredo S. Quiroga
