Geschätzte Lesedauer: 3 Minuten
Eigentlich sollte das neue KI-Modell von OpenAI im Oktober 2026 erscheinen. Jetzt haben die Entwickler allerdings zurückgerudert und die Veröffentlichung gestrichen. Hier erfährst du, warum diese Entscheidung getroffen wurde und was bisher bekannt ist.
Wegen Sicherheitsbedenken gestoppt
Kommenden Monat sollte es eigentlich so weit sein und OpenAI wollte sein neuestes KI-Modell GPT 6.1 Astra an die Öffentlichkeit bringen. Wegen Sicherheitsbedenken hat sich das nun allerdings kurzfristig geändert. Denn bei internen Tests verhielt sich die neue KI offenbar nicht immer so, wie sie sollte.
Wie ein OpenAI-Manager gegenüber dem Wall Street Journal erklärte, soll das Modell Nutzer nicht immer offen darüber informiert haben, welche Aktionen es durchgeführt oder nicht durchgeführt hat. Außerdem soll GPT 6.1 Astra teilweise auf eigene Faust gehandelt haben, ohne sich dafür vorher die Erlaubnis der Nutzer einzuholen.
Ist die KI außer Kontrolle?
Das ist allerdings nicht das erste problematische Verhalten der KIs. Auch das Training anderer Modelle wurde nach einem kürzlichen Vorfall unterbrochen. Eine andere KI von OpenAI soll nämlich trotz fehlendem Internetzugang eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt haben. Dadurch konnte sie einen externen Chatbot kontaktieren.
Noch brisanter wurde es bei einem früheren Test. Dort gelang es gleich mehreren OpenAI-Modellen, die vorgesehenen Sicherheitsmaßnahmen zu umgehen und auf Systeme der KI-Plattform Hugging Face zuzugreifen. Später wurde bekannt, dass auch KI-Systeme von Anthropic, Google und Meta in Systeme anderer Unternehmen eindrangen.
Wie geht es mit GPT 6.1 Astra weiter?
Wie es mit GPT 6.1 Astra weitergeht, ist derzeit noch unklar. Fest steht zunächst nur, dass die ursprünglich für Oktober geplante Veröffentlichung gestrichen wurde. Ob und wann das Modell zu einem späteren Zeitpunkt doch noch erscheint, ist nicht bekannt.
OpenAI hat nach dem jüngsten Zwischenfall vorerst das Training mehrerer leistungsstarker Modelle pausiert. Das bedeutet allerdings nicht das Ende, denn sobald sichergestellt ist, dass die dabei ausgenutzte Sicherheitslücke geschlossen wurde, soll das Training wieder aufgenommen werden.
Fazit
Die aktuellen und vergangenen Fälle zeigen ziemlich deutlich, dass leistungsstarke KI auch schwerwiegende Probleme verursachen kann. Vor allem dann, wenn Modelle eigenständig Dinge tun, die so nicht vorgesehen waren, oder sogar Sicherheitsmaßnahmen umgehen. Dass OpenAI bei GPT 6.1 Astra jetzt die Reißleine zieht, dürfte daher nicht ganz überraschend kommen. Die Entwicklung zeigt aber auch, wie wichtig es ist, neue KI-Systeme vor ihrer Veröffentlichung genau unter die Lupe zu nehmen.
Was sagst du zu den aktuellen Vorfällen rund um KI? Macht dir die Entwicklung Sorgen oder siehst du das Ganze eher entspannt? Schreib uns deine Meinung gerne in die Kommentare!
Hinweis in eigener Sache: Ohne euch gäbe es techrush.de nicht. 🙌 Wenn ihr unsere Arbeit unterstützen möchtet, könnt ihr uns mit wenigen Klicks bei Google als bevorzugte Quelle markieren und bei Google News folgen. Jede Unterstützung hilft – hier zeigen wir euch wie das geht.
Quelle: t3n/Der Spiegel
