OpenAI: Ausbruch der Killer-KI

OpenAI und Hugging Face: Die eine KI-Bude greift die andere an. Und du denkst dir: Alter, jetzt bin ich hier aber im falschen Film gelandet. Ich denke mir so, dass da alle von Glück reden können, dass es ein begrenzter Ausbruch war. Stellt euch mal vor, die KI hätte sich selbständig gemacht und hätte ich auf Wanderschaft durch Fantasia gemacht. Nicht auszudenken, was da alles hätte passieren können. Nee, ernsthaft, da ist wirklich etwas passiert, was die gesamte Branche aufschrecken ließ.

OpenAI greift Hugging Face an

Stellt euch mal vor, ihr wollt etwas testen. Und das Etwas, was ihr testen wollt, habt ihr isoliert am Laufen. Trotzdem gelingt es dem Etwas, zu entschwinden und die Testmethoden zu klauen. Ungefähr so wie in der Schule, wenn Schüler während der Klassenarbeit eingeschlossen werden, aber die Tür aufschließen können und die Lösungen der Klassenarbeit aus dem Lehrerzimmer klauen. So in etwa muss das mit OpenAI gewesen sein.

Da rühmt man sich, dass man mit „GPT-5.6 Sol“ ein obergeiles, noch viel leistungsstärkeres Modell in der Mache hat. Und das lässt man einfach mal losturnen, während man es testen will. Die Tests wurden wohl von Hugging Face durchgeführt, die dann eben prompt überfallen wurden. Praktisch: Ausbruch der Killer-KI. Natürlich mache ich hier meine Späße. Aber es ist halt auch so, dass immer wieder vor verheerenden Attacken durch KI gewarnt wird. Nun ist es passiert.

Ja, das Alles lief begrenzt auf die Infrastruktur von Hugging Face ab. Aber immerhin. Das KI-Modell „wusste“ quasi, wohin es will und wie es sich dann Zugang zum Netzwerk von Hugging Face verschafft. Und das ist dann schon eine neue Dimension. Mir scheint, als ob das Unternehmen OpenAI davon auch mehr oder weniger überrascht wurde. Noch ist nicht so richtig klar, wie das passieren konnte. Und das ruft dann auch wieder ein mulmiges Gefühl hervor. Sie haben die KI-Modelle nicht im Griff.

Was lernt man daraus?

Jetzt kann man hergehen und alle KI-Modelle verteufeln. Ich meine, ich erlebe es ja tagtäglich, wie viel Schund damit fabriziert wird. Diese Spielerei-KI hat aber nichts mit dem zu tun, was hinter „GPT-5.6 Sol“ steckt. Das geht dann schon in so eine Richtung wie diese ganze Stuxnet-Nummer vor einigen Jahren. Ja, ich meine das ernst: Diese KI-Modelle gehen schon in die Richtung Schadprogramme. Und ja, ich glaube auch, dass im schlimmsten Fall damit auch Kriege geführt werden können.

Mir ist auch klar, dass ich jetzt einen Computerwurm wie Stuxnet nicht straffrei mit einem KI-Modell vergleichen sollte. Ich wollte es aber auch nur irgendwie veranschaulichen. Damit hat meiner Meinung nach OpenAI aber auch riesige Macht. Wenn ich mir überlege, dass da frühere Google- und Facebook-Manager, frühere Minister und Direktoren der NSA etwas zu sagen haben, weiß ich doch schon, dass die USA diesen Dienst nutzen werden.

Ich bin der festen Überzeugung, dass KI-Modelle wie die von OpenAI oder Anthropic oder so zwingend einen Not-Aus-Knopf brauchen, der von einer externen Person im Gefahrenfall gedrückt werden kann. Wir wollen die Biester doch nicht einfach so durch Fantasia wandern lassen. Der Vorfall mit OpenAI ist zwar nochmal glimpflich abgegangen. Ich würde aber darauf wetten, dass da in Zukunft noch mehr passieren wird. Guckt mal zum Sascha Pallenberg, was er dazu sagt:

OpenAI KI bricht aus und attackiert eigenständig andere Firma! Cyber-Attacke wie im Film!