Die Aufregung wegen der Cyberattacke durch eine KI kommt Big Tech gelegen. Die willkommene Botschaft ist: Wir sind mächtig.
Menschen die nichts von Technik verstehen übernehmen das Marketing der Big-Tech-Firmen völlig unkritisch. Wir sind ganz kurz vor der Superintelligenz, trust me bro.
Die Überschrift suggeriert, glücklicherweise, nicht genau das, was dann im Artikel, richtigerweise, steht. Ich kann das immer nur wieder betonen: Lasst euch nicht von diesen KI-Pseudoautonomie-Geschichten beirren. Es ist schlicht und einfach Bullshit und wird gezielt zu Propagandazwecken erzeugt, um psychologisch eine Aura der Mächtigkeit in das Produkt “KI” zu pflanzen. Es ist kein technisches Mysterium, KI in kontrollierten Umgebungen zu halten und man muss schon fahrlässig inkompetent sein, um solche Szenarieren überhaupt zuzulassen.
Und dass es in Systemen passiert, die sicherheitstechnisch eh schon kaputt sind, spricht auch nicht für irgendeinen bösartigen Willen zur Macht von der KI. Am Ende ist das nicht mehr als ein aus dem Ruder gelaufenes Fuzzytesting.
Es geht wie immer nur um Geld, Börsenwert und Kundensufträge.
Wer erinnert sich noch an die so gefährliche Version von Antrophic, die zu gefährlich für die Öffentlichkeit war? Nun, ein paar Monate später konnte man die kaufen. Scarcity-Psychology
Naja, es wird immer auch irgendwann andere Menschen geben die KIs gegen alles mögliche los lassen werden. Nur weil das vermutlich auch Marketing war, heißt es trotzdem das wir unsere ganzen Infrastrukturen endlich absichern müssen.
Ist mir auch aufgefallen, aber ich wollte den Titel unverändert lassen. Da muss man mit ein paar Runterwählis leben ;)
und man muss schon fahrlässig inkompetent sein, um solche Szenarieren überhaupt zuzulassen.
…oder die Marketingstrategie hat es ausdrücklich so gewollt.
(was beim aktuellen Fall von Anthropic wohl eher stimmt und deren gewolltes Image pflegt)
Sogar das BSI hat die Marketingaussagen von OpenAI und huggingface unkritisch auf LinkedIn geteilt. Zitat:
Eine KI ist bei einem Test aus ihrer Sandbox ausgebrochen, dann ins Internet gewechselt. Schließlich brach sie beim Hersteller einer anderen KI ein […] Im Video ordnet unsere BSI-Präsidentin Claudia Plattner den OpenAI-Vorfall ein
Die “Einordnung” besteht darin, davon auszugehen, dass das tatsächlich so passiert ist. Keine kritische Nachfrage, keine “Einordnung”, dass OpenAI letztes Jahr Milliardenverluste geschrieben hat, keine Erwähnung, dass beide Firmen von so einem PR-Stunt finanziell profitieren. Stattdessen wird ein fiktives apokalytisches Szenario aufgemacht, dass auch aus einem Terminator-Film stammen könnte, in dem die KI dann die Wasserversorgung einer Stadt abstellt. In den Kommentaren schreibt das BSI zusätzlich, dass sie “Künstliche Intelligenz grundsätzlich schätzen und nutzen”.
Ach was, da wäre ich ja nie drauf gekommen. Wir sind so am Arsch, wenn bei einem Bundesamt die KI-Psychose reinkickt - die sollten eigentlich die letzte Bastion sein, die die Bevölkerung abholt und sich auf Fakten stützt. Naja, jetzt muss es wohl wieder der CCC richten.
Auf Feddit sind die ersten basierten Menschen, die dazu sinnvoll kommentieren. Danke. Es ist doch wohl sowas von offensichtlich, dass das ein Marketing-Stunt war. Wie in aller Welt sollte eine KI aus einer sandboxed Umgebung ausbrechen? Woher sollte die überhaupt wissen, dass sie sandboxed ist? Wie in aller Welt soll das gehen, wenn die Sandbox wirklich eine Sandbox ist?
Jede Wette: da wurde ein “zufälliges” Loch integriert und achthundermillionen Mal geprompted, bis das statistische Modell endlich mal einen Treffer gelandet hat, den zehn Menschen wahrscheinlich schon kannten und suggestiv konstruiert haben. Aber Hauptsache, wieder vom Investitionsloch abzulenken.
Edit: Hab gerade mal die Pressemeldung von OpenAI angeschaut. Kompletter und harter Bullshit. Jetzt bin ich noch sicherer als vorher.
Et tu, taz?
Lass bitte den Scheiss mit fast-autonomer KI. Wie du selbst schreibst, nutzen solche Botschaften hauptsächlich den KI-Konzernen selbst.
Schutzmechanismen wurden dabei bewusst reduziert.
…schalten bei ihrem mächtigsten Modell die Sicherheitssperren ab
Und…Überraschung das Modell macht einen gefährlichen Cyberangriff. Wohl eher das Modell löst eine nicht allzu schwierige Hackme Testaufgabe.
Tja, es ist halt der pre-IPO Hype
