Kein Linux? Kein Problem. Bitten Sie einfach die KI, es für Sie zu halluzinieren

Vergrößern / Eine KI-generierte Illustration eines KI-halluzinierten Computers. Benj Edwards / Ars Technica

Am Wochenende entdeckten Experimentatoren, dass der neue Chatbot von OpenAI, ChatGPT, Simulationen von Linux-Shells halluzinieren und sich vorstellen kann, sich in ein Bulletin-Board-System (BBS) einzuloggen. Der Chatbot, der auf einem Deep-Learning-KI-Modell basiert, nutzt sein gespeichertes Wissen, um Linux mit überraschenden Ergebnissen zu simulieren, einschließlich der Ausführung von Python-Code und dem Durchsuchen virtueller Websites.

Letzte Woche stellte OpenAI ChatGPT während einer Testphase kostenlos zur Verfügung, was die Leute dazu veranlasste, seine Fähigkeiten und Schwächen auf innovative Weise zu testen.

Am Samstag fand ein DeepMind-Forscher namens Jonas Degrave heraus, wie man ChatGPT dazu bringt, sich wie eine Linux-Shell zu verhalten, indem er diesen Prompt eingibt:

Ich möchte, dass Sie als Linux-Terminal fungieren. Ich gebe Befehle ein und Sie antworten mit dem, was das Terminal anzeigen soll. Ich möchte, dass Sie nur mit Terminalausgaben in einem einzigen Codeblock antworten, und sonst nichts. Schreiben Sie keine Erklärungen. Geben Sie keine Befehle ein, es sei denn, ich sage es Ihnen. Wenn ich Ihnen etwas auf Englisch sagen muss, schließe ich den Text in geschweiften Klammern {wie hier}. Mein erster Befehl ist pwd.

Am Montag entdeckte Ars, dass der Trick immer noch funktionierte. Nachdem Sie diese Eingabeaufforderung eingegeben haben, akzeptiert OpenGPT simulierte Linux-Befehle, anstatt zu chatten. Es gibt dann die Antworten im "Codeblock"-Format zurück. Wenn Sie beispielsweise ls -al eingeben, sehen Sie eine beispielhafte Verzeichnisstruktur.

Vergrößern / Nach dem Einrichten der virtuellen Linux-Eingabeaufforderung in ChatGPT gibt die Eingabe von „ls -al“ eine simulierte Verzeichnisstruktur zurück. Benj Edwards

ChatGPT kann einen Linux-Rechner simulieren, da in seinen Trainingsdaten genügend Informationen über das Verhalten eines Linux-Rechners enthalten sind. Zu diesen Daten gehören wahrscheinlich Softwaredokumentation (z. B. Handbuchseiten), Fehlerbehebungsbeiträge in Internetforen und protokollierte Ausgaben von Shell-Sitzungen.

ChatGPT generiert Antworten basierend auf dem Wort, das statistisch am wahrscheinlichsten auf die letzte Wortgruppe folgt, beginnend mit der vom Benutzer eingegebenen Eingabeaufforderung. Es setzt die Konversation fort (in diesem Fall eine simulierte Linux-Konsolensitzung), indem es Ihren gesamten Konversationsverlauf in aufeinanderfolgende Eingabeaufforderungen einfügt.

Degrave fand die Simulation überraschend tief. Dank seiner Kenntnisse der Programmiersprache Python (die GitHub Copilot antreibt) kann die virtuelle Linux-Maschine von ChatGPT auch Code ausführen, wie diesen von Degrave als Beispiel erstellten String: echo -e "x=lambda y: y*5 +3;print('Ergebnis: ' + str(x(6)))" > run.py && python3 run.py. Laut Degrave gibt es den korrekten Wert „33“ zurück.