Eine KI, die Pionierarbeit leistet, was wir wirklich fürchten sollten
Künstliche Intelligenz befeuert unsere höchsten Ambitionen und tiefsten Ängste wie kaum eine andere Technologie. Es ist, als ob mit jedem glänzenden, prometheischen Versprechen von Maschinen, die in der Lage sind, Aufgaben mit Geschwindigkeiten und Fähigkeiten auszuführen, von denen wir nur träumen können, ein kompensierender Albtraum menschlicher Verdrängung und Veralterung einhergeht. Aber trotz der jüngsten KI-Durchbrüche in den zuvor von Menschen dominierten Bereichen der Sprache und der bildenden Kunst – die Prosakompositionen des GPT-3-Sprachmodells und die visuellen Kreationen des DALL-E 2-Systems haben großes Interesse geweckt – sollten unsere ernsthaftesten Bedenken bestehen wahrscheinlich temperiert sein. Das ist zumindest die Meinung des Informatikers Yejin Choi, der 2022 das renommierte MacArthur „Genie“-Stipendium erhielt und bahnbrechende Forschungen zur Entwicklung des gesunden Menschenverstandes und des ethischen Denkens in der KI durchgeführt hat. „Es gibt einen kleinen Hype um potenzielle KI und Angst vor KI", gibt der 45-jährige Choi zu. Was nicht heißt, dass die Geschichte von Menschen und KI ohne Überraschungen bleiben wird. „Es gibt ein Gefühl von Abenteuer", sagt Choi sagt über seine Arbeit: "Du erkundest dieses unbekannte Gebiet. Du siehst etwas Unerwartetes, und dann hast du das Gefühl, ich möchte herausfinden, was es dort gibt."
Was sind die größten Missverständnisse, die Menschen immer noch über KI haben? Sie machen voreilige Verallgemeinerungen. „Oh, GPT-3 kann diesen wunderbaren Blogbeitrag schreiben. Vielleicht wird GPT-4 Redakteur für das New York Times Magazine. [Lacht.] Ich glaube nicht, dass er dort jemanden ersetzen kann, weil er keinen hat wirkliches Verständnis des politischen Kontexts und kann daher nichts wirklich Relevantes für die Leser schreiben. Dann gibt es Bedenken bezüglich der KI-Sensibilität. Es gibt immer Leute, die an etwas glauben, das keinen Sinn ergibt. Leute glauben an Tarotkarten. Leute glauben an Verschwörungstheorien. Also wird es natürlich Leute geben, die glauben, dass KI empfindungsfähig ist.
Ich weiß, dass dies vielleicht die klischeehafteste Frage ist, die ich Ihnen stellen kann, aber ich werde sie trotzdem stellen: Werden Menschen jemals empfindungsfähige künstliche Intelligenz erschaffen? Ich könnte meine Meinung ändern, aber derzeit bin ich skeptisch. Ich kann sehen, dass manche Leute diesen Eindruck haben, aber wenn man so nah an der KI arbeitet, sieht man viele Einschränkungen. Das ist das Problem. Aus der Ferne sieht es so aus, als ob, oh mein Gott! Aus der Nähe sehe ich alle Mängel. Immer wenn es viele Modelle und viele Daten gibt, kann die KI sehr gut damit umgehen – bestimmte Dinge wie Go oder Schach spielen. Aber Menschen haben diese Tendenz zu glauben, dass, wenn KI etwas Kluges wie Übersetzen oder Schach kann, sie auch in all den einfachen Dingen wirklich gut sein muss. Die Wahrheit ist, was für Maschinen einfach ist, kann für Menschen schwierig sein und umgekehrt. Sie wären überrascht, wie die KI mit dem gesunden Menschenverstand zu kämpfen hat. Es ist verrückt.
Können Sie erklären, was „gesunder Menschenverstand“ im Zusammenhang mit seiner Lehre von KI bedeutet? Man kann es so beschreiben, dass der gesunde Menschenverstand die dunkle Materie der Intelligenz ist. Normale Materie ist das, was wir sehen, womit wir interagieren können. Wir haben lange geglaubt, das ist es, was in der physischen Welt ist – und das ist alles. Es stellt sich heraus, dass das nur 5 % des Universums sind. 95 Prozent sind dunkle Materie und dunkle Energie, aber sie sind unsichtbar und nicht direkt messbar. Wir wissen, dass es existiert, denn wenn es das nicht gibt, dann ist normale Materie bedeutungslos. Wir wissen also, dass es da ist, und wir wissen, dass es eine Menge davon gibt. Zu dieser Erkenntnis kommen wir mit gesundem Menschenverstand. Es ist das stillschweigende und implizite Wissen, das Sie und ich haben. Es ist so offensichtlich, dass wir nicht oft darüber sprechen. Wie viele Augen hat zum Beispiel ein Pferd? Von ihnen. Wir reden nicht darüber, aber jeder weiß es. Wir kennen nicht den genauen Bruchteil des Wissens, das Sie und ich haben, über das wir noch nicht gesprochen haben – aber immer noch wissen –, aber ich denke, es gibt eine Menge. Lassen Sie mich Ihnen ein weiteres Beispiel geben: Sie und ich wissen, dass Vögel fliegen können, und wir wissen, dass Pinguine normalerweise nicht können. Also dachten KI-Forscher, wir könnten das codieren: Vögel fliegen im Allgemeinen, außer Pinguinen. Aber in Wirklichkeit sind die Ausnahmen die Missachtung der Regeln des gesunden Menschenverstandes. Neugeborene Babyvögel können nicht fliegen, mit Öl bedeckte Vögel können nicht fliegen, verletzte Vögel können nicht fliegen, Vögel in Käfigen können nicht fliegen. Die Sache ist die, Ausnahmen sind nichts Außergewöhnliches, und Sie und ich können darüber nachdenken, auch wenn uns das niemand gesagt hat. Es ist eine faszinierende Fähigkeit, und es ist nicht so einfach für K.I.
Sie haben sich vorhin skeptisch auf GPT-3 bezogen. Du denkst, das ist nicht beeindruckend? Ich bin ein großer Fan von GPT-3, aber gleichzeitig habe ich das Gefühl, dass einige Leute b...
Künstliche Intelligenz befeuert unsere höchsten Ambitionen und tiefsten Ängste wie kaum eine andere Technologie. Es ist, als ob mit jedem glänzenden, prometheischen Versprechen von Maschinen, die in der Lage sind, Aufgaben mit Geschwindigkeiten und Fähigkeiten auszuführen, von denen wir nur träumen können, ein kompensierender Albtraum menschlicher Verdrängung und Veralterung einhergeht. Aber trotz der jüngsten KI-Durchbrüche in den zuvor von Menschen dominierten Bereichen der Sprache und der bildenden Kunst – die Prosakompositionen des GPT-3-Sprachmodells und die visuellen Kreationen des DALL-E 2-Systems haben großes Interesse geweckt – sollten unsere ernsthaftesten Bedenken bestehen wahrscheinlich temperiert sein. Das ist zumindest die Meinung des Informatikers Yejin Choi, der 2022 das renommierte MacArthur „Genie“-Stipendium erhielt und bahnbrechende Forschungen zur Entwicklung des gesunden Menschenverstandes und des ethischen Denkens in der KI durchgeführt hat. „Es gibt einen kleinen Hype um potenzielle KI und Angst vor KI", gibt der 45-jährige Choi zu. Was nicht heißt, dass die Geschichte von Menschen und KI ohne Überraschungen bleiben wird. „Es gibt ein Gefühl von Abenteuer", sagt Choi sagt über seine Arbeit: "Du erkundest dieses unbekannte Gebiet. Du siehst etwas Unerwartetes, und dann hast du das Gefühl, ich möchte herausfinden, was es dort gibt."
Was sind die größten Missverständnisse, die Menschen immer noch über KI haben? Sie machen voreilige Verallgemeinerungen. „Oh, GPT-3 kann diesen wunderbaren Blogbeitrag schreiben. Vielleicht wird GPT-4 Redakteur für das New York Times Magazine. [Lacht.] Ich glaube nicht, dass er dort jemanden ersetzen kann, weil er keinen hat wirkliches Verständnis des politischen Kontexts und kann daher nichts wirklich Relevantes für die Leser schreiben. Dann gibt es Bedenken bezüglich der KI-Sensibilität. Es gibt immer Leute, die an etwas glauben, das keinen Sinn ergibt. Leute glauben an Tarotkarten. Leute glauben an Verschwörungstheorien. Also wird es natürlich Leute geben, die glauben, dass KI empfindungsfähig ist.
Ich weiß, dass dies vielleicht die klischeehafteste Frage ist, die ich Ihnen stellen kann, aber ich werde sie trotzdem stellen: Werden Menschen jemals empfindungsfähige künstliche Intelligenz erschaffen? Ich könnte meine Meinung ändern, aber derzeit bin ich skeptisch. Ich kann sehen, dass manche Leute diesen Eindruck haben, aber wenn man so nah an der KI arbeitet, sieht man viele Einschränkungen. Das ist das Problem. Aus der Ferne sieht es so aus, als ob, oh mein Gott! Aus der Nähe sehe ich alle Mängel. Immer wenn es viele Modelle und viele Daten gibt, kann die KI sehr gut damit umgehen – bestimmte Dinge wie Go oder Schach spielen. Aber Menschen haben diese Tendenz zu glauben, dass, wenn KI etwas Kluges wie Übersetzen oder Schach kann, sie auch in all den einfachen Dingen wirklich gut sein muss. Die Wahrheit ist, was für Maschinen einfach ist, kann für Menschen schwierig sein und umgekehrt. Sie wären überrascht, wie die KI mit dem gesunden Menschenverstand zu kämpfen hat. Es ist verrückt.
Können Sie erklären, was „gesunder Menschenverstand“ im Zusammenhang mit seiner Lehre von KI bedeutet? Man kann es so beschreiben, dass der gesunde Menschenverstand die dunkle Materie der Intelligenz ist. Normale Materie ist das, was wir sehen, womit wir interagieren können. Wir haben lange geglaubt, das ist es, was in der physischen Welt ist – und das ist alles. Es stellt sich heraus, dass das nur 5 % des Universums sind. 95 Prozent sind dunkle Materie und dunkle Energie, aber sie sind unsichtbar und nicht direkt messbar. Wir wissen, dass es existiert, denn wenn es das nicht gibt, dann ist normale Materie bedeutungslos. Wir wissen also, dass es da ist, und wir wissen, dass es eine Menge davon gibt. Zu dieser Erkenntnis kommen wir mit gesundem Menschenverstand. Es ist das stillschweigende und implizite Wissen, das Sie und ich haben. Es ist so offensichtlich, dass wir nicht oft darüber sprechen. Wie viele Augen hat zum Beispiel ein Pferd? Von ihnen. Wir reden nicht darüber, aber jeder weiß es. Wir kennen nicht den genauen Bruchteil des Wissens, das Sie und ich haben, über das wir noch nicht gesprochen haben – aber immer noch wissen –, aber ich denke, es gibt eine Menge. Lassen Sie mich Ihnen ein weiteres Beispiel geben: Sie und ich wissen, dass Vögel fliegen können, und wir wissen, dass Pinguine normalerweise nicht können. Also dachten KI-Forscher, wir könnten das codieren: Vögel fliegen im Allgemeinen, außer Pinguinen. Aber in Wirklichkeit sind die Ausnahmen die Missachtung der Regeln des gesunden Menschenverstandes. Neugeborene Babyvögel können nicht fliegen, mit Öl bedeckte Vögel können nicht fliegen, verletzte Vögel können nicht fliegen, Vögel in Käfigen können nicht fliegen. Die Sache ist die, Ausnahmen sind nichts Außergewöhnliches, und Sie und ich können darüber nachdenken, auch wenn uns das niemand gesagt hat. Es ist eine faszinierende Fähigkeit, und es ist nicht so einfach für K.I.
Sie haben sich vorhin skeptisch auf GPT-3 bezogen. Du denkst, das ist nicht beeindruckend? Ich bin ein großer Fan von GPT-3, aber gleichzeitig habe ich das Gefühl, dass einige Leute b...
What's Your Reaction?
