Die Entstehung superintelligenter KI

Wir beginnen mit der Entwicklung von KI-Systemen, die Dinge herausfinden können. Wo hört es auf?

Superintelligente KI ist kein neues Thema. Aber jahrzehntelang beschränkte es sich meist auf hypothetische Szenarien in wissenschaftlichen Arbeiten oder Seiten der Science-Fiction mit seinen futuristischen Geschichten über Roboteraufstände und Weltuntergangsszenarien. Und doch rückt mit dem Fortschritt der KI-Technologie das einst amüsante Konzept, dass ein KI-System beginnt, seine eigene Intelligenz rekursiv zu verbessern, bis zu dem Punkt, an dem es schließlich die menschliche Intelligenz übertrifft, immer näher an die Schwelle der Realität. Plötzlich wird das Gespräch viel ernster.

Einige Forscher von Organisationen wie dem Max-Planck-Institut für Bildungsforschung, dem Machine Intelligence Research Institute und sogar OpenAI behaupten, dass es äußerst schwierig, wenn nicht sogar unmöglich sein wird, sie einzudämmen, sobald Sie diesen Punkt erreicht haben. Und dieser Punkt wird möglicherweise nicht mehr so ​​weit entfernt sein.

Wann und in welcher Form auch immer, werden superintelligente KI-Systeme wirklich revolutionär sein und alles beeinflussen, vom Arbeitsmarkt über die Wirtschaft bis hin zu Biologie und Medizin. Sie stellen jedoch auch ein tiefgreifendes existenzielles Risiko für die Menschheit dar und werfen ernsthafte Fragen auf: Wie nahe ist es, dass dies geschieht? Sind wir dafür gerüstet? Und wie fängt man an, es zu regulieren?

In dieser Folge trifft sich unser Senior Director für maschinelles Lernen, Fergal Reid, mit Emmet Connolly, unserem Vizepräsidenten für Produktdesign, um die Superintelligenz direkt anzugehen: das Bekannte und das Unbekannte, von Ethik bis hin zu regulatorischen Bedrohungen und Herausforderungen.

Hier sind einige der wichtigsten Erkenntnisse:

Die Integration von KI in Bereichen wie selbstfahrenden Autos wirft ethische Dilemmata auf, es ist jedoch wichtig, zwischen dieser und der potenziell viel gefährlicheren Superintelligenz zu unterscheiden. Es ist von entscheidender Bedeutung, die unmittelbaren KI-Bedenken und die Bedrohungen durch die Superintelligenz gegeneinander abzuwägen: Die heutigen Risiken sollten potenzielle zukünftige Schäden nicht überschatten, auch wenn diese schwieriger einzuschätzen sind. Es ist äußerst schwierig, KI zu regulieren. Eine Überregulierung kann ihre Vorteile einschränken, aber für Pionierlabore ist es wichtig, mit den Regulierungsbehörden zusammenzuarbeiten, um eine verantwortungsvolle Entwicklung und Einführung voranzutreiben. Während ungefährliche KI-Anwendungen den Ansatz „Schnell sein und Dinge kaputt machen“ beibehalten müssen, müssen Forschungslabore, die bahnbrechende Modelle trainieren, streng reguliert werden. Das Übersehen der potenziellen Vorteile von KI bei gleichzeitiger Überbetonung der Risiken trägt zu einer unproduktiven Debatte bei, die den Fortschritt behindern kann. Insgesamt hat diese Technologie ein positives Nettogewicht.

Wenn Ihnen unsere Diskussion gefällt, schauen Sie sich die anderen Folgen unseres Podcasts an. Sie können Apple Podcasts, Spotify und YouTube folgen oder den RSS-Feed im Player Ihrer Wahl abrufen. Das Folgende ist eine leicht bearbeitete Abschrift der Episode.

In das Unbekannte

Fergal Reid: Dies ist ein weiteres unserer offenen Gespräche. Wir bereiteten uns ein wenig vor und Sie sagten: „Superintelligenz ist das Interessanteste …“

Emmet Connolly: Was ist mit der Idee, dass Superintelligenz unsere Gesellschaft vielleicht über Nacht völlig verändern könnte und wir völlig außerstande wären, damit umzugehen? Sie sagten, niemand wisse es und es könnte in den nächsten Jahren passieren. Das ist das Wichtigste, worüber wir sprechen können. Aber das Problem, das ich habe, ist, dass alles undurchsichtig ist. Es könnte zwei Jahre dauern, es könnte in ein paar Jahren sein oder es könnte in 200 Jahren sein. Das ist das Wichtigste, aber auch die größte Unbekannte.

Fergal: Okay, lass uns gehen. Lassen Sie uns diese Superintelligenz-Sachen direkt angehen. Versuchen wir, darüber zu sprechen, was wir wissen und was wir nicht wissen. Wir werden uns sehr irren. Wie könnte ich es einrahmen? Das ist mir irgendwie eingefallen. Jetzt ist es unlösbar. Es ist schwer zu begreifen. Was wissen wir? Es gibt diesen ganzen Hype, oder? „Oh, das wird verrückt; Superintelligenz kommt bald. Und die sogenannten Pessimisten behaupten, dass es uns alle standardmäßig töten wird. Und darüber haben wir in der Vergangenheit schon ein bisschen gesprochen. Und dann sind da noch diese anderen Leute, die sagen: „Oh, das ist einfach Blödsinn.“ Es ist, als würde man sich Sorgen über die Überbevölkerung auf dem Mars machen. »

„Wir haben Dinge gebaut, die anfangen, Dinge herauszufinden. Wo hört es auf? »

Andrew Ng, der berühmte Forscher, sagte dies, und vor ein oder zwei Wochen schien er ...