„The Godfather of AI“ verlässt Google und warnt vor der drohenden Gefahr

Geoffrey Hinton war ein Pionier der künstlichen Intelligenz. Im Jahr 2012 schufen Dr. Hinton und zwei seiner Doktoranden an der University of Toronto eine Technologie, die zur intellektuellen Grundlage der KI wurde. Systeme, die die größten Unternehmen der Technologiebranche als Schlüssel für ihre Zukunft ansehen.

Am Montag schloss er sich jedoch offiziell einem wachsenden Chor von Kritikern an, die sagen, dass diese Unternehmen auf dem Vormarsch sind mit ihrer aggressiven Kampagne zur Entwicklung von Produkten auf der Grundlage generativer künstlicher Intelligenz, der Technologie, die beliebte Chatbots wie ChatGPT antreibt, der Gefahr entgegen.

Dr. Hinton sagte, er habe seinen Job bei Google gekündigt, wo er mehr als ein Jahrzehnt gearbeitet habe und zu einer der angesehensten Stimmen auf diesem Gebiet geworden sei, damit er frei über die Risiken der KI sprechen könne. Ein Teil von ihm, sagt er, bereue jetzt sein Lebenswerk.

"Ich tröste mich mit der üblichen Ausrede: Wenn ich es nicht getan hätte, hätte es ein anderer getan." sagte Dr. Hinton während eines langen Interviews letzte Woche im Speisesaal seines Hauses in Toronto, nur einen kurzen Spaziergang von dem Ort entfernt, an dem er und seine Schüler ihren Durchbruch erzielten.

Dr Hintons Weg von der bahnbrechenden KI zur Apokalypse markiert einen bemerkenswerten Moment für die Technologiebranche an ihrem bedeutendsten Wendepunkt seit Jahrzehnten in Bereichen, die von der Arzneimittelforschung bis zur Bildung reichen. /p>

Aber an vielen Brancheninsidern nagt die Angst, dass sie etwas Gefährliches in die Wildnis entlassen. Generative KI kann bereits ein Instrument zur Desinformation sein. Bald könnte es ein Job-Risiko sein. Irgendwann sagen die größten Tech-Sorgen, dass es ein Risiko für die Menschheit darstellen könnte.

"Es ist schwer vorstellbar, wie man schlechte Akteure daran hindern kann, es für schlechte Dinge zu verwenden “, sagte Dr. Hinton.

Nachdem das Startup OpenAI aus San Francisco im März eine neue Version von ChatGPT herausgebracht hatte, unterzeichneten mehr als 1.000 Technologieführer und Forscher einen offenen Brief, in dem ein sechsmonatiges Moratorium für die Entwicklung neuer Systeme, weil Technologien der künstlichen Intelligenz „schwerwiegende Risiken für die Gesellschaft und die Menschheit“ darstellen Die Advancement of Artificial Intelligence, eine 40 Jahre alte akademische Gesellschaft, veröffentlichte einen eigenen Brief, in dem sie vor den Risiken von KI warnte. Zu dieser Gruppe gehörte Eric Horvitz, Chief Scientific Officer von Microsoft, das die OpenAI-Technologie in einer Vielzahl von Produkten eingesetzt hat, darunter seine Suchmaschine Bing.

Dr. Hinton, oft als „der Pate der KI“ bezeichnet, unterschrieb keinen dieser Briefe und sagte, er wolle Google oder andere Unternehmen nicht öffentlich kritisieren, bis er seinen Job kündigte. Er teilte dem Unternehmen im vergangenen Monat mit, dass er zurücktreten werde, und sprach am Donnerstag telefonisch mit Sundar Pichai, dem Vorstandsvorsitzenden von Googles Muttergesellschaft Alphabet. Er lehnte es ab, die Einzelheiten seines Gesprächs mit Herrn Pichai öffentlich zu besprechen.

Googles leitender Wissenschaftler Jeff Dean sagte in einer Erklärung: „Wir bleiben bei A.I. Wir lernen ständig, neue Risiken zu verstehen, während wir mutig innovativ sind.“

Dr. Hinton, ein 75-jähriger britischer Expat, ist ein langjähriger Akademiker, dessen Karriere von geleitet wurde seine persönlichen Überzeugungen über die Entwicklung und Nutzung von KI.Im Jahr 1972, als Doktorand an der Universität von Edinburgh, übernahm Dr , nur wenige Forscher haben daran geglaubt, aber es ist...