„Aufmerksamkeit ist alles, was Sie brauchen“-Entwickler blicken bei Nvidia GTC über Transformatoren hinaus auf KI: „Die Welt braucht etwas Besseres“

Verbinden Führer In Boston An Marsch 27 Für A exklusiv Nacht von Vernetzung, Wissen, Und Gespräch. Anfrage A einladen hier.

Sieben von DER acht Autoren von DER Wahrzeichen 'Aufmerksamkeit Ost Alle Du Brauchen' Papier, Das eingeführt Transformer, versammelt Für DER Erstens Zeit als A Band Für A Katze mit Nvidia CEO Jensen Huang In A verpackt Ballsaal hat DER Allgemeine Geschäftsbedingungen Konferenz heute.

Sie inbegriffen Noam Shazeer, Mitbegründer Und CEO von Character.ai; Aidan Gomez, Mitbegründer Und CEO von Verbinden; Aschisch Vaswani, Mitbegründer Und CEO von Essentiell KI; Löwe Jones, Mitbegründer Und Technischer Direktor von Sakana KI; Ilja Polosuchin, Mitbegründer von SCHLIESSEN Protokoll; Jacob Uskhoreit, Mitbegründer Und CEO von Anfänglich; Und Lukas Kaiser, Mitglied von DER technisch Personal hat OpenAI. Niki Parmar, Mitbegründer von Essentiell KI, War unfähig hat unterstützen.

In 2017, DER acht Leute Team hat Google Gehirn geschlagen Gold mit Transformer — A neuronal Netzwerk NLP Durchbruch Das erfassen DER Kontext Und Bedeutung von Wörter mehr genau Das Es ist Vorgänger: das wiederkehrende neuronal Netzwerk Und DER lang kurzfristig Erinnerung Netzwerk. DER Transformator die Architektur wurde DER Fundamente von LLM als GPT-4 Und ChatGPT, Aber Auch Nicht-Sprache Apps einschließlich OpenAI Manuskript und DeepMind AlphaFold.

'DER Welt Bedürfnisse etwas besser Das Transformer

Aber JETZT, DER Schöpfer von Transformer Sind sehen darüber hinaus Was Sie gebaut — hat was ist das folgende Für KI Modelle. Zusammenhängen Gomez sagte Das hat Das angeben "DER Welt Bedürfnisse etwas besser Das Transformer, " hinzufügen Das "ICH denken alle von Wir Hier Hoffnung Er bekommt erfolgreich von etwas Das Wille tragen Wir hat neu Plateau von Leistung." Er ging An hat fragen DER ausruhen von DER Band: "Was MACHEN Du sehen kommen Folgen? Es ist DER spannend Bühne Weil ICH denken [Was Ost Dort JETZT] Ost Auch ähnlich hat DER Ding Das War Dort sechs, Sieben, Jahre Es gibt. »

V.B. Ereignis

DER KI Auswirkungen Tour – Atlanta

Weitermachen UNSER Tour, war geleitet hat Atlanta Für DER KI Auswirkungen Tour stoppen An April 10. Das exklusiv, nur geladene Gäste Ereignis, In Partnerschaft mit Microsoft, Wille Funktionalität Diskussionen An Wie generativ KI Ost verwandeln DER Sicherheit Belegschaft. Raum Ost Grenze, ALSO Anfrage A einladen heute.

Anfrage A einladen

In A Diskussion mit BusinessBeat Nach DER Zeichen, Gomez erweitert An ihr Zeichen Kommentare, Sprichwort Das "Er wäre Sei Wirklich traurig Wenn [Transformer] Ost DER am besten Wir dürfen MACHEN," hinzufügen Das Er hatte Gedanke ALSO Seit DER Tag Nach DER Team eingereicht DER "Aufmerksamkeit Ost Alle Du Brauchen" Papier. "ICH wollen hat sehen Er ersetzt mit etwas andere zehn mal besser, Weil Das bedeutet alle bekommt zugreifen hat Modelle Das Sind zehn mal besser."

Er scharf aus Das Dort Sind eine Menge Ineffizienzen An DER Erinnerung Seite von Transformer Und eine Menge architektonisch Komponenten von DER Transformator Das haben blieb DER sogar Seit DER sehr Anfang Und sollen Sei „wieder erforscht, überdacht. » Für Beispiel, A sehr lang Kontext, Er erklären, wird Liebling Und unskalierbar. In Zusatz, "DER Einstellung Ost Vielleicht unnötigerweise groß, Wir könnte Kompresse Er runter eine Menge mehr, Wir könnte Aktie Gewicht eine Menge mehr oft — Das könnte bringen Dinge runter von A Befehl von Größe. »

'Du haben hat Sei deutlich, offensichtlich besser'

Das sagte, Er zugelassen Das während DER ausruhen von DER Papiere Autoren wäre wahrscheinlich akzeptieren, Gomez sagte Dort Sind "Variable Grad von Wann Das Wille ankommen. Und Vielleicht Überzeugungen variieren Wenn Er Wille ankommen. Aber alle will A besser — als, war alle Wissenschaftler hat Herz - Und Das Nur bedeutet Wir wollen hat sehen Fortschritt. »

Während DER Zeichen, Jedoch, Sakanas Jones scharf aus Das In Befehl Für DER KI Industrie hat bewegen hat DER folgende Ding Nach Transformer — Macht nichts das...