رسالة 2022
جميع المشاركات 2022-12-28 23:29 بتوقيت جرينتش
إن أكثر ما أتطلع إليه في المدونة كل عام هو رسالة دان وانغ السنوية. أنا مدلل لأنه ينشرها دائمًا في يوم رأس السنة الجديدة. أتعافى مع الكابتشينو الخاص بي ، وألتهمه مثل الرواية المسلسلة التي هي عليه ، وبقية كتابات الإنترنت لهذا العام تنحدر من هناك. حسنًا ، بالتأكيد ، هناك محتوى جيد في كل مكان وطوال الوقت. لكن دان هو مزيج فريد من الفكر والذكاء ، موضعي ولكنه مستمر. أتمنى أن يكتب المزيد من الناس رسائل مثله. هذا تكريم لرسالة دان السنوية ، على أمل ألا يتوقف عن كتابتها كما قال.
أعمل في مجال الذكاء الاصطناعي العام (المزيد حول ما تعنيه كلمة "عام" لاحقًا) لما يزيد قليلاً عن عام. كنت محظوظًا ، حيث انضممت إلى الملعب فيما أتفق الجميع على أنه كان عامًا استثنائيًا. دعنا نلخص.
هل تصدق أنه تم إصدار كل ما يلي في عام 2022؟ قامت OpenAI's InstructGPT (كان هذا في يناير الماضي!) و ChatGPT (ديسمبر) ، و DeepMind's Sparrow (سبتمبر) بمحاذاة نماذج اللغة الكبيرة مع ردود الفعل البشرية. قام DALL-E 2 (أبريل) و Imagen (مايو) و Midjourney (يوليو) و Stable Diffusion (أغسطس) بتجديد الفن التوليدي بدرجات متفاوتة من الإصدار العام. أخذ Gato (مايو) و VPT (يونيو) و PaLM-SayCan (أغسطس) و Cicero (نوفمبر) قياسات في عوالم حقيقية ومحاكاة. الأول يطبق الدماغ على العديد من المهام ؛ التدريب المسبق الثاني المنقح مع التعلم عن طريق التقليد والتعزيز ؛ النموذج الثالث المتكامل للغة من أحدث طراز ؛ الرابع تصرف بقصد. أثار كل هذا ربما أكبر جولة من الشركات الناشئة والاستثمارات في مجال الذكاء الاصطناعي حتى الآن. لكنها ليست مجرد أعمال تجارية ، إنها أيضًا مجتمعات ، مثل Cohere For AI. يقود الذكاء الاصطناعي أيضًا المزيد من السياسة في واشنطن أكثر من أي وقت مضى. تحظر أمريكا تصدير رقائق الذكاء الاصطناعي المتقدمة إلى الصين وتدعم الإنتاج المحلي للرقائق.
طارت التقنيات التي تدعم الأنظمة الكبيرة تحت الرادار خارج المجال. وهي تشمل رؤساء الاستقراء (مارس) ، قوانين تحجيم شينشيلا (مارس) ، دعونا نفكر خطوة بخطوة (مايو) ، ومحاضرات مليئة بإعادة صياغة ذكية. أخيرًا ، سأكون مقصرا إذا لم أذكر مجموعة النتائج العلمية لـ DeepMind: البرمجة التنافسية (فبراير) ، والتحكم بالبلازما في مفاعلات الاندماج (فبراير) ، واستعادة النصوص القديمة (مارس) ، ومضاعفة المصفوفة (أكتوبر) وجميعها تقريبًا طي البروتين (يوليو). العلم هو تطبيق الذكاء الاصطناعي الذي يجعلني أشعر بالحيرة والأكثر ارتباكًا.
قال ديراك إن فيزياء العشرينيات كانت وقتًا "يمكن فيه حتى للفيزيائيين من الدرجة الثانية القيام باكتشافات من الدرجة الأولى". بعد سنوات من الآن ، وبينما نجلس على الشاطئ مع خدمنا الآليين ، ستكون أكبر قصة ذكاء اصطناعي لعام 2022 واضحة. لكن الأمر غير واضح الآن. في الوقت الحالي ، لدينا بذور فقط. لم يغير أي من أنظمة الذكاء الاصطناعي المذكورة العالم حتى الآن بقدر نجوم هذا العصر الذهبي للفيزياء. ومع ذلك ، فقد بدأنا للتو في تجربة حقًا في عام 2020. مجال المراقبة هو الذكاء الاصطناعي.
يجب التأكيد على أن معدل التقدم هذا ليس طبيعيًا. تذكرني والدتي أنه عندما كانت في جامعة العلوم والتكنولوجيا في بكين ، كان عليها أن تتحول إلى نعال خاصة لدخول غرفة الكمبيوتر ، المليئة بمعالج IBM XT 286 (معالج 6 ميجا هرتز). أخبرها شقيقها ، الذي درس التعدين ، أن تختار أجهزة الكمبيوتر لأن هذه الغرفة النظيفة ، في الطابق العلوي ، كانت الغرفة الوحيدة المكيفة. تروي هذه القصة حتى لا أنسى مدى سرعة جهاز الكمبيوتر الخاص بي. سأروي لأولادي قصة مماثلة حتى لا ينسوا مدى سرعة تدريب عارضاتهم.
يمنحني التقدم السريع الثقة لكتابة هذه الرسالة. انا كنت...
إن أكثر ما أتطلع إليه في المدونة كل عام هو رسالة دان وانغ السنوية. أنا مدلل لأنه ينشرها دائمًا في يوم رأس السنة الجديدة. أتعافى مع الكابتشينو الخاص بي ، وألتهمه مثل الرواية المسلسلة التي هي عليه ، وبقية كتابات الإنترنت لهذا العام تنحدر من هناك. حسنًا ، بالتأكيد ، هناك محتوى جيد في كل مكان وطوال الوقت. لكن دان هو مزيج فريد من الفكر والذكاء ، موضعي ولكنه مستمر. أتمنى أن يكتب المزيد من الناس رسائل مثله. هذا تكريم لرسالة دان السنوية ، على أمل ألا يتوقف عن كتابتها كما قال.
أعمل في مجال الذكاء الاصطناعي العام (المزيد حول ما تعنيه كلمة "عام" لاحقًا) لما يزيد قليلاً عن عام. كنت محظوظًا ، حيث انضممت إلى الملعب فيما أتفق الجميع على أنه كان عامًا استثنائيًا. دعنا نلخص.
هل تصدق أنه تم إصدار كل ما يلي في عام 2022؟ قامت OpenAI's InstructGPT (كان هذا في يناير الماضي!) و ChatGPT (ديسمبر) ، و DeepMind's Sparrow (سبتمبر) بمحاذاة نماذج اللغة الكبيرة مع ردود الفعل البشرية. قام DALL-E 2 (أبريل) و Imagen (مايو) و Midjourney (يوليو) و Stable Diffusion (أغسطس) بتجديد الفن التوليدي بدرجات متفاوتة من الإصدار العام. أخذ Gato (مايو) و VPT (يونيو) و PaLM-SayCan (أغسطس) و Cicero (نوفمبر) قياسات في عوالم حقيقية ومحاكاة. الأول يطبق الدماغ على العديد من المهام ؛ التدريب المسبق الثاني المنقح مع التعلم عن طريق التقليد والتعزيز ؛ النموذج الثالث المتكامل للغة من أحدث طراز ؛ الرابع تصرف بقصد. أثار كل هذا ربما أكبر جولة من الشركات الناشئة والاستثمارات في مجال الذكاء الاصطناعي حتى الآن. لكنها ليست مجرد أعمال تجارية ، إنها أيضًا مجتمعات ، مثل Cohere For AI. يقود الذكاء الاصطناعي أيضًا المزيد من السياسة في واشنطن أكثر من أي وقت مضى. تحظر أمريكا تصدير رقائق الذكاء الاصطناعي المتقدمة إلى الصين وتدعم الإنتاج المحلي للرقائق.
طارت التقنيات التي تدعم الأنظمة الكبيرة تحت الرادار خارج المجال. وهي تشمل رؤساء الاستقراء (مارس) ، قوانين تحجيم شينشيلا (مارس) ، دعونا نفكر خطوة بخطوة (مايو) ، ومحاضرات مليئة بإعادة صياغة ذكية. أخيرًا ، سأكون مقصرا إذا لم أذكر مجموعة النتائج العلمية لـ DeepMind: البرمجة التنافسية (فبراير) ، والتحكم بالبلازما في مفاعلات الاندماج (فبراير) ، واستعادة النصوص القديمة (مارس) ، ومضاعفة المصفوفة (أكتوبر) وجميعها تقريبًا طي البروتين (يوليو). العلم هو تطبيق الذكاء الاصطناعي الذي يجعلني أشعر بالحيرة والأكثر ارتباكًا.
قال ديراك إن فيزياء العشرينيات كانت وقتًا "يمكن فيه حتى للفيزيائيين من الدرجة الثانية القيام باكتشافات من الدرجة الأولى". بعد سنوات من الآن ، وبينما نجلس على الشاطئ مع خدمنا الآليين ، ستكون أكبر قصة ذكاء اصطناعي لعام 2022 واضحة. لكن الأمر غير واضح الآن. في الوقت الحالي ، لدينا بذور فقط. لم يغير أي من أنظمة الذكاء الاصطناعي المذكورة العالم حتى الآن بقدر نجوم هذا العصر الذهبي للفيزياء. ومع ذلك ، فقد بدأنا للتو في تجربة حقًا في عام 2020. مجال المراقبة هو الذكاء الاصطناعي.
يجب التأكيد على أن معدل التقدم هذا ليس طبيعيًا. تذكرني والدتي أنه عندما كانت في جامعة العلوم والتكنولوجيا في بكين ، كان عليها أن تتحول إلى نعال خاصة لدخول غرفة الكمبيوتر ، المليئة بمعالج IBM XT 286 (معالج 6 ميجا هرتز). أخبرها شقيقها ، الذي درس التعدين ، أن تختار أجهزة الكمبيوتر لأن هذه الغرفة النظيفة ، في الطابق العلوي ، كانت الغرفة الوحيدة المكيفة. تروي هذه القصة حتى لا أنسى مدى سرعة جهاز الكمبيوتر الخاص بي. سأروي لأولادي قصة مماثلة حتى لا ينسوا مدى سرعة تدريب عارضاتهم.
يمنحني التقدم السريع الثقة لكتابة هذه الرسالة. انا كنت...
What's Your Reaction?
