رئيس وزارة الدفاع الأمريكية للذكاء الاصطناعي على ماجستير في القانون: "أحتاج إلى قراصنة ليخبرونا كيف ينكسر هذا الشيء"
قم بالوصول إلى مكتبتنا عند الطلب لعرض جلسات VB Transform 2023. اشترك هنا
على المسرح الرئيسي في مؤتمر الأمن DEF CON خلال جلسة بعد ظهر يوم الجمعة (11 أغسطس) ، طرح كريج مارتيل ، كبير المسؤولين الرقميين والذكاء الاصطناعي في وزارة الدفاع الأمريكية (DoD) ، عددًا من الرسائل الرئيسية.
أولاً ، يريد أن يفهم الناس أن نماذج اللغة الكبيرة (LLMs) غير حساسة وغير قادرة حقًا على التفكير.
يريد Martell ووزارة الدفاع أيضًا مزيدًا من الصرامة في تطوير النماذج للمساعدة في الحد من فرص الهلوسة - حيث تولد روبوتات الدردشة الذكية معلومات خاطئة. مارتيل ، وهو أيضًا أستاذ مساعد في تعليم الآلة بجامعة نورث إيسترن (ML) ، تعامل مع جلسة DEF CON الرئيسية كمؤتمر ، وسأل الجمهور بشكل متكرر عن الآراء والردود.
كان الذكاء الاصطناعي ككل موضوعًا مهمًا في DEF CON ، حيث استضافت قرية الذكاء الاصطناعي ، وهي مجتمع من المتسللين وعلماء البيانات ، مسابقة LLM للقرصنة. سواء كان ذلك في مؤتمر مثل DEF CON أو كجزء من جهود مكافأة الأخطاء ، يريد Martell مزيدًا من البحث في نقاط ضعف LLM المحتملة. يساعد Hen في قيادة فريق عمل LIMA التابع لوزارة الدفاع ، وهو محاولة لفهم إمكانات وحدود الذكاء الاصطناعي التوليدي وماجستير في القانون في وزارة الدفاع. حدث
VB Transform 2023 عند الطلب
هل فاتتك جلسة من VB Transform 2023؟ اشترك للوصول إلى المكتبة عند الطلب لجميع جلساتنا المميزة. سجل الان
"أنا هنا اليوم لأنني بحاجة إلى قراصنة في كل مكان ليخبرونا كيف ينكسر هذا الشيء ،" قال مارتيل. "لأننا إذا كنا لا نعرف كيفية تعطلها ، فلا يمكننا توضيح شروط القبول وإذا لم نتمكن من توضيح شروط القبول ، فلا يمكننا دفع الصناعة لبناء الشيء الصحيح ، حتى نتمكن من نشر واستخدامه ". LLMs رائعة لكنها ليست سببًا حقيقيًا
قضى Martell الكثير من الوقت خلال جلسته مشيرًا إلى أن LLM ليس سببًا حقًا. من وجهة نظره ، أدت دورة الضجيج الحالية المحيطة بالذكاء الاصطناعي التوليدي إلى الضجيج في غير محله وفهم ما يمكن وما لا تستطيع ماجستير في القانون فعله. قال مارتيل
"لقد تطورنا للتعامل مع الأشياء التي تتحدث بطلاقة على أنها كائنات عقلانية".
أوضح أنه على المستوى الأساسي ، فإن نموذج اللغة الكبير هو نموذج يتنبأ بالكلمة التالية ، بالنظر إلى الكلمات السابقة. يتم تدريب LLM على كميات هائلة من البيانات ذات قوة حوسبية هائلة ، لكنه يشير إلى أن LLM هي مجرد نموذج إحصائي كبير يعتمد على السياق السابق.
"تبدو مرنة للغاية لأنه يمكنك توقع سلسلة كاملة من الكلمات التالية بناءً على سياق هائل مما يجعلها معقدة حقًا" ، قال.
يرتبط الافتقار إلى التفكير بظاهرة الهلوسة وفقًا لمارتل. جادل بأن أحد الأهداف الأساسية لـ LLMs هو الطلاقة ، وليس إعادة ...
قم بالوصول إلى مكتبتنا عند الطلب لعرض جلسات VB Transform 2023. اشترك هنا
على المسرح الرئيسي في مؤتمر الأمن DEF CON خلال جلسة بعد ظهر يوم الجمعة (11 أغسطس) ، طرح كريج مارتيل ، كبير المسؤولين الرقميين والذكاء الاصطناعي في وزارة الدفاع الأمريكية (DoD) ، عددًا من الرسائل الرئيسية.
أولاً ، يريد أن يفهم الناس أن نماذج اللغة الكبيرة (LLMs) غير حساسة وغير قادرة حقًا على التفكير.
يريد Martell ووزارة الدفاع أيضًا مزيدًا من الصرامة في تطوير النماذج للمساعدة في الحد من فرص الهلوسة - حيث تولد روبوتات الدردشة الذكية معلومات خاطئة. مارتيل ، وهو أيضًا أستاذ مساعد في تعليم الآلة بجامعة نورث إيسترن (ML) ، تعامل مع جلسة DEF CON الرئيسية كمؤتمر ، وسأل الجمهور بشكل متكرر عن الآراء والردود.
كان الذكاء الاصطناعي ككل موضوعًا مهمًا في DEF CON ، حيث استضافت قرية الذكاء الاصطناعي ، وهي مجتمع من المتسللين وعلماء البيانات ، مسابقة LLM للقرصنة. سواء كان ذلك في مؤتمر مثل DEF CON أو كجزء من جهود مكافأة الأخطاء ، يريد Martell مزيدًا من البحث في نقاط ضعف LLM المحتملة. يساعد Hen في قيادة فريق عمل LIMA التابع لوزارة الدفاع ، وهو محاولة لفهم إمكانات وحدود الذكاء الاصطناعي التوليدي وماجستير في القانون في وزارة الدفاع. حدث
VB Transform 2023 عند الطلب
هل فاتتك جلسة من VB Transform 2023؟ اشترك للوصول إلى المكتبة عند الطلب لجميع جلساتنا المميزة. سجل الان
"أنا هنا اليوم لأنني بحاجة إلى قراصنة في كل مكان ليخبرونا كيف ينكسر هذا الشيء ،" قال مارتيل. "لأننا إذا كنا لا نعرف كيفية تعطلها ، فلا يمكننا توضيح شروط القبول وإذا لم نتمكن من توضيح شروط القبول ، فلا يمكننا دفع الصناعة لبناء الشيء الصحيح ، حتى نتمكن من نشر واستخدامه ". LLMs رائعة لكنها ليست سببًا حقيقيًا
قضى Martell الكثير من الوقت خلال جلسته مشيرًا إلى أن LLM ليس سببًا حقًا. من وجهة نظره ، أدت دورة الضجيج الحالية المحيطة بالذكاء الاصطناعي التوليدي إلى الضجيج في غير محله وفهم ما يمكن وما لا تستطيع ماجستير في القانون فعله. قال مارتيل
"لقد تطورنا للتعامل مع الأشياء التي تتحدث بطلاقة على أنها كائنات عقلانية".
أوضح أنه على المستوى الأساسي ، فإن نموذج اللغة الكبير هو نموذج يتنبأ بالكلمة التالية ، بالنظر إلى الكلمات السابقة. يتم تدريب LLM على كميات هائلة من البيانات ذات قوة حوسبية هائلة ، لكنه يشير إلى أن LLM هي مجرد نموذج إحصائي كبير يعتمد على السياق السابق.
"تبدو مرنة للغاية لأنه يمكنك توقع سلسلة كاملة من الكلمات التالية بناءً على سياق هائل مما يجعلها معقدة حقًا" ، قال.
يرتبط الافتقار إلى التفكير بظاهرة الهلوسة وفقًا لمارتل. جادل بأن أحد الأهداف الأساسية لـ LLMs هو الطلاقة ، وليس إعادة ...
What's Your Reaction?
