إطار عمل لتحليل المخاطر لأنماط لغة تركيب التعليمات البرمجية الكبيرة

الملخص: يتفوق نموذج Codex ، وهو نموذج لغوي كبير (LLM) تم تدريبه على مجموعة متنوعة من قواعد الرموز ، على حالة الفن السابقة في قدرته على توليف وإنشاء التعليمات البرمجية. على الرغم من أن الدستور الغذائي يقدم عددًا كبيرًا من الفوائد ، إلا أن النماذج القادرة على إنشاء كود على هذا النطاق لها قيود كبيرة ، وقضايا التوافق ، واحتمال إساءة الاستخدام ، والقدرة على زيادة معدل التقدم.في المجالات التقنية التي قد يكون لها تأثيرات مزعزعة للاستقرار أو يساء استخدامها . القدره. ومع ذلك ، فإن هذه الآثار الأمنية ليست معروفة بعد أو لا يزال يتعين استكشافها. في هذه المقالة ، نصف إطار عمل لتحليل المخاطر تم إنشاؤه في OpenAI للكشف عن المخاطر أو المخاطر الأمنية التي قد يفرضها نشر نماذج مثل Codex تقنيًا واجتماعيًا وسياسيًا واقتصاديًا. يستند التحليل إلى إطار عمل تقييمي جديد يحدد قدرة تقنيات إنشاء الشفرات المتقدمة في مواجهة تعقيد مطالبات المواصفات والتعبير عنها ، فضلاً عن قدرتها على فهمها وتنفيذها مقارنة بالقدرات البشرية.