OpenAI scuppers مكتشف النص المكتوب بالذكاء الاصطناعي على "معدل دقة منخفض"
أغلقت OpenAI أداة تصنيف الذكاء الاصطناعي الخاصة بها ، وهي أداة ادعت أنها تحدد احتمالية كتابة مقطع من النص بواسطة ذكاء اصطناعي آخر. بينما استخدمه الكثيرون وربما اعتمدوا عليه بطريقة غير حكيمة للقبض على الغشاشين منخفضي الجهد ، فقد تقاعدت شركة OpenAI بسبب "معدل الدقة المنخفض" الذي انتقده على نطاق واسع.
تبدو النظرية القائلة بأن النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يحتوي على ميزة تعريف أو نمط يمكن اكتشافه بشكل موثوق به بديهية ، ولكن حتى الآن لم يتم تأكيد ذلك عمليًا. على الرغم من أن بعض النصوص التي تم إنشاؤها قد يكون لها دلالة واضحة ، إلا أن الاختلافات بين نماذج اللغة الرئيسية والسرعة التي تم تطويرها بها جعلت استخدام مثل هذه الروايات شبه مستحيل.
خلص اختبار TechCrunch الخاص لمجموعة من أدوات اكتشاف خط اليد بالذكاء الاصطناعي إلى أنها عشوائية في أحسن الأحوال وعديمة القيمة تمامًا في أسوأ الأحوال. من أصل سبعة مقتطفات نصية تم إنشاؤها لمجموعة متنوعة من أجهزة الكشف ، حدد GPTZero خمسة بشكل صحيح ومصنف OpenAI واحدًا فقط. وكان ذلك باستخدام نموذج لغوي لم يكن متقدمًا حتى في ذلك الوقت.
لكن البعض أخذ ادعاءات الاكتشاف في ظاهرها ، أو بالأحرى تجاوزها ، لأن OpenAI شحنت أداة التصنيف بقائمة قيود كبيرة بما يكفي لجعل المرء يتساءل عن سبب إصدارها الشيء. الأشخاص الذين كانوا قلقين بشأن الطلاب أو المتقدمين للوظائف أو العاملين المستقلين الذين يرسلون نصًا تم إنشاؤه سيضعونه في المصنف للاختبار ، وبينما لا ينبغي أن تكون النتائج موثوقة ، فقد كانوا كذلك في بعض الأحيان.
نظرًا لأن النماذج اللغوية قد تحسنت وانتشرت ، يبدو أن شخصًا ما في الشركة قرر أن الوقت قد حان لاستخدام هذه الأداة الصعبة في وضع عدم الاتصال. "نحن نعمل على دمج التعليقات ونبحث حاليًا عن تقنيات مصدر أكثر فاعلية للنص" ، كما ورد في ملحق 20 يوليو لمنشور إعلان المصنف. (يبدو أن فك التشفير كان أول من لاحظ التغيير.)
سألت عن التوقيت والمنطق وراء مصراع المصنف وسوف يتم التحديث إذا كان لدي إجابة. ولكن من الغريب أن يحدث هذا في الوقت الذي انضمت فيه شركة OpenAI إلى العديد من الشركات الأخرى في "التزام طوعي" بقيادة البيت الأبيض لتطوير الذكاء الاصطناعي بطريقة أخلاقية وشفافة.
من بين الالتزامات التي تعهدت بها الشركات تطوير العلامات المائية القوية و / أو طرق الكشف. أو محاولة ذلك ، على أي حال: بينما كانت كل شركة تُحدث ضجيجًا بهذا المعنى خلال الأشهر الستة الماضية أو نحو ذلك ، لم نر بعد أي علامة مائية أو طريقة كشف لم يتم التحايل عليها بشكل تافه.
لا شك في أن أول من ينجز هذا العمل الفذ سيكافأ بسخاء (مثل هذه الأداة ، إذا كانت موثوقة حقًا ، ستكون لا تقدر بثمن في ظروف لا حصر لها) ، لذلك ربما يكون تضمينها في أي صفقة ذكاء اصطناعي زائدة عن الحاجة.
أغلقت OpenAI أداة تصنيف الذكاء الاصطناعي الخاصة بها ، وهي أداة ادعت أنها تحدد احتمالية كتابة مقطع من النص بواسطة ذكاء اصطناعي آخر. بينما استخدمه الكثيرون وربما اعتمدوا عليه بطريقة غير حكيمة للقبض على الغشاشين منخفضي الجهد ، فقد تقاعدت شركة OpenAI بسبب "معدل الدقة المنخفض" الذي انتقده على نطاق واسع.
تبدو النظرية القائلة بأن النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يحتوي على ميزة تعريف أو نمط يمكن اكتشافه بشكل موثوق به بديهية ، ولكن حتى الآن لم يتم تأكيد ذلك عمليًا. على الرغم من أن بعض النصوص التي تم إنشاؤها قد يكون لها دلالة واضحة ، إلا أن الاختلافات بين نماذج اللغة الرئيسية والسرعة التي تم تطويرها بها جعلت استخدام مثل هذه الروايات شبه مستحيل.
خلص اختبار TechCrunch الخاص لمجموعة من أدوات اكتشاف خط اليد بالذكاء الاصطناعي إلى أنها عشوائية في أحسن الأحوال وعديمة القيمة تمامًا في أسوأ الأحوال. من أصل سبعة مقتطفات نصية تم إنشاؤها لمجموعة متنوعة من أجهزة الكشف ، حدد GPTZero خمسة بشكل صحيح ومصنف OpenAI واحدًا فقط. وكان ذلك باستخدام نموذج لغوي لم يكن متقدمًا حتى في ذلك الوقت.
لكن البعض أخذ ادعاءات الاكتشاف في ظاهرها ، أو بالأحرى تجاوزها ، لأن OpenAI شحنت أداة التصنيف بقائمة قيود كبيرة بما يكفي لجعل المرء يتساءل عن سبب إصدارها الشيء. الأشخاص الذين كانوا قلقين بشأن الطلاب أو المتقدمين للوظائف أو العاملين المستقلين الذين يرسلون نصًا تم إنشاؤه سيضعونه في المصنف للاختبار ، وبينما لا ينبغي أن تكون النتائج موثوقة ، فقد كانوا كذلك في بعض الأحيان.
نظرًا لأن النماذج اللغوية قد تحسنت وانتشرت ، يبدو أن شخصًا ما في الشركة قرر أن الوقت قد حان لاستخدام هذه الأداة الصعبة في وضع عدم الاتصال. "نحن نعمل على دمج التعليقات ونبحث حاليًا عن تقنيات مصدر أكثر فاعلية للنص" ، كما ورد في ملحق 20 يوليو لمنشور إعلان المصنف. (يبدو أن فك التشفير كان أول من لاحظ التغيير.)
سألت عن التوقيت والمنطق وراء مصراع المصنف وسوف يتم التحديث إذا كان لدي إجابة. ولكن من الغريب أن يحدث هذا في الوقت الذي انضمت فيه شركة OpenAI إلى العديد من الشركات الأخرى في "التزام طوعي" بقيادة البيت الأبيض لتطوير الذكاء الاصطناعي بطريقة أخلاقية وشفافة.
من بين الالتزامات التي تعهدت بها الشركات تطوير العلامات المائية القوية و / أو طرق الكشف. أو محاولة ذلك ، على أي حال: بينما كانت كل شركة تُحدث ضجيجًا بهذا المعنى خلال الأشهر الستة الماضية أو نحو ذلك ، لم نر بعد أي علامة مائية أو طريقة كشف لم يتم التحايل عليها بشكل تافه.
لا شك في أن أول من ينجز هذا العمل الفذ سيكافأ بسخاء (مثل هذه الأداة ، إذا كانت موثوقة حقًا ، ستكون لا تقدر بثمن في ظروف لا حصر لها) ، لذلك ربما يكون تضمينها في أي صفقة ذكاء اصطناعي زائدة عن الحاجة.
What's Your Reaction?
