تقدم CalypsoAI الاختبار والتحقق من صحة نماذج ML المستخدمة من قبل TSA

تعرف على كيفية قيام مؤسستك بإنشاء تطبيقات لأتمتة المهام واكتساب الكفاءات باستخدام أدوات التعليمات البرمجية المنخفضة / بدون تعليمات برمجية يوم 9 نوفمبر في مؤتمر Virtual Low-Code / No-Code Summit. سجل هنا.

تجد نماذج الذكاء الاصطناعي (AI) طريقها بشكل متزايد إلى الجوانب الحاسمة لحالات استخدام المؤسسات والاعتماد على نطاق واسع في جميع أنحاء العالم.

إحدى المجالات التي يجد فيها الذكاء الاصطناعي منزلاً هي إدارة أمن النقل (TSA) ، والتي تتمثل إحدى مسؤولياتها في فحص الأمتعة في مطارات الولايات المتحدة. هناك مبادرة جارية حاليًا داخل مديرية العلوم والتكنولوجيا بوزارة الأمن الداخلي (DHS) ، وهو برنامج يُعرف باسم الفحص في السرعة (SaS) ، ومن المقرر أن ينفذ الذكاء الاصطناعي بشكل ملحوظ لتسريع عملية فحص الأمتعة.

يتمثل جزء من تطوير نظام التصفية هذا في اختبار تكامل نماذج الذكاء الاصطناعي والتحقق من صحتها ، من حيث الموثوقية والقدرة على مقاومة الهجمات المحتملة من الذكاء الاصطناعي المعاكس. هذا هو المكان الذي تستخدم فيه وزارة الأمن الداخلي تقنية VESPR Validate من CalypsoAI.

قال نيل سيريبرياني ، الرئيس التنفيذي لشركة CalypsoAI ، لموقع VentureBeat: "نحن نركز حقًا على اختبار نماذج التعلم الآلي (ML) والتحقق منها حتى يمكن نشرها بأمان".

حدث

رأس منخفض / لا يوجد كود

انضم إلى كبار القادة اليوم في قمة Code Low / No-Code تقريبًا في 9 نوفمبر. اشترك للحصول على بطاقتك المجانية اليوم. سجل هنا تحديات اختبار نماذج الذكاء الاصطناعي للاستخدام الإنتاجي

وجدت دراسة من مؤسسة Gartner نُشرت في أغسطس أن نصف نماذج الذكاء الاصطناعي التي تم تصنيعها فقط تدخل حيز الإنتاج فعليًا.

هناك عدة أسباب لذلك ، بما في ذلك مشكلات الاختبار والتحقق من الصحة. وفقًا لـ Serebryany ، يجب أن يأخذ اختبار نماذج الذكاء الاصطناعي والتحقق منها في الاعتبار العوامل البشرية والتقنية. من أجل مساعدة شخص ما على اكتساب الثقة التي يحتاجها لنشر نموذج للإنتاج ، من الضروري معالجة الجانب الإنساني. تشمل العوامل البشرية القدرة على توصيل المعلومات حول مكان عمل النموذج ، وأين لا يعمل ، وما هي نقاط الضعف فيه. على المستوى التقني ، قال سيريبرياني إن هناك حاجة للمساعدة في جعل النماذج قوية ومتينة قدر الإمكان.

قبل بدء CalypsoAI ، عمل Serebryany في الحكومة ، حيث لاحظ اهتمامًا متزايدًا بالتعلم الآلي (ML). ما رآه مرارًا وتكرارًا هو مخاوف أمنية ، بما في ذلك الحاجة إلى ضمان عدم تأثير هجمات التعلم الآلي العدائية سلبًا على النموذج. تستخدم الهجمات العدائية ML مجموعة متنوعة من الأساليب لخداع النماذج للحصول على النتيجة المرجوة. طلب أعمال قوي على اختبار الذكاء الاصطناعي والتحقق منه

إن الحاجة إلى اختبار الذكاء الاصطناعي والتحقق منه ، فضلاً عن الحماية من الذكاء الاصطناعي العدائي ، تتجاوز حالات الاستخدام الحكومي.

قال سيريبرياني إن شركته شهدت مؤخرًا طلبًا متزايدًا من الشركات. في الواقع ، في يوليو ، أطلقت Gartner على الشركة لقب "Cool Vendor" نظرًا لإمكانية تطوير الذكاء الاصطناعي في إمكانات المؤسسة.

"المنظمات ...