بينما تتسارع تطبيقات الذكاء الاصطناعي في مجالات متعددة مثل الرعاية الصحية والطاقة، تبرز تساؤلات حول مدى موثوقية هذه الأنظمة. في هذا السياق، قدمت شركة Themis AI فكرة ثورية تركز على تحدي مركزي في عالم الذكاء الاصطناعي، وهو أهمية الاعتراف بعدم المعرفة. تأسست Themis AI في عام 2021 بواسطة فريق من الباحثين في MIT، بهدف تطوير حلول تكنولوجية تعزز قدرة النماذج على التعرف على حدود معرفتها.
الذكاء الاصطناعي والثقة المفرطة
مقال له علاقة: مايكروسوفت تطور Notepad بذكاء اصطناعي مذهل أبرز المميزات
تعاني العديد من نماذج الذكاء الاصطناعي، مثل نموذج غروك وتشات جي بي تي، من مشاكل تتعلق بما يعرف بـ “الهلاوس”. هذه الظاهرة تؤدي إلى إنتاج معلومات مضللة ولكن بثقة زائفة، مما قد يسبب مخاطر جسيمة خصوصًا في مجالات حيوية كالرعاية الصحية.
كيف تساعد “كابسا” في تحسين الأداء؟
لمواجهة هذه التحديات، تم تطوير منصة “كابسا”، وهي أداة تعمل كآلية “فحص ذاتي”. تُدمج هذه الأداة بسهولة مع أي نموذج خلال مراحل تطويره، حيث تراقب الأداء وتقوم بتنبيه المستخدم عند ظهور أي معلومات غير موثوقة. النتائج حتى الآن تبين نجاح Themis AI في تجنب الأخطاء المكلفة.
شوف كمان: هاتفك صاروخ بيديك! Xiaomi Poco X4 GT وحش الألعاب بتصميم فخم وأداء خارق
تمكن كابسا الشركات من تعزيز دقة تحليل البيانات، كما حدث مع شركات النفط والغاز. بالإضافة إلى ذلك، تساهم كابسا في تحسين تفاعل الروبوتات المحادثة؛ حيث تلتزم بالصمت في حالات عدم تأكيد المعلومات بدلاً من تقديم محتوى مضلل.
مستقبل الذكاء الاصطناعي
تتجاوز تطبيقات Themis AI حدود اكتشاف الأدوية؛ إذ تساعد أيضًا على تقييم موثوقية البيانات المستخدمة في أي استنتاج. ومع تزايد الاعتماد على الذكاء الاصطناعي في مجالات حساسة، يصبح من الضروري أن تتميز هذه الأنظمة بقدر من الوعي الذاتي. وفي نهاية المطاف، تعكس رؤية Themis AI ضرورة تركيز الجهود على الوعي بمعرفة الحدود بدلاً من مجرد تحسين مستوى الذكاء.