جهود علمية تتسارع لفهم الطريقة التي تتخذ بها أنظمة الذكاء الاصطناعي قراراتها.
تقرير بريطاني يشير إلى أن باحثين يعملون على تطوير أساليب جديدة لكشف ما يُعرف بـ«الصندوق الأسود» في نماذج التعلم الآلي المتقدمة.
مصطلح «الصندوق الأسود» يصف الأنظمة التي تقدم نتائج دقيقة دون أن يكون واضحًا الأساس الذي استندت إليه في الوصول إلى تلك النتائج، وهو ما أثار تساؤلات متزايدة مع توسع استخدام الذكاء الاصطناعي في مجالات حساسة.
فريق بحثي في معهد ماساتشوستس للتكنولوجيا يعمل على تطوير تقنيات تسمح للأنظمة الذكية بتفسير قراراتها بصورة أوضح، بهدف تعزيز الثقة بهذه التقنيات مع انتشارها في مجالات مثل الطب والنقل والبحث العلمي.
النهج الجديد يعتمد على نموذج يسمى «عنق الزجاجة المفاهيمي».
في هذا الأسلوب لا ينتقل النظام مباشرة من البيانات إلى النتيجة، بل يحدد أولًا مجموعة مفاهيم أو خصائص يمكن للبشر فهمها قبل إصدار القرار.
هذا الأسلوب يسمح بربط نتائج النظام بعوامل واضحة يمكن تفسيرها، ما يساعد المستخدمين والباحثين على فهم أسباب القرارات بدقة أكبر.
الباحثون يرون أن هذه المقاربة قد تقود إلى تطوير أنظمة ذكاء اصطناعي أكثر شفافية وموثوقية، كما تساعد في اكتشاف الأخطاء أو التحيزات المحتملة داخل الخوارزميات.
