فريق MIT يعلّم نماذج الذكاء الاصطناعي ما لم تكن تعرفه

يتزايد تطبيق الذكاء الاصطناعي (AI) بسرعة ويتشابك بشكل متزايد مع حياتنا اليومية والصناعات الحساسة مثل الرعاية الصحية والاتصالات والطاقة. ولكن مع القوة العظيمة تأتي مسؤولية عظيمة: قد ترتكب أنظمة الذكاء الاصطناعي أخطاء أو تقدم إجابات غير مؤكدة قد تكون لها عواقب وخيمة.

تقدم Themis AI التابعة لمعهد ماساتشوستس للتكنولوجيا، والتي شارك في تأسيسها وقيادتها البروفيسورة دانييلا روس من مختبر CSAIL، حلاً رائداً. تتيح تقنيتهم لنماذج الذكاء الاصطناعي أن 'تعرف ما لا تعرفه'. وهذا يعني أن أنظمة الذكاء الاصطناعي يمكنها الإشارة بنفسها عندما تكون غير متأكدة من تنبؤاتها، مما يمنع الأخطاء قبل أن تسبب الضرر.

لماذا هذا مهم جداً؟
العديد من نماذج الذكاء الاصطناعي، حتى المتقدمة منها، يمكن أن تظهر أحيانًا ما يسمى بـ 'الهلوسات' - حيث تقدم إجابات خاطئة أو غير مؤسسة. في القطاعات التي تكون فيها القرارات ذات أهمية قصوى، مثل التشخيص الطبي أو القيادة الذاتية، يمكن أن يكون لذلك عواقب وخيمة. طورت Themis AI منصة Capsa التي تطبق قياس عدم اليقين (uncertainty quantification): فهي تقيس وتحدد كمية عدم اليقين في مخرجات الذكاء الاصطناعي بطريقة مفصلة وموثوقة.

 كيف يعمل؟
من خلال تزويد النماذج بوعي بعدم اليقين، يمكنها إرفاق مخرجاتها بتصنيف للمخاطر أو الموثوقية. على سبيل المثال: يمكن لسيارة ذاتية القيادة أن تشير إلى أنها غير متأكدة من موقف ما، وبالتالي تفعيل تدخل بشري. هذا لا يزيد من السلامة فحسب، بل يزيد أيضاً من ثقة المستخدمين في أنظمة الذكاء الاصطناعي.

الخاتمة
فريق معهد ماساتشوستس للتكنولوجيا الفريق يُظهر أن مستقبل الذكاء الاصطناعي لا يتعلق فقط بأن يصبح أكثر ذكاءً، بل يتعلق بشكل أساسي بالعمل بأمان وعدالة أكبر. في NetCare، نؤمن بأن الذكاء الاصطناعي يصبح ذا قيمة حقيقية فقط عندما يكون شفافًا بشأن حدوده الخاصة. باستخدام أدوات متقدمة لقياس عدم اليقين مثل Capsa، يمكنك أيضًا تطبيق هذه الرؤية عمليًا.