L'équipe MIT apprend aux modèles d'IA ce qu'ils ignoraient.

L’application de l’intelligence artificielle (IA) connaît une croissance rapide et s’intègre de plus en plus dans notre vie quotidienne et dans des secteurs à enjeux élevés tels que la santé, les télécommunications et l’énergie. Mais qui dit grand pouvoir dit aussi grande responsabilité : les systèmes d’IA commettent parfois des erreurs ou fournissent des réponses incertaines qui peuvent avoir des conséquences majeures.

Themis AI du MIT, cofondé et dirigé par la professeure Daniela Rus du laboratoire CSAIL, propose une solution révolutionnaire. Leur technologie permet aux modèles d’IA de « savoir ce qu’ils ne savent pas ». Cela signifie que les systèmes d’IA peuvent eux-mêmes indiquer quand ils sont incertains de leurs prédictions, évitant ainsi les erreurs avant qu’elles ne causent des dommages.

Pourquoi est-ce si important ?
De nombreux modèles d’IA, même les plus avancés, peuvent parfois présenter des « hallucinations » – ils fournissent des réponses erronées ou non fondées. Dans les secteurs où les décisions ont un poids considérable, comme le diagnostic médical ou la conduite autonome, cela peut avoir des conséquences désastreuses. Themis AI a développé Capsa, une plateforme qui applique l’« uncertainty quantification » : elle mesure et quantifie l’incertitude des sorties de l’IA de manière détaillée et fiable.

 Comment cela fonctionne-t-il ?
En dotant les modèles d’une conscience de l’incertitude, il est possible de joindre un label de risque ou de confiance aux sorties. Par exemple : une voiture autonome pourrait indiquer qu’elle n’est pas certaine d’une situation et activer une intervention humaine. Cela augmente non seulement la sécurité, mais aussi la confiance des utilisateurs dans les systèmes d’IA.

Conclusion
L’équipe du MIT équipe démontre que l’avenir de l’IA ne consiste pas seulement à devenir plus intelligent, mais surtout à fonctionner de manière plus sûre et plus équitable. Chez NetCare, nous croyons que l’IA n’acquiert une réelle valeur que lorsqu’elle est transparente quant à ses propres limites. Avec des outils avancés d’« uncertainty quantification » comme Capsa, vous pouvez également mettre cette vision en pratique.