Екип от MIT учи AI модели на неща, които те все още не знаят.
Приложението на изкуствения интелект (AI) расте бързо и все повече се преплита в ежедневието ни и в индустрии с високи залози като здравеопазване, телекомуникации и енергетика. Но с голяма сила идва и голяма отговорност: AI системите понякога допускат грешки или дават несигурни отговори, които могат да имат сериозни последици.
Themis AI на MIT, съоснована и ръководена от професор Даниела Рус от лабораторията CSAIL, предлага пробивна технология. Тяхната технология дава възможност на AI моделите да „знаят какво не знаят“. Това означава, че AI системите могат сами да посочат кога са несигурни относно своите прогнози, което позволява да се предотвратят грешки, преди да нанесат вреда.
Защо това е толкова важно?
Много AI модели, дори и напредналите, понякога могат да проявяват т.нар. „халюцинации“ – те дават грешни или неоснователни отговори. В сектори, където решенията са от голяма тежест, като медицинска диагностика или автономно шофиране, това може да има катастрофални последици. Themis AI разработи Capsa – платформа, която прилага количествено определяне на несигурността (uncertainty quantification): тя измерва и количествено определя несигурността на AI резултатите по детайлен и надежден начин.
Как работи?
Чрез добавяне на осъзнаване на несигурността към моделите, те могат да предоставят своите резултати с етикет за риск или надеждност. Например: автономна кола може да посочи, че не е сигурна за дадена ситуация и следователно да задейства човешка намеса. Това не само повишава безопасността, но и доверието на потребителите в AI системите.
- При интегриране с PyTorch, обвиването на модела става чрез
capsa_torch.wrapper()като изходът се състои както от прогнозата, така и от риска:
За NetCare и нейните клиенти тази технология представлява огромна крачка напред. Ние можем да предоставяме AI приложения, които са не само интелигентни, но и безопасни и по-предсказуеми, с по-малък шанс за халюцинации. Това подпомага организациите при вземането на по-обосновани решения и намаляването на рисковете при внедряването на AI в критични за бизнеса приложения.
Заключение
MIT екип показва, че бъдещето на ИИ не е само в това да става по-умен, но преди всичко в това да функционира по-безопасно и по-справедливо. В NetCare вярваме, че ИИ става наистина ценен, когато е прозрачен относно собствените си ограничения. С усъвършенствани инструменти за количествено определяне на несигурността като Capsa, можете да приложите тази визия на практика.
