Echipa MIT învață modele AI ceea ce nu știau încă.
Aplicarea inteligenței artificiale (AI) este în creștere rapidă și devine tot mai mult integrată în viața noastră de zi cu zi și în industrii cu mize mari, precum sănătatea, telecomunicațiile și energia. Însă, odată cu o mare putere vine și o mare responsabilitate: sistemele AI fac uneori greșeli sau oferă răspunsuri incerte care pot avea consecințe majore.
Themis AI de la MIT, co-fondat și condus de profesoara Daniela Rus de la laboratorul CSAIL, oferă o soluție revoluționară. Tehnologia lor permite modelelor AI să „știe ce nu știu”. Aceasta înseamnă că sistemele AI pot indica singure când sunt nesigure cu privire la predicțiile lor, permițând astfel evitarea erorilor înainte ca acestea să provoace daune.
De ce este acest lucru atât de important?
Multe modele AI, chiar și cele avansate, pot manifesta uneori așa-numitele „halucinații” — oferă răspunsuri eronate sau nefondate. În sectoare în care deciziile au o greutate considerabilă, cum ar fi diagnosticul medical sau condusul autonom, acest lucru poate avea consecințe dezastruoase. Themis AI a dezvoltat Capsa, o platformă care aplică cuantificarea incertitudinii: măsoară și cuantifică incertitudinea rezultatelor AI într-un mod detaliat și fiabil.
Cum funcționează?
Prin învățarea modelelor să fie conștiente de incertitudine, acestea pot fi dotate cu etichete de risc sau încredere pentru rezultatele lor. De exemplu: o mașină autonomă poate indica faptul că nu este sigură cu privire la o situație și, prin urmare, activează intervenția umană. Acest lucru nu numai că sporește siguranța, dar crește și încrederea utilizatorilor în sistemele AI.
- La integrarea cu PyTorch, modelul este înfășurat prin
capsa_torch.wrapper(), iar rezultatul constă atât în predicție, cât și în risc:
Pentru NetCare și clienții săi, această tehnologie reprezintă un pas uriaș înainte. Putem livra aplicații AI care nu sunt doar inteligente, ci și sigure și mai predictibile, cu o șansă mai mică de halucinații. Ajută organizațiile să ia decizii mai bine fundamentate și să reducă riscurile la implementarea AI în aplicații critice pentru afaceri.
Concluzie
Echipa MIT demonstrează că viitorul AI nu se referă doar la a deveni mai inteligent, ci mai ales la a funcționa mai sigur și mai corect. La NetCare, credem că AI devine cu adevărat valoros doar atunci când este transparent cu privire la propriile limitări. Cu instrumente avansate de cuantificare a incertitudinii precum Capsa, puteți aduce și dumneavoastră această viziune în practică.
Nederlands
English
Deutsch
Français
Español
Italiano
Português