Tim tal-MIT jitgħallem lill-mudelli tal-AI dak li gġadhom ma jafux.
L-applikazzjoni tal-intelliġenza artifiċjali (AI) qed tikber malajr u qed issir dejjem aktar imħallta mal-ħajja tagħna ta' kuljum u ma' industriji b'riskju għoli bäl-kura tas-saħiħa, it-telekomunikazzjoni u l-enerġija. Iżda ma' qawwa kbira tiě għandha wkoll responsabbiltà kbira: is-sistemi tal-AI kultant jagħmlu żbalji jew jagħtu tweġibijiet inċerti li jistġġu jkollhom konsegwenzi kbar.
Themis AI tal-MIT, ko-fundata u mmexxija mill-Professur Daniela Rus mil-laboratorju CSAIL, qed toffri soluzzjoni innovattiva. It-teknoloġija tagħhom tippermetti lill-mudelli tal-AI li jkunu jafu “li jafu x’ma jafux”. Dan ifisser li s-sistemi tal-AI jistġġu jindikaw huma stess meta jkunu inċerti dwar il-previżjionijiet tagħhom, u bħeģa jiġu evitati Żalġġijiet qabel ma jikkawżaw ħsara.
Għaliex dan huwa daqshekk importanti?
Bosta mudelli tal-AI, anke dawk avvanzati, kultant jistġġu juru s-sġejjiet “alluċina”—jagħtu tweġibijiet Żaljati jew mingħajr baż. F'setturi fejn id-deċiżjionijiet huma ta' piż kbir, bċal-kundizzjonament mediku jew is-sewqan awtonomu, dan jista' jkollu konsegwenzi diżastrużi. Themis AI ħolqot lil Capsa, pjattaforma li tapplika l-kejl tal-inċertezza (uncertainty quantification): tkejjel u tikkwantifika l-inċertezza tal-output tal-AI b'mod dettaljat u affidabbli.
Kif taħdem?
Billi l-mudelli jiġu mgħallma biex ikunu konxji tal-inċertezza, jistgħu jipprovdu l-outputs b'tikketta ta' riskju jew affidabbiltà. Pereżempju: karozza li ssuq waħedha tista' tindika li mhix ċerta dwar sitwazzjoni u għalhekk tattiva intervent uman. Dan mhux biss iżid is-sigurtà, iżda wkoll il-fiduċja tal-utenti fis-sistemi tal-AI.
- Meta l-integrazzjoni ma' PyTorch, l-ippakkettjar tal-mudell permezz ta'
capsa_torch.wrapper()fejn l-output jikkonsisti kemm mit-tbassir kif ukoll mir-riskju:
Għal NetCare u l-klijenti tagħha, din it-teknoloġija tfisser pass 'il quddiem enormi. Aħna kapaċi nwasslu applikazzjonijiet tal-AI li mhumiex biss intelliġenti, iżda wkoll siguri u aktar prevedibbli b'inqas ċans ta' alluċinazzjonijiet. Dan jgħin lill-organizzazzjonijiet biex jieħdu deċiżjonijiet aktar infurmati u jnaqqsu r-riskji meta jintroduċu l-AI f'applikazzjonijiet kritiċi għan-negozju.
Konklużjoni
L-MIT tim juri li l-futur tal-AI mhux biss qed idur madwar li ssir aktar intelliġenti, iżda fuq kollox dwar li topera b'mod aktar sigur u ġust. F'NetCare, aħna nemmnu li l-AI ssir tassew siewja biss meta tkun trasparenti dwar il-limitazzjonijiet tagħha stess. Bi strumenti avvanzati ta' kwantifikazzjoni tal-inċertezza bħal Capsa, tista' wkoll twettaq dik il-viżjoni fil-prattika.
