MIT-team lærer AI-modeller, hvad de endnu ikke vidste.
Anvendelsen af kunstig intelligens (AI) vokser hurtigt og bliver i stigende grad vævet ind i vores dagligdag og kritiske industrier som sundhedsvæsen, telekommunikation og energi. Men med stor magt følger også et stort ansvar: AI-systemer laver undertiden fejl eller giver usikre svar, hvilket kan have store konsekvenser.
MIT’s Themis AI, medstiftet og ledet af professor Daniela Rus fra CSAIL-laboratoriet, tilbyder en banebrydende løsning. Deres teknologi gør AI-modeller i stand til at 'vide, hvad de ikke ved'. Det betyder, at AI-systemer selv kan angive, hvornår de er usikre på deres forudsigelser, hvilket kan forhindre fejl, før de forårsager skade.
Hvorfor er dette så vigtigt?
Mange AI-modeller, selv avancerede, kan undertiden udvise såkaldte 'hallucinationer' – de giver forkerte eller ubegrundede svar. I sektorer, hvor beslutninger har stor vægt, såsom medicinsk diagnose eller autonom kørsel, kan dette have katastrofale følger. Themis AI har udviklet Capsa, en platform, der anvender 'uncertainty quantification': den måler og kvantificerer usikkerheden i AI-output på en detaljeret og pålidelig måde.
Hvordan virker det?
Ved at give modellerne 'uncertainty awareness' kan de forsyne outputs med en risiko- eller troværdighedsmærkat. For eksempel kan en selvkørende bil angive, at den er usikker på en situation, og derfor aktivere menneskelig indgriben. Dette øger ikke kun sikkerheden, men også brugernes tillid til AI-systemer.
- Ved integration med PyTorch sker indpakningen af modellen via
capsa_torch.wrapper()hvor outputtet består af både forudsigelsen og risikoen:
For NetCare og vores kunder repræsenterer denne teknologi et enormt fremskridt. Vi kan levere AI-applikationer, der ikke blot er intelligente, men også sikre og mere forudsigelige med mindre risiko for hallucinationer. Det hjælper organisationer med at træffe bedre informerede beslutninger og reducere risici ved implementering af AI i forretningskritiske applikationer.
Konklusion
MIT Team viser, at fremtiden for AI ikke kun handler om at blive klogere, men i høj grad også om at fungere mere sikkert og retfærdigt. Hos NetCare mener vi, at AI først bliver virkelig værdifuld, når den er gennemsigtig omkring sine egne begrænsninger. Med avancerede værktøjer til usikkerhedskvantificering som Capsa kan du omsætte denne vision til praksis.
