Az MIT csapata olyan dolgokat tanít az AI modelleknek, amiket még nem tudtak.
A mesterséges intelligencia (MI) alkalmazása gyorsan növekszik, és egyre inkább átszövi mindennapi életünket, valamint a nagy kockázatú iparágakat, mint az egészségügy, a telekommunikáció és az energia. De nagy erővel nagy felelősség is jár: az MI-rendszerek néha hibáznak, vagy bizonytalan válaszokat adnak, amelyek komoly következményekkel járhatnak.
A MIT Themis AI-ja, amelyet Daniela Rus professzor, a CSAIL labor társalapítója és vezetője vezet, áttörést hozó megoldást kínál. Technológiájuk lehetővé teszi az MI-modellek számára, hogy „tudják, mit nem tudnak”. Ez azt jelenti, hogy az MI-rendszerek maguk jelezhetik, ha bizonytalanok az előrejelzéseikkel kapcsolatban, így a hibák megelőzhetők, mielőtt kárt okoznának.
Miért olyan fontos ez?
Sok MI-modell, még a fejlettebbek is, néha úgynevezett „hallucinációkat” mutathatnak – téves vagy megalapozatlan válaszokat adnak. Azokban az ágazatokban, ahol a döntések súlyosak, mint például az orvosi diagnosztika vagy az autonóm vezetés, ez katasztrofális következményekkel járhat. A Themis AI kifejlesztette a Capsa-t, egy olyan platformot, amely az „uncertainty quantification”-t (bizonytalanság kvantifikálását) alkalmazza: részletesen és megbízhatóan méri és kvantifikálja az MI kimenetének bizonytalanságát.
Hogyan működik?
A modellek bizonytalanságtudatosságának beépítésével a kimeneteket kockázati vagy megbízhatósági címkével láthatják el. Például: egy önvezető autó jelezheti, hogy nem biztos egy helyzetben, és ezért emberi beavatkozást aktiválhat. Ez nemcsak a biztonságot növeli, hanem a felhasználók bizalmát is növeli az AI-rendszerekben.
- A PyTorch-hoz való integráció során a modell becsomagolása a következőképpen történik:
capsa_torch.wrapper()ahol a kimenet mind az előrejelzést, mind a kockázatot tartalmazza:
A NetCare és ügyfelei számára ez a technológia hatalmas előrelépést jelent. Olyan MI-alkalmazásokat tudunk szállítani, amelyek nemcsak intelligensek, hanem biztonságosabbak és jobban előre láthatók, kevesebb hallucinációval. Segíti a szervezeteket a megalapozottabb döntések meghozatalában és a kockázatok csökkentésében az üzletkritikus alkalmazásokba történő MI bevezetése során.
Következtetés
Az MIT csapat megmutatja, hogy az AI jövője nem csupán az okosabbá válásról szól, hanem elsősorban a biztonságosabb és tisztességesebb működésről. A NetCare-nél hiszünk abban, hogy az AI csak akkor válik igazán értékesvé, ha átlátható a saját korlátaival kapcsolatban. Az olyan fejlett bizonytalanság-kvantifikációs eszközökkel, mint a Capsa, Ön is gyakorlatba ültetheti ezt a víziót.
