MIT csapat tanít az AI modelleknek olyasmit, amit még nem tudtak.
A mesterséges intelligencia (MI) alkalmazása gyorsan növekszik, és egyre inkább átszövi mindennapi életünket, valamint az olyan kritikus iparágakat, mint az egészségügy, a távközlés és az energia. De nagy erővel nagy felelősség is jár: az MI-rendszerek néha hibáznak, vagy bizonytalan válaszokat adnak, amelyek komoly következményekkel járhatnak.
A MIT Themis AI-ja, amelyet Daniela Rus professzor (CSAIL labor) társalapított és vezet, áttörést hozó megoldást kínál. Technológiájuk lehetővé teszi az MI-modellek számára, hogy „tudják, mit nem tudnak”. Ez azt jelenti, hogy az MI-rendszerek maguk jelezhetik, ha bizonytalanok a jóslataikkal kapcsolatban, ezzel megelőzve a károkat, mielőtt azok bekövetkeznének.
Miért olyan fontos ez?
Sok MI-modell, még a fejlettebbek is, időnként úgynevezett „hallucinációkat” produkálhatnak – hibás vagy megalapozatlan válaszokat adnak. Azokban az ágazatokban, ahol a döntések súlyos következményekkel járnak, mint például az orvosi diagnosztika vagy az autonóm vezetés, ez katasztrofális lehet. A Themis AI kifejlesztette a Capsa-t, egy olyan platformot, amely alkalmazza az „uncertainty quantification”-t (bizonytalanság kvantifikálása): részletes és megbízható módon méri és kvantifikálja az MI kimeneteinek bizonytalanságát.
Hogyan működik?
A modellek bizonytalanságtudatosságának beépítésével a kimeneteket kockázati vagy megbízhatósági címkével láthatják el. Például egy önvezető autó jelezheti, hogy nem biztos egy helyzetben, és ezért emberi beavatkozást aktiválhat. Ez nemcsak a biztonságot növeli, hanem a felhasználók bizalmát is az MI-rendszerekben.
- A PyTorch-hoz való integráció során a modell becsomagolása a következőképpen történik:
capsa_torch.wrapper()ahol a kimenet mind a jóslatot, mind a kockázatot tartalmazza:
A NetCare és ügyfelei számára ez a technológia hatalmas előrelépést jelent. Olyan MI-alkalmazásokat tudunk szállítani, amelyek nemcsak intelligensek, hanem biztonságosabbak és jobban kiszámíthatóak is, kevesebb hallucinációval. Segít a szervezeteknek megalapozottabb döntéseket hozni, és csökkenti a kockázatokat az üzletkritikus alkalmazásokban történő MI bevezetése során.
Következtetés
A MIT csapat megmutatja, hogy az MI jövője nem csupán az okosabbá válásról szól, hanem elsősorban a biztonságosabb és tisztességesebb működésről. Mi, a NetCare-nél hiszünk abban, hogy az MI csak akkor válik igazán értékelhetővé, ha átlátható a saját korlátaival kapcsolatban. Az olyan fejlett bizonytalanság-kvantifikáló eszközökkel, mint a Capsa, Ön is gyakorlatba ültetheti ezt a víziót.
