Tým MIT učí modely AI to, co ještě nevěděly.
Používání umělé inteligence (AI) rychle roste a stále více se prolíná s naším každodenním životem a klíčovými odvětvími, jako je zdravotnictví, telekomunikace a energetika. Ale s velkou mocí přichází i velká odpovědnost: systémy AI někdy dělají chyby nebo poskytují nejisté odpovědi, které mohou mít vážné důsledky.
Themis AI z MIT, spoluzaložená a vedená profesorkou Danielou Rus z laboratoře CSAIL, nabízí průlomové řešení. Jejich technologie umožňuje modelům AI, aby „věděly, co nevědí“. To znamená, že systémy AI mohou samy signalizovat, kdy si nejsou jisté svými předpověďmi, čímž lze předejít chybám dříve, než způsobí škodu.
Proč je to tak důležité?
Mnoho modelů AI, i těch pokročilých, může někdy vykazovat tzv. „chalucinace—poskytují chybné nebo nepodložené odpovědi. V odvětvích, kde jsou rozhodnutí zásadní, jako je lékařská diagnostika nebo autonomní řízení, to může mít katastrofální následky. Themis AI vyvinula Capsa, platformu, která aplikuje kvantifikaci nejistoty (uncertainty quantification): měří a kvantifikuje nejistotu výstupu AI podrobným a spolehlivým způsobem.
Jak to funguje?
Tím, že modelům vštípíme povědomí o nejistotě, mohou být jejich výstupy opatřeny štítkem rizika nebo spolehlivosti. Například autonomní vozidlo může uvést, že si není jisté ohledně situace, a proto aktivovat zásah člověka. To nejen zvyšuje bezpečnost, ale také důvěru uživatelů v systémy umělé inteligence.
- Při integraci s PyTorch se model zabalí pomocí
capsa_torch.wrapper()kde výstupem je jak předpověď, tak riziko:
Pro společnost NetCare a její klienty představuje tato technologie obrovský krok vpřed. Dokážeme dodávat aplikace umělé inteligence, které jsou nejen inteligentní, ale také bezpečné a lépe předvídatelné s menší pravděpodobností halucinací. Pomáhá organizacím činit informovanější rozhodnutí a snižovat rizika při zavádění AI do kritických podnikových aplikací.
Závěr
MIT tým ukazuje, že budoucnost umělé inteligence se netýká jen toho, aby se stala chytřejší, ale především toho, aby fungovala bezpečněji a spravedlivěji. My v NetCare věříme, že umělá inteligence se stává skutečně cennou teprve tehdy, když je transparentní ohledně svých vlastních omezení. S pokročilými nástroji pro kvantifikaci nejistoty, jako je Capsa, můžete tuto vizi uvést i do praxe.
