Η ομάδα του MIT διδάσκει μοντέλα Τεχνητής Νοημοσύνης αυτά που δεν γνώριζαν.

Η εφαρμογή της τεχνητής νοημοσύνης (AI) αναπτύσσεται ραγδαία και ενσωματώνεται όλο και περισσότερο στην καθημερινή μας ζωή και σε κρίσιμους κλάδους όπως η υγειονομική περίθαλψη, οι τηλεπικοινωνίες και η ενέργεια. Ωστόσο, με τη μεγάλη δύναμη έρχεται και μεγάλη ευθύνη: τα συστήματα AI κάνουν μερικές φορές λάθη ή δίνουν αβέβαιες απαντήσεις που μπορούν να έχουν σοβαρές συνέπειες.

Το Themis AI του MIT, συνιδρυτής και επικεφαλής του οποίου είναι η καθηγήτρια Daniela Rus από το εργαστήριο CSAIL, προσφέρει μια πρωτοποριακή λύση. Η τεχνολογία τους επιτρέπει στα μοντέλα AI να «γνωρίζουν τι δεν γνωρίζουν». Αυτό σημαίνει ότι τα συστήματα AI μπορούν να υποδεικνύουν πότε είναι αβέβαια σχετικά με τις προβλέψεις τους, αποτρέποντας έτσι λάθη πριν προκαλέσουν ζημιά.

Γιατί είναι αυτό τόσο σημαντικό;
Πολλά μοντέλα AI, ακόμη και τα προηγμένα, μπορούν μερικές φορές να παρουσιάσουν τις λεγόμενες «παραισθήσεις»—δίνουν λανθασμένες ή αβάσιμες απαντήσεις. Σε τομείς όπου οι αποφάσεις έχουν μεγάλη βαρύτητα, όπως η ιατρική διάγνωση ή η αυτόνομη οδήγηση, αυτό μπορεί να έχει καταστροφικές συνέπειες. Το Themis AI ανέπτυξε το Capsa, μια πλατφόρμα που εφαρμόζει την ποσοτικοποίηση της αβεβαιότητας: μετρά και ποσοτικοποιεί την αβεβαιότητα των εξόδων της AI με λεπτομερή και αξιόπιστο τρόπο.

 Πώς λειτουργεί;
Ενσωματώνοντας την επίγνωση της αβεβαιότητας στα μοντέλα, μπορούν να επισυνάψουν στις εξόδους τους μια ετικέτα κινδύνου ή εμπιστοσύνης. Για παράδειγμα, ένα αυτόνομο όχημα μπορεί να υποδείξει ότι δεν είναι σίγουρο για μια κατάσταση και, ως εκ τούτου, να ενεργοποιήσει ανθρώπινη παρέμβαση. Αυτό αυξάνει όχι μόνο την ασφάλεια, αλλά και την εμπιστοσύνη των χρηστών στα συστήματα AI.

Συμπέρασμα
Η ομάδα του MIT δείχνει ότι το μέλλον της AI δεν αφορά μόνο την εξυπνότερη λειτουργία, αλλά κυρίως την ασφαλέστερη και δικαιότερη λειτουργία. Στην NetCare, πιστεύουμε ότι η AI γίνεται πραγματικά πολύτιμη μόνο όταν είναι διαφανής σχετικά με τους δικούς της περιορισμούς. Με προηγμένα εργαλεία ποσοτικοποίησης αβεβαιότητας όπως το Capsa, μπορείτε επίσης να υλοποιήσετε αυτό το όραμα στην πράξη.