Chi siamo

Disclaimer

Privacy Policy

L’Intelligenza Artificiale soffre d’allucinazioni? Ecco perché sono un pericolo per gli utenti

Foto dell'autore

Elinor Scoltock

Allucinazioni delle intelligenze artificiali generative: cosa sono, come avvengono e come mai sono effettivamente un problema per tutti.

Allucinazioni delle intelligenze artificiali generative, in che cosa consistono davvero e come si manifestano? Provengono da una serie di complicazioni, per le quali l’intelligenza artificiale interpreta le informazioni a cui ha accesso in modo errato. Si tratta di distorsioni della realtà che possono succedere per una serie di motivi, tra i quali un training incompleto, la mancanza di un contesto più ampio o anche delle limitazioni interne degli algoritmi che la generano.

allucinazioni intelligenza artificiale
Intelligenze artificiali che soffrono di allucinazioni: come succede (intellettualedissidente.it)

Le allucinazioni delle intelligenze artificiali sono di conseguenza dei risultati generati da loro che anche se si dimostrano coerenti in modo apparente, hanno informazioni incomplete o proprio sbagliate. C’è stato un esempio abbastanza recente di questo fenomeno che ha mosso critiche e dubbi nell’ambito del motore di ricerca di Bing.

Intelligenze artificiali che soffrono di allucinazioni: come mai succede

Bing ha prodotto un articolo di ricerca presuntamente attribuito a Claude Shannon, con tanto di citazioni che avrebbero dovuto dimostrare la veridicità di tale articolo. Ma il problema è che Claude Shannon non aveva mai scritto e prodotto questo articolo, e tutte le citazioni fornite da Bing si sono rivelate nient’altro che allucinazioni della sua intelligenza artificiale.

allucinazioni ia
Allucinazioni generate dalle intelligenze artificiali dei motori di ricerca (intellettualedissidente.it)

Le allucinazioni prodotte dalle intelligenze artificiali possono essere generate per una serie di motivi, ma ciò che ne consegue, che sono errori di informazioni, possono essere problemi reali: confusione in chi fa la ricerca, il rischio di fornire informazioni deviate e soprattutto la diffusione di disinformazione che è già una piaga che esiste su internet.

Come si può mitigare il problema delle allucinazioni delle IA

Ora il principale obiettivo è capire come questi problemi possono essere visti e affrontati. Una possibile soluzione potrebbe essere l’introduzione della supervisione di una persona reale che ha il compito di notare e rimuovere dati sbagliati, discrepanze e allucinazioni. Per ridurre questo tipo di rischi però, sarebbe necessario anche sviluppare altri sistemi di sicurezza più avanzati, dei sistemi che hanno come unico obiettivo evitare che l’intelligenza artificiale generativa prenda delle decisioni impulsive o addirittura sbagliate, prevenendo così dalla radice la generazione di allucinazioni.

Questo è per poter sempre garantire un uso corretto e sicuro dell’intelligenza artificiale nella vita di tutti i giorni e in vari contesti: così la veridicità delle informazioni verrebbe garantita e i potenziali danno verrebbero mitigati il più possibile. Così facendo, sarebbe possibile promuovere un utilizzo di intelligenza artificiale che sia responsabile e soprattutto, affidabile.

Impostazioni privacy