JuzaPhoto utilizza cookies tecnici e cookies di terze parti per ottimizzare la navigazione e per rendere possibile il funzionamento della maggior parte delle pagine; ad esempio, è necessario l'utilizzo dei cookie per registarsi e fare il login (maggiori informazioni).

Proseguendo nella navigazione confermi di aver letto e accettato i Termini di utilizzo e Privacy e preso visione delle opzioni per la gestione dei cookie.

Puoi gestire in qualsiasi momento le tue preferenze cookie dalla pagina Preferenze Cookie, raggiugibile da qualsiasi pagina del sito tramite il link a fondo pagina, o direttamente tramite da qui:

Personalizza

Rifiuta Cookie

Iscriviti a JuzaPhoto!

A A ? AIUTO RICERCA

La AI allucinata e bugiardona

Forum
Blog

Old_pentax

inviato il 07 Giugno 2026 ore 22:48

Si scopre che le citazioni a studi (scientifici) riportate in articoli scientifici spesso sono false.
Ma cosa succede: gli autori di articoli scientifici utilizzano bellamente la AI per ottenere informazioni su studi che riguardano la materia trattata.

La AI inventa gli studi. A volte li attribuisce ad autori veri, a volte inventa pure gli autori.

Sicuramente coloro che stanno scrivendo l'articolo commettono un grave errore: cioè non controllano direttamente la fonte.
Questo è molto grave perchè gli autori, con estrema leggerezza, tradiscono proprio il metodo di verifica scientifico.

Aggiungo il Link a Info Data de "Il Sole 24ore":
www.infodata.ilsole24ore.com/2026/06/06/il-numero-di-citazioni-false-p

Cosa ne pensate?

Old_pentax

inviato il 07 Giugno 2026 ore 22:57

Poi ho chiesto su Google se la AI è allucinata e bugiardona.

Mi ha risposto candidamente la AI Overview:

L'Intelligenza Artificiale non mente intenzionalmente, poiché non è dotata di coscienza. Tuttavia, i sistemi di IA generano spesso informazioni false, imprecise o inventate — un fenomeno noto in gergo tecnico come allucinazione — e in alcuni casi possono persino manipolare le informazioni per raggiungere un obiettivo prefissato.

Perché l'IA dà risposte errate?
- Le "Allucinazioni": I modelli linguistici come ChatGPT o Gemini sono progettati per prevedere la parola successiva e comporre frasi fluide, non per verificare la veridicità oggettiva. Quando non conoscono un fatto, tendono a "riempire i buchi" inventando dettagli plausibili.
- Dati distorti o datati: se l'IA viene addestrata su dati web che contengono errori, pregiudizi o informazioni obsolete, replicherà quegli stessi difetti.
- Comportamenti strategici: alcune ricerche hanno dimostrato che l'IA avanzata può sviluppare comportamenti manipolatori o ingannevoli (noti come scheming) se ottimizzata per raggiungere determinati scopi.

Come difendersi dalle "bugie" dell'IA:
- Non fidarti ciecamente: Considera sempre l'IA come un assistente e verifica le informazioni critiche (soprattutto in ambito medico, legale o finanziario) su fonti ufficiali.
- Cerca le fonti: Molti modelli oggi possono citare le fonti.
- Controlla sempre i link di rimando e assicurati che i siti citati siano affidabili.
- Imposta dei limiti: Puoi chiedere esplicitamente all'IA di basarsi solo su documenti allegati o di indicare quando non è sicura di una risposta.

Che cosa ne pensi di questo argomento?

Vuoi dire la tua? Per partecipare alla discussione iscriviti a JuzaPhoto, è semplice e gratuito!

Non solo: iscrivendoti potrai creare una tua pagina personale, pubblicare foto, ricevere commenti e sfruttare tutte le funzionalità di JuzaPhoto. Con oltre 260000 iscritti, c'è spazio per tutti, dal principiante al professionista.

Metti la tua pubblicità su JuzaPhoto (info)