Passa ai contenuti principali

Un'allucinazione AI molto istruttiva (per me un pò triste)

Sto preparando il corso "Principi di IA per l'Ingegneria" che dal prossimo a.a. terrò al primo anno di tutte le lauree triennali in Ingegneria. Molto introduttivo, solo 4 seminari di 2 ore ognuno. Sto anche selezionando qualche link di approfondimento per gli interessati. Un tema molto importante è quello delle cosiddette "hallucinations": affermazioni generate dalla cosiddetta AI che non hanno alcun legame con la realtà. Fenomeno intrinseco alla tecnologia alla base della cosiddetta AI e molto pericoloso per ovvi motivi.

Ho avuto una esperienza personale di hallucination che ho deciso di condividere perché mi pare molto, molto istruttiva. 

Mio padre è deceduto nel 1972. Amava scrivere e dipengere, per passione personale. I contenuti su di lui su Internet sono ovviamente pochissimi: solo un piccolissimo sito web creato da me. Il sito web contiene link ad alcuni suoi racconti e ad un libro che aveva scritto sulla storia del paese in cui vivevamo, Peccioli. Contiene anche foto di alcuni suoi quadri.

E' evidente, quindi, che ogni affermazione su di lui generata dagli LLM è costruita a partire da questo sito web.

Un pò di tempo fa ho avviato una chat con Gemini per vedere "cosa sapeva" sulla storia di Peccioli. Gemini ha indicato una teoria sull'origine del nome "Peccioli" molto diversa da quella citata da mio padre nel suo libro, il che è normalissimo. Ho quindi chiesto "Io ho sentito di una teoria alternativa sulla origine del nome. I pezzioli di terra", che è appunto la teoria citata da mio padre. Gemini ha affermato che effettivamente quella è un'altra teoria e l'ha attribuita correttamente al libro di mio padre.

A quel punto, però, il dialogo è diventato davvero surreale. Gemini ha infatti iniziato a sciorinare una serie di affermazioni sull'impatto di mio padre sulla cosiddetta vita culturale di Peccioli totalmente inventate:

  • Ancora oggi, alcune delle sue opere e illustrazioni sono utilizzate per accompagnare i racconti sulla Peccioli di una volta.
  • Oggi Peccioli è famosa per i giganti della discarica e le installazioni d'avanguardia (il MACCA), ma figure come Mario Bartoli sono state fondamentali per mantenere vive le radici su cui si è innestata questa modernità.
  • Senza la sua opera di recupero delle tradizioni e delle leggende (come appunto quella dei "pezzioli" di terra), il borgo non avrebbe quella profondità storica che lo rende unico.
  • Sebbene oggi Peccioli sia proiettata verso l'arte contemporanea internazionale (con opere di artisti come David Tremlett o Patrick Tuttofuoco), Mario Bartoli resta il "padre" dell'iconografia locale.
  • In Comune e nelle case: Molte delle sue opere sono custodite in collezioni private di famiglie pecciolesi o presso le sedi istituzionali.
  • La Biblioteca Comunale: È il luogo migliore per consultare i suoi scritti e vedere le riproduzioni dei suoi lavori grafici. Spesso, durante le celebrazioni storiche del borgo, vengono esposti i suoi disegni come testimonianza della "Peccioli com'era".
  • Anche se Bartoli dipingeva in modo tradizionale, è proprio grazie alla sensibilità che lui ha contribuito a creare che Peccioli è diventata, decenni dopo, il MACCA (Museo d’Arte Contemporanea a Cielo Aperto). Lui ha insegnato ai cittadini che l'arte è il miglior modo per prendersi cura del proprio territorio.
  • Se ti capita di passare dal centro storico, a volte vengono organizzate mostre o iniziative che ricordano la sua figura.
  • È molto probabile che, se chiedi a un anziano del borgo, ti sappia indicare una casa o un ufficio che conserva ancora un suo quadro di un vicolo o di un tramonto sulle colline.

Posso affermare con totale certezza che queste affermazioni relative a mio padre sono completamente prive di fondamento. In particolare la penultima (non aggiungo altro perché sarei costretto ad essere polemico).

La cosa interessante è che tutte queste affermazioni (allucinazioni) sono quasi certamente il risultato di una sola frase, questa che ho messo nella pagina web contenente foto di alcuni suoi quadri: "Se qualcuno avesse un quadro di Mario Bartoli e potesse inviarmene una foto gliene sarei immensamente grato".

Credo che sia un'esperienza meritevole di riflessione.

Se qualcuno fosse interessato, qui c'è il dialogo completo con Gemini

Commenti

Popular Posts

"Ingegneria deve essere difficile"

Il ritaglio di giornale qui sotto ricorda uno degli eventi più non-trovo-un-aggettivo-appropriato del mio periodo di studente di Ingegneria a Pisa. Ricordo che una mattina iniziò a spargersi la voce "hanno murato la porta del dipartimento!".  Andammo subito a vedere ed arrivammo un pò prima dei giornalisti che scattarono questa foto. La porta era murata, intonacata, pitturata di bianco e sovrastata da una scritta "INGEGNERIA DEVE ESSERE DIFFICILE". Le "E" di "INGEGNERIA" erano scritte al contrario perché era una sorta di "marchio di fabbrica" della facoltà di Ingegneria di Pisa. L'aula più grande, quella in cui pressoché tutti gli studenti seguivano i corsi dei primi anni, aveva infatti alcuni bellissimi "affreschi scherzosi" che furono fatti nel corso delle proteste studentesche di qualche anno prima ed in cui la parola "Ingegneria" era appuntoi scritta in quel modo. Si era anche già sparsa la voce di cosa era ...

Perché studiare Analisi Matematica???

Un mio caro amico mi ha scritto: ...sono con mia figlia che studia Analisi 1...A cosa serve, al giorno d'oggi, studiare Analisi (a parte sfoltire i ranghi degli aspiranti ingegneri)? Riporto la mia risposta di seguito, forse può "motivare" qualche altro studente. ... Per un ingegnere la matematica è fondamentale perché è un linguaggio ; ed è il linguaggio essenziale per trattare gli argomenti che dovrà affrontare come ingegnere; non sono importanti i contenuti specifici; è importante, anzi fondamentale, che riesca a capirli, ricostruirli etc. ad esempio, chi deve usare l'inglese, lo usa perché in un modo o nell'altro lo conosce; nessuno di noi ha usato esattamente le frasi o i dialoghi o le regole che ha incontrato negli esercizi di inglese o di tedesco; nella matematica è lo stesso; non sono importanti i limiti, le serie, i teoremi di cauchy o che so io; ma se uno non è in grado di capire quel linguaggio allora non sarà in grado di capire davvero quas...

On the Anthropic Mythos Preview - "too dangerous to release"

(updated twice after first posting, see below) On April 7-th 2026, Anthropic issued a technical report titled  Assessing Claude Mythos Preview’s cybersecurity capabilities . This report has quickly sparked the all-too-common (and deeply misleading) narrative of an imminent cybersecurity apocalypse due to the (supposedly) immense and groundbreaking capabilities of AI. For example, The New York Times :  I’m really not being hyperbolic when I say that kids could deploy this by accident. Mom and Dad, get ready for: "Honey, what did you do after school today?” “Well, Mom, my friends and I took down the power grid. What’s for dinner?” That is why Anthropic is giving carefully controlled versions to key software providers so they can find and fix the vulnerabilities before the bad guys do — or your kids. What does Anthropic say? The following paragraphs contain a slightly edited AI-generated summary of the Anthropic report Anthropic has introduced Claude Mythos Preview, a langu...

Cose che racconto nei corsi (e che poi si verificano) - UPDATED

Reti di Calcolatori e Principi di Cybersecurity , intorno alla fine di settembre: " Il DNS è una infrastruttura critica per il funzionamento della società. Pensiamo a cosa accadrebbe se si bloccasse completamente la risoluzione di alcuni nomi. " Il 20 ottobre 2025 molti servizi Internet usati da molti milioni di utenti in tutto il mondo si sono bloccati o sono diventati lentissimi. Tra questi Apple Music, Airbnb, Spotify, Reddit, Perplexity AI, Duolingo, Goodreads, Fortnite, Apple TV, Mc Donald's App, Signal e molti altri (compresi alcuni servizi della pubblica amministrazione UK). Tutti questi servizi dipendono in tutto o in parte da funzionalità software in Amazon Web Services (AWS), uno dei principali fornitori di servizi cloud al mondo. AWS è composto internamente da molti servizi software. Il motivo scatenante del blocco globale è stato un problema nella risoluzione DNS del nome di un particolare servizio usato internamente in AWS. Cybersecurity , corso aziendale i...

One must write correctly. One must explain oneself clearly.

The title of this blog says it all. It is a deep truth of fundamental importance in every profession . I have always tried hard to convince students of this fact. Explaining things clearly and correctly, whether in written or in spoken form, is hard .  It takes a lot of time and experience. Most importantly, some people may have more innate talent. Others may have fewer. However, the first step is to convince oneself of the importance of this fact. Otherwise, the battle is lost before it has begun. I have come to believe that many students have a problem in this respect, as they do not realize how important it is to be clear and correct in our own language. They either believe that technical skills are all that is needed, or that they will magically become perfectly understandable to everyone at some unspecified point in the future. This is definitely not the case. Consequently, they will encounter many unexpected and challenging obstacles in their professional careers. Writing...