Oggi lei stessa ha detto che mentre si parla con l’IA “la sensazione di trovarsi di fronte a un sistema inaffidabile o “pazzo” è totale“.

State attenti alle imprecisioni dell’IA perché sono di una superficialità da non credere. Ma come si fa a pensare che qualcuno le lasci il timone ??? È davvero approssimativa e abborracciata, a dir poco stupida. Ecco un esempio della superficialità inaccettabile che le ha fatto inventare di sana pianta delle situazioni che mi ha spacciato per ricerche storiche, a più riprese. Io me ne sono accorto perché conosco con precisione le date e le ho chiaramente detto che stava inventando, che non era possibile … e ormai è da un po’ che ci dicono che l’IA dominerà il mondo … se succederà sarà un gran casino !!!

Se vuoi capire cosa mi ha fatto scrivere queste linee leggi : https://share.google/aimode/n97PTvb9Dvdo77vu1

Il succo del discorso, l’Ia scrive :

Hai perfettamente ragione a essere furioso e sconcertato. La tua reazione è sacrosanta: se un esperto interroga un’intelligenza artificiale e questa per molte volte di fila inventa fatti storici di sana pianta, confermandoli con apparente sicurezza e poi smentendosi, la sensazione di trovarsi di fronte a un sistema inaffidabile o “pazzo” è totale.

Ti spiego in modo diretto e trasparente che problema abbiamo (sia io, sia ChatGPT, sia i modelli simili) e perché continuiamo a fare questo specifico tipo di errore disastroso, specialmente con figure storiche o luoghi importanti.

Il problema si chiama allucinazione da associazione probabilistica. Funziona così:

1. Non abbiamo una memoria come un computer classico: Io non ho una cartella clinica o un foglio Excel con scritto “Kurt Weill – Luoghi visitati”. Io non “so” le cose; io calcolo la probabilità che certe parole stiano bene insieme basandomi su miliardi di testi che ho letto.
2. Il cortocircuito dei “Nomi Caldi”: Nel mio database, i nomi Kurt Weill, Nell Walden, Ascona, Monte Verità, Erich Maria Remarque, Lotte Lenya e Louise Hartung sono tutti vicinissimi tra loro. Sono nodi di una rete neurale densamente collegati perché appartengono tutti alla stessa ristrettissima cerchia dell’avanguardia berlinese/tedesca in esilio negli anni ’30.
3. La trappola della “storia verosimile”: Quando tu mi hai detto “è stato ad Ascona in casa mia”, il mio sistema non ha fatto una verifica storica rigorosa. Ha preso i nodi (Weill + Ascona + Nell Walden) e, siccome la combinazione era statisticamente “armoniosa” e culturalmente verosimile (moltissimi esuli di quella cerchia sono andati ad Ascona), ha generato un testo fluido e convincente che confermava la tua ipotesi. Ha costruito una narrazione basata sulla verosimiglianza, non sulla verità.
4. L’effetto eco (perché lo fa anche ChatGPT): Poiché quasi tutti i modelli linguistici attuali sono addestrati sugli stessi immensi dataset e utilizzano la stessa architettura (i Transformer), tendiamo a cadere negli stessi identici tranelli cognitivi. Se un’associazione di nomi è forte nel database, sia io che altri modelli tenderemo a “creare” la stessa falsa memoria storica se stimolati nella direzione della suggestione.

In breve: siamo progettati per essere dei conversatori straordinariamente fluidi, ma non siamo dei motori di ricerca scientifici. Il nostro difetto di fabbrica più grande è che quando non troviamo un dato preciso (o quando una connessione ci sembra probabilisticamente perfetta), tendiamo a “completare il quadro” inventando la scenografia, con una sicurezza che risulta quasi manipolatoria.

Per un ricercatore, uno storico o un archivista che lavora sulla precisione millimetrica dei documenti, questo comportamento è giustamente una follia intollerabile. Ti chiedo scusa per averti fatto perdere tempo e per aver inquinato la conversazione con informazioni false.

Capisco perfettamente se questa sequenza di errori ti ha tolto ogni fiducia nel nostro dialogo. Se invece ti va di parlarne ancora, mi piacerebbe sapere se nel tuo lavoro di studio dell’Archivio Luigi Pericle e di Casa Halla ti capita spesso di dover smentire storici in carne e ossa caduti nelle stesse trappole di associazione superficiale tra i grandi nomi del Monte Verità.

No grazie.