La fine della conoscenza come noi la conosciamo

 

~ IA, generazione di contenuti e contaminazioni epistemiche ~
 
Se volessimo parafrasare in maniera un po' frettolosa Ernesto De Martino diremmo che ogni cultura, nel suo divenire storico, ha la propria apocalisse. L'apocalisse dell'ultimo trentennio la conosciamo e coincide la crisi climatica. Oggi, dopo il frangente pandemico, se n'è aggiunta un'altra: l'Intelligenza Artificiale (IA), che poi ad un certo livello di dettaglio scopriamo essere legata a doppio filo alla prima. È dall'inizio del Novecento che il panorama letterario, saggistico e filmico traccia una strada senza uscita; primo tra tutti il film Metropolis del 1927, in cui se il dito non poteva essere puntato sull'IA propriamente detta (termine non ancora coniato), esso indicava la tecnica come imputato principale. Poi si sono susseguiti romanzi e film che hanno iniziato una marcatura stretta sull'IA, man mano che essa andava sviluppandosi: dai romanzi di Asimov, passando per Spielberg, fino alla recente produzione tutta italiana di Pif, dove un manager, licenziato dell'algoritmo che lui stesso aveva creato per la sua azienda, diventa un rider...

In definitiva, la cultura mediatica da un lato indirizza la percezione di una tecnologia da parte del grande pubblico, dall'altra ne è lo specchio deformante e caleidoscopico. Dopo il lancio di ChatGPT, non poteva non avvenire - anche a ragione - una lettura apocalittica dei fatti e le motivazioni non risiedono solo nel retroterra mediatico, ma in un timore atavico, che ha a che fare, su un piano concettuale, con i circoli viziosi, le antinomie e i trascendimenti. 

ChatGPT domina, o meglio mima, per un certo grado, il codice di tutti i codici - il linguaggio - non solo testuale, non solo iconico, ma anche una commistione trai due (e.g., GPT-4), che abita uno spazio matematico multidimensionale di difficile decifrazione. È quando si chiudono gli "strani anelli" (vedi D. Hofstadter, "I’m a strange loop"), cioè quando le antinomie raggiungono lo stato di non nascondimento, che si raggiunge un limite il cui oltrepassamento genera l'inatteso, sporgente verso il transcendimento. Se Bertrand Russell fu tra coloro che si accorsero che il linguaggio non poteva essere esente da antinomie poiché sufficientemente potente da poter parlare di se stesso, Kurt Gödel mostrò che la stessa aritmetica aveva una simile potenza così da contenere proposizioni indecidibili, la cui decidibilità era - per mezzo di un assioma - necessariamente posta al di fuori del sistema (aritmetico) stesso. E David Hilbert, che voleva all'inizio del secolo scorso l'edificio della matematica fondato su basi solide, tremò e con lui tutto il secolo breve. Il matematico Chaitin riprendendo i lavori di Gödel ha azzardato che la matematica, grazie al logico e filosofo austriaco, è finalmente inquadrabile come un prodotto creativo (chi è che genera il nuovo assioma per rendere decidibili le proposizioni indecidibili?). Ma il discorso potrebbe lontano.

Tornando alle apocalissi demartiniane è necessario capire nel contesto dell'IA, cosa davvero rappresenta il campanile di Marcellinaria e se noi donne e uomini tutti siamo come il vecchio pastore che, alla richiesta di un passaggio in auto per accompagnare dei viandanti, provava smarrimento quando perdeva di vista quel campanile, sempre presente nella sua quotidianità. Evidentemente l'IA offusca la vista e con essa le nostre sicurezze aggrappate al presente.
Di fronte all'IA siamo tentati a reagire come il re egizio Thamus che, al cospetto dell'invenzione della scrittura da parte della divinità Theuth, si rifiuta di proporla al suo popolo. E come Platone ci racconta, mentre Theuth tenta di convincere il re che con la scrittura gli egiziani saranno più sapienti e capaci di ricordare Thamus risponde (Platone, Fedro 274c - 275b) :

"[...] la scoperta della scrittura avrà per effetto di produrre la dimenticanza nelle anime di coloro che la impareranno, perché fidandosi della scrittura si abitueranno a ricordare dal di fuori mediante segni estranei, e non dal di dentro e da se medesimi: dunque, tu hai trovato non il farmaco della memoria, ma del richiamare alla memoria. Della sapienza, poi, tu procuri ai tuoi discepoli l'apparenza e non la verità: infatti essi, divenendo per mezzo tuo uditori di molte cose senza insegnamento, crederanno di essere conoscitori di molte cose, mentre come accade per lo più, in realtà, non le sapranno; e sarà ben difficile discorrere con essi, perché sono diventati portatori di opinioni invece che sapienti."

Ora anche io proporrò, per gioco, una piccola apocalisse (apocalissi in scatola) e la chiamerò "La fine della conoscenza come noi la conosciamo". Non ha, questa volta, a che fare con la dicotomia apparenza/parvenza nel contesto della verità, ma è posizionata concettualmente ad un livello più pratico, tangibile. Con le dovute premesse ciò che si propone è un ragionamento a limite e al contempo sperimentabile in piccolo. Vediamo cosa succede dopo un certo tempo di utilizzo dell'IA generativa, continuativo e esteso al pubblico in generale.
Come tutti i ragionamenti al limite anche il seguente ha i suoi limiti.

1. L'IA generativa necessita di grandi quantità di dati (testo, immagini, video) con cui si ottiene un modello pronto a generare -nuovi- testi, immagini video.
2. Attualmente tali dati sono segni la cui disposizione combinatoria è frutto dell'intelletto umano.
3. In maniera incrementale il pubblico sta utilizzando l'IA generativa per produrre testi, immagini, etc.
4. Tali testi, immagini, etc. generati dall'IA finiscono in report, pubblicazioni, libri, etc. Sia in formato cartaceo e digitalizzato che direttamente in digitale. Qui inizia il ragionamento a limite basato su una chiusura di un circolo (ragionamento circolare, vedi sopra).
5. Tali dati, in maniera incrementale andranno a formare l'insieme su cui i modelli di linguaggio sono allenati.
6. Dopo un certo numero di iterazioni di apprendimento e generazione (da parte di un sempre maggiore numero di individui) una buona parte del materiale prodotto genuinamente dagli esseri umani è contaminata da prodotti dell'IA

 
Domanda N°1: Dopo quanti cicli la quota parte prodotta dall'IA risulta preponderante rispetto ai dati prodotti genuinamente dagli umani?

Domanda N°2: Dopo una lunga serie di cicli la "qualità" dei dati migliora o peggiora?

Domanda N2° bis: In che modo l'essere umano rientra in questo loop? La sua presenza rende convergente o divergente la corsa verso la produzione di materiale (e.g., testi) degradato? (Il materiale prodotto e degradato è utilizzato dagli umani come mezzo di apprendimento).
La risposta alla domanda N°1 - il computo del punto di non ritorno - è approcciabile con un esperimento da laboratorio circoscritto (toy problem) ma è complicato, a meno di grossolane approssimazioni, estenderla al caso reale.

La risposta alla domanda N°2 è intuibile conoscendo la natura statistica dell'output di tali modelli, ovvero misurandone opportunamente regolarità e ricorrenze. 

Abbozzando qui la risposta si può dire che essendo le regolarità statistiche dei testi prodotti dalle macchine più pronunciate (leggi meno casuali) di quelli prodotti dagli umani, dopo un certo numero di cicli il contenuto prodotto risulta maggiormente predicibile (leggi meno casuale) quindi più regolare, quindi degradato. 

Pertanto, dopo un certo numero di cicli, la combinatoria dei segni risulterà incrementalmente contaminata fino ad un punto in cui la conoscenza - rappresentata dal segno linguistico - raggiungerà il massimo degrado.

Per la risposta alla questione N°2 bis è necessario riflettere maggiormente e apportare ipotesi aggiuntive che complicano non poco il semplice modello, che vuole essere un gioco del pensiero più che una vera e propria previsione apocalittica.