AION-Research

  Questo contributo propone uno studio comparativo tra « Seemingly Conscious AI Risks » di Microsoft AI e il framework teorico della « Noosemia ». L’analisi mostra come la Seemingly Conscious AI possa essere interpretata come una regione specifica del campo noosemico, centrata sull’attribuzione di coscienza, mentre la Noosemia descrive in modo più generale il processo attraverso cui gli esseri umani percepiscono mente, intenzionalità e interiorità nei segni prodotti dai sistemi di IA generativa. Il framework della Noosemia in forma divulgativa è stato presentato inquesto blog qui . 1. Dalla coscienza apparente alla mente nei segni La riflessione sull’intelligenza artificiale generativa sta attraversando una fase di particolare densità teorica. Dopo anni di avanzamenti «tecnici» dominati da benchmark, prestazioni, architetture e metriche di valutazione, emerge con crescente chiarezza un problema più sottile, che riguarda il modo in cui gli esseri umani interpretano i sistemi artific...

Dalle frequenze osservate alle rappresentazioni latenti, e perché gli LLM possono generare frasi sensate mai incontrate prima. Quando si prova a spiegare un Large Language Model, una delle immagini più immediate è quella di un immenso archivio di frasi già incontrate. Il modello avrebbe letto quantità sterminate di testi e, nel momento in cui produce una risposta, recupererebbe sequenze simili a quelle osservate durante l’addestramento. Questa intuizione contiene una parte di verità, poiché gli LLM apprendono effettivamente dai testi. Diventa però fuorviante quando suggerisce che il modello funzioni come una gigantesca tabella di frasi, oppure come un sistema che si limita a contare quante volte certe parole compaiono insieme. Per comprendere la differenza, conviene partire dalla storia del modellamento linguistico. Prima delle reti neurali moderne, una parte rilevante della linguistica computazionale e del trattamento automatico del linguaggio naturale affrontava il problema mediant...

La scienza ha una validità oggettiva inequivocabile e, nella sua forma più ortodossa, esclude la prospettiva interna dell'osservatore, fino al punto da cercare interpretazioni alternative, operanti in «terza persona», del possibile ruolo dell'osservatore nella misura di un'osservabile quantistica. Il dominio delle scienze fisiche vuole, ancora oggi, conservarsi come studio, descrizione e sintesi di modelli teorici predittivi dell'oggetto, escludendo in qualsiasi modo il ruolo cognitivo del soggetto e la relativa posizione prospettica privilegiata rispetto all'oggetto di indagine. Tuttavia, l'esclusione del soggetto è un artificio della teoria sintetizzata come modello del mondo, un mondo, quindi, senza soggetti. Eppure, i soggetti ci sono eccome e partecipano al «game» della scienza come generatori di ipotesi esplicative, mediante inferenza abduttiva, come direbbero i filosofi della scienza. In discipline come la psicologia la presenza del soggetto è lapalissian...

  Quando si parla oggi di intelligenza artificiale, il rischio più frequente consiste nel ridurre un campo vastissimo a una singola esperienza d’uso, quella della conversazione con un sistema linguistico tramite interfaccia web. È comprensibile che ciò accada. Milioni di persone hanno incontrato l’IA anzitutto in questa forma, ponendo domande, ottenendo risposte, chiedendo sintesi, immagini, codice, spiegazioni. Eppure, se vogliamo comprendere con lucidità la fase storica che stiamo attraversando, dobbiamo ampliare lo sguardo. Dobbiamo cioè distinguere tra il modello linguistico usato come interlocutore e l’orizzonte più ampio entro cui esso oggi si colloca, quello dei sistemi agentici, dei workflow cognitivi automatizzati, della delega parziale di compiti complessi e della progressiva integrazione tra linguaggio, strumenti, memoria, pianificazione e azione. Per entrare correttamente nel tema, conviene partire da alcune definizioni storiche dell’intelligenza artificiale. Marvin M...