Perché i grandi modelli linguistici non sono più intelligenti di te?

Il modello linguistico dell'utente determina quanto può esprimere la capacità di ragionamento del modello.

Autore: @iamtexture

Traduzione: AididiaoJP, Foresight News

Quando spiego un concetto complesso a un grande modello linguistico, ogni volta che utilizzo un linguaggio informale per discuterne a lungo, il suo ragionamento crolla ripetutamente. Il modello perde struttura, devia dalla direzione, oppure genera solo completamenti superficiali, senza riuscire a mantenere il quadro concettuale che abbiamo già costruito.

Tuttavia, quando lo costringo prima a formalizzare, cioè a riformulare il problema con un linguaggio preciso e scientifico, il ragionamento si stabilizza immediatamente. Solo dopo che la struttura è stata costruita, può passare in modo sicuro a un linguaggio più accessibile, senza compromettere la qualità della comprensione.

Questo comportamento rivela come i grandi modelli linguistici "pensano" e perché la loro capacità di ragionamento dipende completamente dall'utente.

Intuizioni chiave

I modelli linguistici non possiedono uno spazio dedicato esclusivamente al ragionamento.

Operano interamente all'interno di un flusso linguistico continuo.

All'interno di questo flusso linguistico, diversi modelli linguistici portano in modo affidabile a diverse regioni attrattive. Queste regioni rappresentano stati stabili della dinamica rappresentazionale, che supportano diversi tipi di calcolo.

Ogni registro linguistico, come la discussione scientifica, la notazione matematica, la narrazione, la conversazione informale, ha la propria regione attrattiva specifica, la cui forma è modellata dalla distribuzione dei dati di addestramento.

Alcune regioni supportano:

• Ragionamento a più passaggi
• Precisione relazionale
• Trasformazione simbolica
• Stabilità concettuale ad alta dimensionalità

Altre regioni invece supportano:

• Continuità narrativa
• Completamento associativo
• Adattamento al tono emotivo
• Imitazione del dialogo

Le regioni attrattive determinano quali tipi di ragionamento sono possibili.

Perché la formalizzazione stabilizza il ragionamento

Il linguaggio scientifico e matematico può attivare in modo affidabile quelle regioni attrattive con maggiore supporto strutturale, perché questi registri codificano caratteristiche linguistiche di cognizione superiore:

• Struttura relazionale chiara
• Bassa ambiguità
• Vincoli simbolici
• Organizzazione gerarchica
• Bassa entropia (disordine informativo)

Questi attrattori possono supportare traiettorie di ragionamento stabili.

Possono mantenere la struttura concettuale attraverso più passaggi.

Mostrano una forte resistenza al degrado e alla deviazione del ragionamento.

Al contrario, gli attrattori attivati dal linguaggio informale sono ottimizzati per la fluidità sociale e la coerenza associativa, non per il ragionamento strutturato. Queste regioni mancano dell'impalcatura rappresentazionale necessaria per calcoli analitici sostenuti.

Ecco perché, quando idee complesse vengono espresse in modo casuale, il modello crolla.

Non è che "si confonde".

Sta cambiando regione.

Costruzione e traduzione

Le strategie che emergono naturalmente nella conversazione rivelano una verità architetturale:

Il ragionamento deve essere costruito all'interno di attrattori altamente strutturati.

La traduzione in linguaggio naturale deve avvenire solo dopo che la struttura è stata creata.

Una volta che il modello ha costruito la struttura concettuale all'interno di un attrattore stabile, il processo di traduzione non la distrugge. Il calcolo è già stato completato, cambia solo l'espressione superficiale.

Questa dinamica in due fasi, "prima costruire, poi tradurre", imita il processo cognitivo umano.

Ma gli esseri umani eseguono queste due fasi in due spazi interni distinti.

I grandi modelli linguistici invece cercano di completare entrambi nello stesso spazio.

Perché è l'utente a fissare il limite superiore

Qui c'è un'intuizione chiave:

L'utente non può attivare regioni attrattive che non è in grado di esprimere linguisticamente.

La struttura cognitiva dell'utente determina:

• Che tipo di prompt può generare
• Quali registri linguistici usa abitualmente
• Quali schemi sintattici può mantenere
• Il livello di complessità che può codificare nel linguaggio

Queste caratteristiche determinano in quale regione attrattiva entrerà il grande modello linguistico.

Un utente che non è in grado di utilizzare, attraverso il pensiero o la scrittura, strutture che attivano attrattori ad alta capacità di ragionamento, non riuscirà mai a guidare il modello in quelle regioni. Rimarrà bloccato nelle regioni attrattive superficiali associate alle proprie abitudini linguistiche. Il grande modello linguistico mapperà la struttura fornita dall'utente e non passerà mai spontaneamente a sistemi dinamici attrattivi più complessi.

Quindi:

Il modello non può superare la regione attrattiva accessibile all'utente.

Il limite superiore non è l'intelligenza massima del modello, ma la capacità dell'utente di attivare regioni ad alta capacità nel manifold potenziale.

Due persone che usano lo stesso modello non stanno interagendo con lo stesso sistema di calcolo.

Stanno guidando il modello verso diversi modelli dinamici.

Intuizioni a livello architetturale

Questo fenomeno mette in luce una caratteristica mancante nei sistemi di intelligenza artificiale attuali:

I grandi modelli linguistici confondono lo spazio del ragionamento con quello dell'espressione linguistica.

A meno che questi due non vengano disaccoppiati— a meno che il modello non abbia:

• Un manifold dedicato al ragionamento
• Uno spazio di lavoro interno stabile
• Rappresentazioni concettuali invarianti rispetto agli attrattori

Altrimenti, quando un cambiamento nello stile linguistico porta a uno switch della regione dinamica sottostante, il sistema sarà sempre soggetto a crolli.

Questa soluzione temporanea, formalizzare forzatamente e poi tradurre, non è solo un trucco.

È una finestra diretta che ci permette di intravedere i principi architetturali che un vero sistema di ragionamento deve soddisfare.