{"id":22593,"date":"2023-09-07T09:30:00","date_gmt":"2023-09-07T07:30:00","guid":{"rendered":"https:\/\/www.codemotion.com\/magazine\/?p=22593"},"modified":"2023-09-12T10:40:59","modified_gmt":"2023-09-12T08:40:59","slug":"cosa-capiscono-le-intelligenze-artificiali","status":"publish","type":"post","link":"https:\/\/www.codemotion.com\/magazine\/it\/intelligenza-artificiale\/cosa-capiscono-le-intelligenze-artificiali\/","title":{"rendered":"Cosa ne capiscono le intelligenze artificiali?"},"content":{"rendered":"\n

Chiunque abbia sostenuto una conversazione con un chat basato su LLM, da ChatGPT ai pi\u00f9 recenti Bard<\/strong> e chi pi\u00f9 ne ha pi\u00f9 ne metta, sar\u00e0 rimasto sorpreso<\/strong> non dalla capacit\u00e0 di generare frasi in una lingua umana sintatticamente corrette e semanticamente sensate, ma soprattutto dal fatto di riuscire a comprendere la nostra richiesta e provare a soddisfarla<\/strong>. <\/p>\n\n\n\n

Abbiamo veramente l\u2019impressione di parlare con qualcuno <\/strong>che si sia letto tutte le pagine Web<\/strong> di questo mondo e le riesca a consultare all\u2019istante<\/strong> per risponderci a tono: la capacit\u00e0 di generare una risposta appropriata alla domanda che abbiamo fatto aumenta con la cura e la tecnica giuste per la composizione del prompt<\/em> con il quale formuliamo la domanda.<\/p>\n\n\n\n

Per esempio, se il nostro scopo \u00e8 ottenere informazioni affidabili,<\/strong> come uno snippet<\/em> che vogliamo integrare in un nostro software, dovremo essere precisi<\/strong> nel prompt<\/em> e aiutare l\u2019AI a produrre quel che vogliamo, sapendo quali sono le informazioni che ha a disposizione <\/strong>e che modo ha di estrarre contenuto dal nostro prompt<\/em>. Viceversa, se vogliamo farla fallire o rispondere in modo \u201callucinato\u201d<\/em>, scriveremo dei prompt<\/em> stravaganti e ambigui,<\/strong> magari inserendo informazioni false e quindi depistando e confondendo il nostro interlocutore.<\/p>\n\n\n\n

In ogni caso \u00e8 difficile non pensare che il LLM<\/strong> \u201ccapisca\u201d<\/em> o \u201ccomprenda\u201d<\/em> quel che stiamo chiedendo, altrimenti come farebbe a rispondere?<\/strong> Ma \u00e8 veramente cos\u00ec?<\/strong><\/p>\n\n\n\n

Le intelligenze artificiali capiscono?<\/h2>\n\n\n\n

I verbi \u201ccapire\u201d<\/em>, \u201ccomprendere\u201d<\/em>, \u201cconoscere\u201d<\/em> come pure i pi\u00f9 impegnativi sostantivi \u201cintelligenza\u201d<\/em> e \u201ccoscienza\u201d<\/em> che talvolta sentiamo usare riferendosi alle AI, sono in realt\u00e0 emersi nelle nostre lingue per riferirsi agli esseri umani.<\/strong> In tempi recenti abbiamo esteso<\/strong>, per forza di cose, l\u2019uso di questi termini anche ad altre creature viventi:<\/strong> chi ha un animale domestico<\/strong> ovviamente afferma che questo capisce una richiesta, comprende un comportamento, conosce i luoghi della casa, ed \u00e8 largamente diffusa l\u2019idea che cani e gatti siano intelligenti e coscienti, sebbene non come noi.<\/p>\n\n\n\n

Applicare a un software<\/strong> queste parole pu\u00f2 invece essere fonte di fraintendimenti<\/strong>. In fondo, un LLM \u00e8 semplicemente un software interpolatore di distribuzioni di probabilit\u00e0 di parole, che per lui sono in realt\u00e0 numeri: \u00e8 un enorme e complesso algoritmo numerico <\/strong>che viene ottimizzato in modo da generare sequenze di numeri e poi parole<\/strong> che noi possiamo interpretare come frasi di senso compiuto che si agganciano alle nostre domande.<\/p>\n\n\n\n

Il meccanismo \u00e8 ben diverso da quello di ELIZA, il \u201cbot psichiatrico\u201d<\/em> di 60 anni fa che abbiamo incontrato nell\u2019articolo precedente “L\u2019evoluzione dei modelli linguistici: dalle regole alle parole”<\/em><\/a>: laddove quello presupponeva una base di dati di regole che erano associate a trasformazioni del testo cablate nel DB, i LLM si addestrano ruminando quantit\u00e0 spaventose di testi per tracciare complesse relazioni probabilistiche fra le parole e le sequenze di parole di questi testi e per produrre altrettante sequenze<\/strong> che poi, riconvertite da numeri nelle parole corrispondenti, compongono un testo che l\u2019interlocutore umano interpreta.<\/p>\n\n\n\n

L\u2019idea che il significato sia proiettato dagli umani e non intrinseco nell\u2019elaborazione delle AI possiamo farla risalire al filosofo statunitense John Searle nel 1980: quest\u2019ultimo, personaggio per altri aspetti purtroppo controverso, ha elaborato l\u2019idea che i programmi di AI volti a imitare il linguaggio, e le AI in generale, non siano che dei \u201ccopiaincollatori\u201d estremamente efficienti<\/strong>, con una gran memoria e una gran velocit\u00e0, ma pur sempre programmati per trasformare informazioni simboliche trattate, per cos\u00ec dire, sintatticamente, senza nessuna ulteriore informazione su un possibile significato.<\/p>\n\n\n\n

Per mostrarlo, Searle immagina una \u201cstanza cinese\u201d: la stanza \u00e8 chiusa e al suo interno c\u2019\u00e8 una persona che non conosce il cinese<\/strong>; come nel test di Turing, questa persona comunica con l\u2019esterno attraverso fogli scritti o stampati.<\/p>\n\n\n\n

\"capiscono<\/p>\n\n\n\n

Alla persona dentro la stanza vengono date in input sequenze di caratteri cinesi, e lei ha a disposizione delle regole che spiegano come, da una sequenza di simboli, produrne un\u2019altra: per esempio se un tale carattere \u00e8 seguito da un tal\u2019altro carattere allora emetti questa sequenza<\/em>. Supponiamo che l\u2019insieme delle regole possa essere enorme, ma finito ovviamente, e non poniamoci limiti sul tempo a disposizione<\/strong> (e sulla incapacit\u00e0 di annoiarsi) della persona chiusa nella stanza.<\/strong><\/p>\n\n\n\n

Ovviamente Searle aveva in mente le AI della sua epoca che, come abbiamo visto nel precedente articolo [link], erano pattern matcher di regole cui erano associate delle azioni. Ma, a ben vedere, un LLM prende in input sequenze di parole e, usando un algoritmo dato dalla rete neurale <\/strong>complesso a piacere con centinaia di miliardi di parametri, le rielabora in una sequenza di output. Infatti c\u2019\u00e8 chi sostiene che ChatGPT sia null\u2019altro che una stanza cinese<\/strong> (https:\/\/arxiv.org\/abs\/2304.12411<\/a>).<\/p>\n\n\n\n

Ora, la persona nella stanza cinese che compie questa faticosa e lunghissima operazione di copiaincolla basata su regole, per quanto complesse e intricate,<\/strong> certamente non conosce il cinese<\/em>, si limita appunto a manipolare sequenze di simboli<\/em> che per lui non hanno significato alcuno, a priori non potrebbe nemmeno sapere che corrispondono a dei suoni!<\/p>\n\n\n\n

Ma, dall\u2019esterno, una persona che legga il cinese e che veda introdurre un testo, per esempio una domanda, all\u2019interno della stanza, poi ne veda uscire la risposta e leggendola comprenda l\u2019attinenza della risposta rispetto alla domanda<\/strong>, penserebbe che all\u2019interno della stanza c\u2019\u00e8 effettivamente qualcuno che parla, anzi che scrive in cinese.<\/p>\n\n\n\n

Searle ha proposto questo \u201cesperimento mentale\u201d per mostrare come il test di Turing, del quale abbiamo parlato nel nostro primo articolo, dal titolo “Come l\u2019intelligenza artificiale si comporta nell\u2019imitazione del linguaggio<\/a><\/em>“, non fornisca un criterio adeguato per affermare che una AI comprende un testo, ma solo che \u00e8 in grado di manipolare simboli che hanno un significato solo per noi che li leggiamo.<\/strong><\/p>\n\n\n\n

Negli anni \u201980 l\u2019esperimento della camera cinese ha dato luogo a infuocati dibattiti fra informatici, psicologi e filosofi a proposito della possibilit\u00e0 o impossibilit\u00e0 della cosiddetta AI forte, cio\u00e8 una AI che sappia comportarsi come un essere umano in una generica situazione e non in un campo specifico<\/strong> (a differenza dei sistemi esperti allora in voga, per esempio).<\/p>\n\n\n\n

Possiamo ripetere per i LLM questi stessi interrogativi: per capire meglio se siano o meno una stanza cinese, o che senso abbia considerarli come tali, chiediamoci da dove viene l\u2019apparente capacit\u00e0 di comprendere il linguaggio che essi hanno<\/strong>. Intanto ricordiamo la struttura macroscopica (assai semplificata) di un transformer<\/em>, l\u2019algoritmo che \u201cpredice\u201d una sequenza di parole che ne segua un\u2019altra in modo che questa predizione incontri l\u2019aspettativa di chi legger\u00e0 l\u2019output:<\/p>\n\n\n\n

\"capiscono<\/p>\n\n\n\n

In sostanza questo algoritmo utilizza due reti neurali profonde: la prima per codificare le informazioni desunte dal testo<\/strong> (dalle parole e dalle loro posizioni nel testo, tradotte in numeri) in una forma interna che \u00e8 una sorta di \u201czip\u201d dei possibili esiti che il messaggio di input pu\u00f2 implicare; la seconda rete profonda decodifica questa forma interna \u201czippata\u201d <\/strong>in una sequenza che dar\u00e0 luogo al messaggio di output: nel caso della figura vediamo una rete addestrata a tradurre da una lingua all\u2019altra.<\/p>\n\n\n\n

Quindi che vuol dire che un LLM comprende? Che comprime! Il che non deve stupirci: la compressione<\/em> \u00e8 una forma di comprensione<\/em><\/strong>, perch\u00e9 quando comprimiamo una sequenza di dati, in modo da non perdere le informazioni che contengono (per intenderci ottenendo un file zip e non un file jpeg), ignoriamo tutte le ridondanze di quei dati lasciando solo le informazioni minime contenuti in essi che consentano di ricostruirli completamente.<\/p>\n\n\n\n

Insomma, forse non ha senso dire che una AI comprende un testo ma possiamo dire che lo comprime, che riesce a trovare l\u2019informazione minima nel nostro input e da essa ricostruire un output che la contenga e che elabori una risposta, per noi sensata, a partire da questa informazione. <\/p>\n\n\n\n

Anche se forse non \u00e8 il meccanismo che usa la nostra mente,<\/strong> il risultato \u00e8 compatibile <\/strong>con la nostra aspettativa di significato: in questo forse sta l\u2019essenza delle AI, non dobbiamo antropomorfizzarle, pensarle simili a noi solo perch\u00e9 producono risultati per noi intelligibili, ma presupporre che la loro comprensione e la loro conoscenza siano del tutto diverse dalle nostre e forse necessitino parole nuove per poter essere descritte in modo corretto.<\/p>\n\n\n