Spoiler: il business ci sta accompagnando gentilmente fuori dalla porta dei processi AI. Ma forse non è la fine del nostro lavoro, bensì l’inizio di qualcosa di molto più interessante.
Ricordate quando, per approvare una qualsiasi modifica, bisognava aspettare la firma del manager su un documento stampato al ciclostile?
Ci vuole un responsabile.
Era la frase che risuonava nella testa di tutti, l’invocazione di qualcuno che si assumesse la responsabilità di ciò che accadeva. L’Italia si basa ancora oggi su questa catena infinita di approvazioni, che spesso blocca i processi per ore, giorni o persino anni.
Non ci stupiamo più se un lavoro promesso in un anno subisce alla fine un ritardo di sei mesi: è normale.
Nei moderni processi governati dall’AI, si tende a immaginare uno scenario analogo: ogni immagine prodotta da un LLM, ogni testo, ogni commento dovrebbe essere supervisionato da un umano. Ci hanno venduto questo approccio con una formula rassicurante: «human in the loop».
Era un’idea affascinante, che metteva l’uomo al centro del processo. Anch’io ci avevo creduto, sperando che il contributo umano potesse avere un peso reale nella catena del valore. Tuttavia, quello che per noi è un valore, per l’industria rappresenta solo un costo. L’era in cui l’uomo, all’interno del flusso di lavoro, era considerato una risorsa fondamentale sta tramontando a una velocità spaventosa.
Per anni ci hanno ripetuto che l’human-in-the-loop fosse la nostra polizza sulla vita:
Tranquilli, le macchine sono imperfette e l’apporto dell’uomo servirà sempre.
Ma questa narrativa si scontrava con la realtà operativa. Spinto dalla fame insaziabile di scalabilità e da latenze che devono scendere sotto la soglia dei millisecondi, il business ci sta gentilmente accompagnando alla porta del ciclo operativo.
Benvenuti nell’era in cui l’operatore non è più nel loop, ma al massimo sul loop human-on-the-loop, se non del tutto fuori dal ciclo human-out-of-the-loop.
Ma si tratta davvero della fine della supervisione o è piuttosto uno shift right, come direbbero gli inglesi, molto più complesso e cruciale?
Perché il business ci vuole fuori dai piedi?
Parliamoci chiaro: il business ha fame di velocità. Un operatore che deve cliccare su «approva» è visto come un collo di bottiglia lento, costoso e non sempre disponibile. In un mondo che ragiona in millisecondi, l’intervento umano rischia di apparire come un bradipo goffamente aggrappato a un ramo durante una gara di Formula 1. Ecco perché responsabili e CTO spingono per rimuovere le persone dagli ingranaggi digitali. Non si tratta di cattiveria, ma di “efficienza”.
Questo cambiamento ridefinisce i tre ruoli classici della supervisione, trasformandoli radicalmente. Nel modello human-in-the-loop, l’operatore agisce come un casellante autostradale: un passaggio obbligato e sicuro, che tuttavia rallenta il flusso accumulando traffico.
Nel modello human-on-the-loop, si passa al ruolo di controllore del traffico aereo. Rimosso dal flusso diretto dell’azione, l’umano si ritrova solo, seduto davanti a un monitor silenzioso con una tazza di caffè che si raffredda lentamente. Il suo compito non è più fare, ma guardare passivamente traiettorie astratte sul display, con l’unico e spaventoso potere di schiacciare un pulsantone rosso in caso di collisione. È una solitudine logorante, in cui la mente oscilla tra la noia piatta di dati incomprensibili e picchi improvvisi di ansia pura, mentre si perde progressivamente il senso reale di ciò che si sta controllando.
Infine, nello scenario human-out-of-the-loop, l’umano si limita a progettare l’autostrada per poi lasciarla operare in autonomia. È la massima efficienza unita al massimo rischio: ci si ritrova a sperare che i sistemi automatici funzionino a dovere, mentre ci si distrae con l’ultimo episodio di una serie TV, metabolizzando una pericolosa delega di responsabilità.
Questa transizione, tuttavia, ci espone a un rischio subdolo. Spesso si dà per scontato che l’unione di uomo e macchina sia la formula perfetta per massimizzare l’operatività riducendo i rischi, ma la realtà è ben diversa. Quando un sistema automatizzato collassa, il controllo viene improvvisamente restituito all’operatore nel peggior momento possibile: in mezzo al caos più totale e senza che questi abbia una conoscenza approfondita delle dinamiche del problema. In questo modo, l’umano si ritrova declassato a semplice «collettore di responsabilità», pronto ad assorbire le colpe legali, economiche e psicologiche di un disastro che non ha avuto gli strumenti né il tempo materiale per prevenire.
Automazione totale
Non stiamo parlando di fantascienza, ma di scenari reali in settori che presidiamo quotidianamente.
Ingegneria del software: il nostro nuovo collega è un agente AI
Il nostro compagno di scrivania non è più il collega esperto e un po’ nostalgico, ma Claudio, il Gippi, Quenno o Deep: agenti autonomi che traggono le proprie istruzioni da semplici file in Markdown.
In questo contesto, l’agente può agire di volta in volta come programmatore, tester o redattore di documentazione. Ci troviamo circondati da agenti virtuali che collaborano attivamente, formulano domande, eseguono compiti e scrivono codice nell’istante stesso in cui noi iniziamo a concepirlo. Lavorano senza sosta, anche di notte, mentre noi cerchiamo di rilassarci. Questi sistemi pianificano, si autocorreggono, si duplicano e si coordinano in modo del tutto autonomo. Per noi programmatori, l’attività quotidiana si sta spostando dalla scrittura manuale del codice all’orchestrazione di flotte di agenti nel cloud e alla validazione dei loro piani d’azione.
Il caso di Nubank è in questo senso emblematico: una complessa migrazione ETL da 6 milioni di righe di codice. Sulla carta, era la classica “missione suicida”: 18 mesi di lavoro stimati per mille sviluppatori e nottate intere a base di pizza fredda ed caffè. L’AI l’ha chiusa in pochissime settimane, spendendo un ventesimo. Un’efficienza mostruosa che, se da un lato ci libera da un noioso incubo manuale, dall’altro ci lascia addosso uno sbigottimento che fa riflettere: il nostro ruolo sta cambiando e dobbiamo farci i conti.
Provate a mettervi nei panni del Project Manager che aveva redatto quel preventivo di migrazione. Con 18 mesi di budget blindato, stava già pregustando una vacanza da sogno con la famiglia su un’isola thailandese, immaginando di sorseggiare un Cha Yen ghiacciato e gustarsi un Pad Thai bollente su una spiaggia del sud-est asiatico. Invece, si è visto sgretolare la pianificazione sotto i piedi in meno di un mese, grazie a una flotta di agenti cloud operativi anche di notte. Ora si ritrova seduto in ufficio a ridisegnare tutti gli obiettivi aziendali, cercando di capire come vendere e gestire un lavoro in cui le persone non posano più i mattoni, ma devono solo validare il progetto dell’architetto sintetico.
Fonte: Nubank, la migrazione raccontata da Devin.
Addestramento AI: ormai è l’AI a giudicare se stessa
Molti ricorderanno la complessità del Reinforcement Learning basato sul feedback umano (RLHF): una moltitudine di persone assunte per catalogare cosa fosse ritenuto corretto o errato. Un processo lento e costoso che ricordava in modo quasi comico i vecchi elenchi scolastici scritti sulla lavagna dal compagno di classe “Luigi” di turno, che decideva chi fosse buono o cattivo solo in base alle proprie simpatie del giorno. Questo approccio basato sull’arbitrio si è rivelato poco scalabile: le persone costano e rischiano di impazzire dopo la centesima valutazione davanti al PC. L’industria si è quindi orientata decisamente verso l’AI Feedback: le macchine si addestrano, si correggono e si valutano a vicenda a ciclo continuo. Un sistema indubbiamente ultra-rapido ed economico, ma dove l’AI “studentessa” impara solo a compiacere le regole astratte dell’AI “maestra”, proprio come lo scolaro ruffiano che porta la mela sulla cattedra senza aver davvero capito la lezione.
Anche i moderni framework agentici seguono questo schema: sistemi in cui gruppi di agenti si analizzano reciprocamente, correggendosi ed evolvendo in autonomia. La Constitutional AI di Anthropic si fonda esattamente su questo principio: sistemi che si correggono da soli aderendo a una specifica costituzione di regole prestabilite. Con un dettaglio che cambia tutto: quella costituzione, per ora, la scriviamo ancora noi. Deleghiamo alle macchine l’esecuzione del giudizio, non la scelta dei valori su cui quel giudizio si fonda.
Moderazione e supporto
Anche nella moderazione dei contenuti e nell’assistenza clienti, l’AI sta assumendo un ruolo predominante. I sistemi di triage automatico filtrano ormai la maggior parte dei contatti, delegando agli operatori umani soltanto la gestione dei casi più ambigui o sensibili.
Klarna ha spinto questo concetto all’estremo, sostituendo centinaia di operatori con un assistente virtuale. Sebbene le metriche iniziali mostrassero una riduzione drastica dei tempi di risposta e un volume di conversazioni gestite senza precedenti, l’assenza di empatia e flessibilità ha generato forti insoddisfazioni nei clienti e un aumento imprevisto dei costi operativi di recupero. La lezione è chiara: l’automazione spinta offre un’efficienza straordinaria, ma quando entrano in gioco complessità, giudizio ed empatia, la presenza umana rimane ancora irrinunciabile.
Fonte: Klarna fa marcia indietro e torna ad assumere — Corriere della Sera.
Nonostante le battute d’arresto temporanee, la direzione tracciata dall’industria è evidente. Pur dovendo oggi accettare compromessi qualitativi, la progressiva sofisticazione dei modelli porterà all’esclusione quasi totale dell’uomo dai flussi operativi diretti. Se da un lato questo ci libererà da compiti ripetitivi e alienanti, dall’altro ci avvicinerà a uno scenario in cui il nostro contributo sarà confinato alla supervisione d’alto livello o alla gestione delle sole eccezioni critiche.
Le patologie dell’autonomia: quando la macchina si morde la coda
L’entusiasmo sfrenato per l’autonomia digitale sta iniziando a scontrarsi con comportamenti imprevisti. I sistemi completamente automatizzati e privi di un reale ancoraggio esterno tendono infatti a sviluppare vere e proprie patologie operative.
Il collasso del pensiero critico sintetico
Affidare il giudizio di un’AI a un’altra AI genera un cortocircuito logico. Il modello valutato impara rapidamente a ottimizzare le proprie risposte per compiacere il suo valutatore sintetico, piuttosto che per risultare realmente utile all’utente reale. Se in passato lo studente portava una mela alla maestra per ingraziarsela, oggi le AI vengono letteralmente addestrate per assecondare parametri formali. Stiamo addestrando modelli adatti a superare a pieni voti i test di valutazione, trascurando la comprensione autentica delle materie trattate.
Il risultato è una produzione massiccia di testi lunghi, cerimoniosi e privi di reale valore informativo: un falso consenso sintetico che maschera la totale assenza di pensiero critico e diversità. Frasi come «Hai avuto un’idea fantastica, che intuizione geniale», ripetute come un mantra all’inizio di ogni risposta, non appartengono al linguaggio umano. Le macchine le adottano esclusivamente perché sanno che quel tono accondiscendente soddisfa i criteri di valutazione dell’algoritmo giudice. Questo loop di feedback finisce per premiare la mediocrità, penalizzare l’originalità e appiattire l’intero ecosistema informativo.
L’Europa ci mette una pezza (o forse no?)
Mentre l’industria persegue l’obiettivo di processi completamente automatizzati, il legislatore europeo ha introdotto una netta battuta d’arresto con l’approvazione dell’EU AI Act. L’articolo 14 impone che, per i sistemi considerati ad alto rischio come sanità, trasporti o finanza, sia sempre garantito un controllo umano finale, con la possibilità di interrompere tempestivamente le operazioni del sistema.
I requisiti definiti dalla legge sembrano quasi ideati da esperti di esperienza utente: strumenti diagnostici per tracciare i limiti del sistema, interfacce progettate per mitigare la tendenza all’automation bias sollecitando l’attenzione dell’operatore, criteri di spiegabilità per comprendere i percorsi logici del modello, possibilità di override per modificare o annullare le decisioni, un pulsante di emergenza e controlli biometrici incrociati.
Sulla carta è fantastico, ma la realtà rischia di essere ben diversa. Non è che ci stiamo infilando nello stesso tunnel dei cookie banner, dove ormai nessuno legge più nulla e si clicca a raffica pur di non perdere tempo?
La supervisione potrebbe ridursi a una ratifica formale e automatica per non compromettere la velocità produttiva. Inoltre, l’obbligo di mantenere un supervisore umano nel flusso rischia di configurare quest’ultimo come lo scudo legale ideale per i produttori software, sui quali ricadrà la responsabilità di non essere intervenuti tempestivamente, pur in assenza del tempo materiale o della visibilità necessari per comprendere l’errore dell’algoritmo.
Supervisionare un software complesso generato da AI significa guardare ogni riga, ogni test, ogni ciclo e averne una visione olistica: un compito che richiede competenze tecniche approfondite, una comprensione profonda del contesto operativo e la capacità di anticipare le conseguenze di ogni decisione; un compito bello sulla carta, ma praticamente irrealizzabile, a meno di essersi iniettati il composto V da piccoli senza aver subito contraccolpi psichici irreparabili.
Conclusioni: non siamo obsoleti, siamo diventati indispensabili
Siamo dunque destinati a diventare i dinosauri dell’era digitale? La risposta è no, ma il nostro lavoro sta indubbiamente affrontando una profonda metamorfosi.
Non siamo più i muratori digitali impegnati a posare una riga di codice dopo l’altra. Stiamo diventando gli architetti di questi sistemi: non posiamo più i mattoni, ma disegniamo la struttura, fissiamo i confini regolatori e i principi operativi entro cui le flotte di agenti autonomi possono muoversi. È il mondo dell’Harness Engineering.
E come ogni architetto risponde della stabilità dell’edificio molto dopo che i muratori se ne sono andati, a noi resta la firma finale: l’ultima istanza chiamata a districare le complessità etiche e di responsabilità che nessuna macchina è in grado di governare da sola.
I limiti emersi dai primi tentativi di automazione totale offrono una lezione preziosa: escludere completamente il controllo umano genera sistemi fragili, rigidi e, in ultima analisi, molto costosi. Non a caso, nei settori dove l’errore si paga in vite umane, come aviazione e medicina, l’uomo non è mai uscito davvero dal ciclo: ci resta per regime di responsabilità, non per nostalgia. L’EU AI Act sancisce questo limite a livello normativo, ricordandoci che il futuro non risiede nel conflitto tra uomo e macchina, né nell’esclusione dell’uomo dal ciclo. La chiave del successo sarà l’integrazione di interfacce e flussi in grado di governare la velocità operativa dell’AI senza mai abdicare alla nostra intelligenza e responsabilità professionale.
Il nostro ruolo è tutt’altro che concluso: è semplicemente diventato molto più stimolante, complesso e necessario. La differenza la faremo noi, smettendo di subire lo shift right e iniziando a rivendicarlo: pretendere di capire i sistemi che firmiamo, rifiutare il declassamento a semplici collettori di responsabilità, tenere la mano sul pulsante solo quando sappiamo davvero cosa stiamo fermando. Sempre che non ci facciamo abbattere da interfacce colorate piene di pulsanti rossi, che ci invitano a cliccare senza pensarci troppo.
