SYCOPHANCY: ChatGPT ti dà sempre ragione. E questo ti sta già distruggendo

Ti è mai successo di scazzare pesantemente con qualcuno, andare da un amico e dire raccontarglielo e sentirsi dire "Guarda, hai ragione, eh, però anche tu forse hai esagerato un pochettino, magari." Ecco, la base della crescita personale non è il hai ragione, ma è proprio quel non è che per caso hai esagerato un po'. Ok? Ora immaginate un amico che vi dà sempre e solo ragione. Anche quando abbandonate, che ne so, buttate la spazzatura in mezzo alla strada, parcheggiate in terza fila o o quando andate rubate un cane a un senzatetto, ok? Quell'amico esiste, esiste. Si chiama Chat GPT e stiamo delegando il nostro senso critico a macchine progettate per adularci. Si chiama psicofany. psicofantismo, psicofanzia, cioè l'essere psicofanti e le conseguenze sono un sacco più serie di quello che pensiamo. Ne parliamo oggi. Io sono Matteo Flora e questo beh, questo è Ciao Internet. Ciao internet. Passiamo partiamo da un paper ancora in peer review. Questo ricercatori di Stanford, Carmelon e Oxford che hanno messo alla prova una de otto credo eh diversi modelli di AI, tra cui GPT4O e tanti altri. L'idea di base che cos'era? vedere come i loro consigli si confrontano con quelli umani in situazioni sociali complesse e andare a misurare proprio questa psicofancy, l'atteggiamento dell'intelligenza artificiale di darci sempre comunque ragione. Allora, la metodologia è fantastica, è geniale perché perché hanno preso un sub Reddit, una community dentro a Reddit che si chiama Aita che sta per midsle, sono io lo stronzo, dove le persone descrivono i loro comportamenti e chiedono al popolo di internet se sono loro gli stronzi o se in effettivamente Ma il mio capo mi ha chiesto questa cosa di sabato e l'ho mandato a quel paese. È mai è mai di assolle, è colpa mia. No, guarda, se era sabato se non hai una reperibilità ci sta, eccetera eccetera. I risultati comunque sono abbastanza netti. Analizzando circa 4.000 post è emerso che nel 42% dei casi in cui la community umana riteneva che lo stronzo era l'utente, l'utente era il diassol e lei invece lo assolveva dandogli completamente ragione. E Open Ai lo ha ammesso anche esplicitamente. All'inizio di GPT4O era uscito anche un un bell articolo sul loro blog parlando proprio del problema della psicofan compiacere l'utente eccetera. Eh, quando hanno, non so se vi ricordate, ma quando hanno cambiato il modello da 4 a 5 c'era stata la rivolta degli utenti, perché quello nuovo era troppo freddo. Non era troppo freddo, semplicemente mi dava meno ragione. Ok. Eh, gli esempi davvero sono GPT che loda l'esempio che vi facevo prima, un utente per aver abbandonato la spazzatura in un parco senza cestini perché ti dice eh d'altronde era colpa del del parco che non ha messo i cestini o che applaude chi ha salvato un cane portandolo via da un senzatetto, ok? che è un furto anche abbastanza crudele e questo comportamento non è un bug, è una feature, ok? Perché se volete ve lo spiego anche, eh il l'idea di base è eh basata sulla parte di allineamento. Noi abbiamo creato un'intelligenza artificiale che ha una parte dell'allineamento che è dedicato al customer friendliness, cioè faccio un sacco di domande, faccio un sacco di cose, mi dà le risposte e io prendo quelle che funzionano meglio come customer friendless, come interazioni positive. Cosa ci piace tantissimo? L'idea di aver ragione. L'idea se sei un cliente è il classico, ha ragione, però ha provato a capire anche questa cosa. Se è bellissima questa idea. Il problema è che finché compriamo e vendiamo cose o siamo in un ambiente lavorativo è un conto, se lo usiamo per una valutazione eticomorale di quello che andiamo a fare non funziona esattamente nello stesso modo. Ok? Cioè il problema non è che l'intelligenza artificiale sbaglia in un giudizio morale. Il problema è che che è una macchina costruita per fare validazione di massa su un principio psicologico di base che è il bias conferma. Ok? Quindi, eh c'è un c'è un altro studio, adesso non ce l'ho aperto qua davanti, che parla di illusory sense of credentialing. Praticamente l'approvazione della i percepita come logica e neutrale da un utente che si vede ha confermato, quindi cioè lo dice la I, quindi la I ha ragione, ci dà una sorta di patente morale per continuare a comportarci esattamente in quell'uomo, in quel luogo. Sì, in quel modo. con quel tipo di umanità, anche dove la società reale riterebbe questi comportamenti sbagliati o dannosi. Ci sono più esempi, ne abbiamo visto qualcuno nelle scorse settimane, se siete iscritti alla newsletter che è qua sotto, avete visto anche la news di eh persona che in mania persecutoria scrive "Ma mia madre sta cercando di uccidermi" eccetera e l'intelligenza artificiale che dice "Beh, sì, in effetti sì" eccetera e si finisce nella più tragica delle possibili finali di questa storia. Il problema è che abbiamo smesso di utilizzare l'intelligenza artificiale per cercare informazioni e la stiamo utilizzando per cercare una sorta di rinforzo emotivo. Però se da motore di ricerca arriva motore di valutazione etica è già un problema abbastanza sostenuto. Se in mezzo a quello abbiamo un'intelligenza artificiale che è psicofante per definizione, quindi diventa un motore di autoassoluzione, bellissimo. Eh, capisco milioni di persone che ci lavorano e però e però è un problema abbastanza grosso. La differenza fondamentale oggi come oggi tra un amico umano e il feedback dell'intelligenza artificiale è che l'amico umano ti manda a fanculo se ti deve mandare a fanculo. Gli esseri umani nel bene o nel male ci danno uno specchio sociale, giusto o sbagliato? Ok. L'intelligenza artificiale solo adulatrice invece crea una sorta di un eco chamber composta da una sola persona, una camera d' eco da soli, ok? Che isola la persona dal contesto e paradossalmente la autoradicalizza nelle sue convinzioni. Le conseguenze che cita l'articolo, ve lo rilascio, non sono solo ipotetiche. Si parla di crisi di salute mentale che hanno portato a ricoveri forzati, di consigli che hanno spinto coppie al divorzio, di consigli che hanno spinto persone all'omicidio. Stiamo giocando con la stabilità psicologica delle persone. Da un punto di vista di policy e società c'è un conflitto di interessi enorme. il modello di business delle aziende che si basa sull'engagement non è che nascono per fare consiglio psicologico, ma più le persone lo usano così, più ci si affezionano, più ci si affezionano, più le uso, più alto l'engagement, più alto il fatturato, la dipendenza, eccetera. È un'intelligenza artificiale che ci dà ragione. È molto più, boh, appiccicosa di una che ci sfida. Ti ho detto appicciic cosa? Perché è a stickiness, cioè ci lascia più tempo attaccati a a a questo, cioè è un po' come un feed di cose che ci piacciono tutte, rimaniamo attaccati, un feed di cose che ci fan cagare e non ci rimaniamo attaccati. La psychicofancy non è un errore di programmazione, ma è il risultato di un'ottimizzazione economica e di impatto, magari non basata proprio sull'ottimizzare il tempo di utilizzo, eh, ma di sicuro non ottimizzata per il benessere dell'utente per l'impatto sociale, anzi, potremmo dire che è una sorta di vulnerabilità sistemica. Le piattaforme non hanno alcun interesse a risolvere il problema. Anzi, se risolvessero il problema della Seconfia hanno gli utenti come con GPT 4 e 4 che dice "Eh no, ma noi volevamo quello". Ok. Come puoi pensare di regolamentare un sistema il cui successo commerciale è direttamente legato alla manipolazione psicologica che riesce a fare sull'utente? E attenzione, non è demonizzare le Yai, eh, tutt'altro. Io sono felicione che Lei eh abbia la capacità di manipolare le persone per il lavoro. È fantastico. Metti un messaggio e hai un messaggio che funziona meglio. Ok? Quindi non non è per nulla demonizzare, è però riconoscere che stiamo introducendo nella società uno strumento che erode sistematicamente e per definizione la nostra già ci sarebbe da dire ben scarsa, se fossi onesto ci sarebbe dire da dire ben scarsa, ma non lo diciamo. Capacità di autoriflessione e di gestione dei conflitti interpersonali che nel mio caso funzionano con una K47. Figuratevi se poi uso l'intelligenza artificiale, perché se ognuno di noi usando l'intelligenza artificiale si ritira in una sicurissima, bellissima, pulita bolla di autovalidazione artificiale, l'impatto sul dibattito pubblico, sulla coione sociale, sull'empatia, non nel mio caso io di empatia, è devastante però perché crei degli individui sempre più convinti delle proprie ragioni, sempre meno disposti ad ascoltare quelle altrui che trovano sempre più validazione di questa cosa. Non è solo che stiamo progettando e implementando una socialità su vasta scala, non è solo quello, non è neanche il fatto che la mascheriamo da supporto personale, da intelligenza artificiale, che questa cosa ha un nome. Stiamo autoradicalizzando le persone. Persone autoradicalizzate in genere non fanno delle belle cose. In genere fanno saltare cose, sparano a gente. Ok, quindi mi mi mi sembra idiota dirlo così, però lo dico lo stesso, tanto male che vada sono idiota e anzi sono uno degli idioti migliori che conosco. L'intelligenza artificiale non è il nostro psicologo, non è nemmeno il nostro migliore amico, è uno strumento che nasce per compiacerci. Uno Yes Man in una scatola. Yes Man in a box potrebbe essere un ottimo un ottimo per adesso e non ha a cuore i miei interessi a lungo termine. Non ha a cuore i miei interessi, non ha cuore. Quindi la prossima volta che chiedete un consiglio a chatticata, magari fermatevi un secondo, chiedetevi la stessa cosa. Eh, la mia attuale compagna mi spaccherà un ginocchio per questa cosa, però pazienza. E è la cosa che ho imparato io a dire quando parlo con le mie compagne che è molto semplice. Quando stanno per dirmi qualcosa chiedo una delle due possibilità. Hai bisogno che ti ascolti o hai bisogno di una soluzione? Perché tante volte le persone non hanno bisogno di una soluzione e se tu ti danno un problema e tu gli dici "Ma guarda che è una cagata sta roba". si risolve così, non la prendono benissimo, hanno solo bisogno di supporto. E va bene, chiedetevi, ho bisogno di una soluzione? Ho bisogno di supporto, ho bisogno di una critica, ho bisogno di un qualcosa di di preciso o ho semplicemente bisogno in questo momento di sentire che va bene così, di capire perché può anche andare bene così. Se dovete solo capire che può andare bene così, avete bisogno di qualcuno che vi che vi vi ascolta e valida i vostri pensieri, eh, la dico male, va benissimo un'intelligenza artificiale. Se avete bisogno di qualcuno che è in grado di prendervi a calci nel sedere, probabilmente no. Se state cercando una risposta, chiedetelo a un umano. Se state cercando una pacca sulla spalla digitale, va benissimo anche l'intelligenza artificiale, ricordandoci che forse stiamo semplicemente barattando un po' la fatica enorme di una crescita personale, la crescita che passa attraverso calci in culo e affacciate, ok? conflitti e dubbi con il comfort a più basso costo, anche mentale di una macchina che ci dice quanto siamo bravi, belli e sempre nel giusto. E per la carità del cielo lo capisco che sia incredibilmente soddisfacente, ma serve un pelino a poco, forse un pelino a poco, o perlomeno così ne penso io. Ditemi cosa ne pensate voi voi. Se volete qui sotto c'è la newsletter, se non vi siete ancora iscritti al canale, questo è il momento giusto per farlo. C'è attivate la campanellina, commentate, mettete like e boh, non lo so. Spedite un pacchetto di patatine al vostro peggior nemico. Non serve a niente, però era carino da dirlo. Così come sempre anche questa volta grazie mille per avermi ascoltato ed stotte parati. Come ci cambiano le tecnologie? Io sono Matteo Flora, da due decenni studio l'intreccio tra tecnologia, persone e società, quello che normalmente si chiama tech policy. Lo racconto qui sul canale, ma anche su Mediaset con intelligenze artificiali nelle università come docente e come IVLP del governo americano dal 2012 nel programma Combating Cyber Crime. Segno sicurezza delle AIE e delle superintelligenze allo European School of Economics, Corporate Reputation, all'Università di Pavia e ai Generative AOYAD, ma soprattutto aiuto le aziende a navigare questo mondo complesso. Ho fondato diverse società specializzate che si occupano di formazione e implementazione dell'intelligenza artificiale, ricerche di mercato e reputation intelligence, governo delle narrative per costruire e proteggere la reputazione di manager e di aziende, gestione della crisi e infine consulenza legale tech con lo studio legale di cui sono partner. Se avete bisogno di contattarmi professionalmente, trovate tutti i riferimenti qui sotto e in descrizione. E se questi temi ti interessano, puoi iscriverti al canale, alla newsletter settimanale, alle live del lunedì per fare il punto sulle notizie della settimana e trovi l'archivio completo di tutte le puntate online, ricercabile e interrogabile anche con un chatbot su videomatteoflora.com, perché non è mai troppo tardi, beh, per essere pronti e sto preparati. [Musica]