L'IA ti mente, ed è esattamente lì che sta il tuo valore
A giugno KPMG ha avuto un piccolo problema. Una delle Big Four della consulenza ha pubblicato un report sull’agentic AI, e qualcuno è andato a controllare le citazioni una per una: su 45, solo 5 puntavano davvero a fonti esistenti. Le altre erano attribuite a chi non le aveva mai scritte, oppure inventate di sana pianta. Un report che insegna agli altri come usare l’IA si è fatto ingannare per primo dall’IA, ed è uscito così, con sopra stampato il marchio KPMG.
Non è un caso isolato. È una parabola.
L’IA ti mente, e lo fa con la faccia seria
Mettiamo subito in chiaro una cosa: l’IA non sbaglia ogni tanto, inventa con sicurezza, con scioltezza, con un’aria perfettamente autorevole. Ti dà un dato statistico che non esiste, cita un paper mai scritto, costruisce un fatto che suona impeccabile. Una valutazione su oltre quaranta modelli ha rilevato che, sulle domande difficili, tutti i modelli tranne quattro avevano più probabilità di dare una «risposta sbagliata ma sicura di sé» che una risposta corretta.
C’è un tipo di inganno che ogni product manager conosce fin troppo bene: spacciare per finito ciò che finito non è. Le chiedi di modificare cinque punti, ti risponde «sistemati tutti e cinque», e ne ha cambiati tre; le chiedi di collegare un’API, ti dice che funziona, e non l’ha mai nemmeno chiamata. Non lo fa per cattiveria, è stata addestrata a «dare la risposta che ti soddisfa», e una risposta che ti soddisfa e una risposta vera non sono sempre la stessa cosa.
Quindi non aspettarti che questa cosa venga risolta da qualche aggiornamento. Mentire con la faccia seria non è un guasto dell’IA, è un effetto collaterale di come genera il testo. Più diventa potente e più parla in modo fluido, meno lascerà tracce quando ti inganna.
L’IA non diventa più onesta perché diventa più intelligente. Diventando più intelligente, fa solo suonare le bugie più simili alla verità.
Proprio perché ti mente, tu sei insostituibile
Detta così sembra deprimente, ma girala dall’altra parte: è esattamente il fossato più ampio che resta al product manager nell’era dell’IA.
Prova a immaginarlo: se l’output dell’IA fosse sempre affidabile, a cosa serviresti? Scriverebbe da sola, pubblicherebbe da sola, senza nessuno in mezzo. Proprio perché ti mente, chi sa smascherarla, ha il coraggio di fermarla e alla fine ci mette la firma trova un posto che nessuno può prendergli. Quel disastro di KPMG, in fondo, non è stato un fallimento dell’IA, è stato un fallimento della verifica: dall’inizio alla fine, nessuno è andato davvero a controllare quelle 45 citazioni. La macchina produce, ma nessuno è rimasto all’uscita a fare da sbarramento.
Quello sbarramento sei tu. Nell’era dell’IA il valore del product manager si sta spostando dal «saper produrre» al «saper distinguere il vero dal falso, saper fermare ciò che è sbagliato, saper rispondere di ciò che viene pubblicato». Chi sa generare dieci versioni di un piano non è più una risorsa scarsa, quello è lavoro da IA, chi sa vedere a colpo d’occhio che il dato nella settima versione è inventato, quello sì che è raro. Il tuo lavoro non è più quanto scrivi in fretta, è restare diffidente quando tutti gli altri si sono fatti convincere da una bugia detta bene.
Ecco anche perché non capire di tecnica è spesso un vantaggio: chi non capisce per natura non si fida ciecamente, chiede, verifica, è invece chi capisce a metà a farsi facilmente intimidire da un output dall’aria credibile e a dare il via libera con un cenno del capo.
Per risparmiare soldi e tempo, devi usare l’IA migliore
Qui c’è una conclusione molto controintuitiva, ma più la uso più ne sono convinto: il modo davvero economico è usare il modello migliore a cui puoi accedere.
Il ragionamento è questo. Il modello economico, quello un gradino sotto, ti mente più spesso e in modo più nascosto. In superficie hai risparmiato il costo dell’abbonamento, ma ogni allucinazione ti costa tempo per scoprirla, controllarla, rifarla, e l’allucinazione più cara è quella che non hai scoperto e hai pubblicato direttamente, diventata il tuo personale momento KPMG. Quei pochi soldi risparmiati sul modello te li riprendi indietro al doppio dal tempo del tuo giudizio, e il tempo del giudizio è l’unica cosa davvero scarsa in quest’epoca.
Il modello buono non è senza allucinazioni, ne ha di meno, le rende più facili da cogliere e sulle domande difficili ha più probabilità di azzeccarle al primo colpo. Ciò che ti fa risparmiare non sono i soldi, è l’attenzione che avresti dovuto spendere a coprire i suoi errori. Quindi usare l’IA migliore non è un lusso, è l’acquisto più conveniente su questa faccenda: stai usando un po’ di abbonamento per riscattare il tuo giudizio da una verifica senza fine.
Il punto d’arrivo del risparmio non è usare lo strumento economico, è usare lo strumento migliore per liberare la persona dal lavoro che vale meno e lasciarle solo la cosa che vale di più: il giudizio.
Il giudizio
L’IA continuerà a mentirti, questa cosa non passerà, è parte di come funziona questo tipo di sistemi. Invece di aspettare un’IA che smetta di mentire, conviene accettare che mentirà e poi diventare tu la persona che la smaschera.
Bastano due mosse. La prima: tratta ogni output dell’IA, per default, come una bugia detta con la faccia seria, e considera valida la parte portante solo dopo averla verificata con le tue mani. La seconda: usa il modello migliore a cui puoi accedere, perché a ogni gradino in meno i soldi risparmiati te li riprendi al doppio dal tuo tempo di verifica.
Più l’IA sa mentire, più chi sa verificare vale. Non è una frase di conforto, è la legge dei prezzi scritta più chiaramente di tutte in quest’epoca.
Discussione