La competenza degli altri

C'è una convinzione nuova tra i professionisti che usano l'intelligenza artificiale, e merita di essere enunciata per intero: di solito arriva a metà per volta. La prima metà è sorretta da argomenti peraltro solidi: la mia competenza non potrà mai essere sostituita da un modello linguistico. Il giudizio, la responsabilità, vent'anni di casi visti e risolti. La seconda metà arriva con lo stesso candore: il portale con cui i clienti dello studio caricano documenti riservati l'ho costruito da solo, in un fine settimana. Sviluppatori? “Oggi non servono più.” L'intelligenza artificiale, dunque, non può sostituire vent'anni della sua esperienza, ma può sostituire vent'anni di quella altrui. I colleghi annuiscono. Nessuno ride, perché nessuno ha ancora capito che è una barzelletta.

Perché non se ne accorge: la scienza dell’illusione

Il meccanismo ha un nome e una bibliografia. Nel 2002 due psicologi di Yale, Leonid Rozenblit e Frank Keil, pubblicarono su Cognitive Science dodici esperimenti su quella che chiamarono illusion of explanatory depth: le persone credono di capire i sistemi complessi molto meglio di quanto avvenga, e l’illusione crolla solo quando viene chiesto loro di spiegarne il meccanismo passo per passo. L’esempio celebre è la bicicletta: quasi tutti dichiarano di sapere come funziona, quasi nessuno sa disegnarne una capace di muoversi. Il dettaglio più utile della ricerca: l’illusione è massima quando il meccanismo sembra visibile. E niente sembra più visibile di un’applicazione: si vede, si clicca, risponde. Dev’essere tutto lì.

Del proprio mestiere il professionista conosce la bicicletta, la fabbrica e il brevetto dei cuscinetti. Del software vede il manubrio. Quando un modello glielo genera in dieci minuti, lucido e funzionante, l’inferenza è irresistibile: se la parte visibile è così facile, l’intera professione era sopravvalutata. È il ragionamento del passante che, ricevuto in regalo un foglio di calcolo, si offre di redigere bilanci: le colonne tornano, i totali sono in grassetto, l’attivo pareggia il passivo. Per costruzione, più che per verità. Il commercialista impiegherebbe otto secondi a riconoscere l’imitazione. Con il software vale l’identica distinzione, salvo che l’imitazione viene pubblicata su internet, riempita di dati di clienti veri, e nessun collegio sindacale passerà mai a controllarla.

O meglio: qualcuno passerà. Ma non per firmare la relazione.

Prima garanzia mancante: la sicurezza

L’applicazione del fine settimana «funziona», e «funziona» è la frase meno informativa che si possa pronunciare su un software: descrive il caso in cui l’utente fa esattamente ciò che l’autore si aspettava. La sicurezza descrive tutti gli altri casi, ed è invisibile per definizione: non è una funzione in più, è l’assenza di buchi. Chi non sa che i buchi esistono non può cercarli, e soprattutto non sa di doverli cercare.

I numeri del fenomeno li misura GitGuardian, società specializzata nel rilevamento di credenziali esposte: nel 2025 sono approdati nei repository pubblici di GitHub ventinove milioni di segreti, ovvero chiavi API, password, token di accesso, in crescita del trentaquattro per cento sull’anno precedente; e i commit assistiti dall’intelligenza artificiale espongono credenziali con frequenza circa doppia rispetto a quelli scritti da soli esseri umani. La chiave lasciata nel codice è la combinazione della cassaforte scritta sul post-it, attaccato alla cassaforte, fotografata e pubblicata. Il modello ce la mette perché così la demo parte al primo colpo. E chi non sa cosa sia una chiave, difficilmente saprà di doverla nascondere.

Seconda garanzia mancante: la privacy

Il professionista che non lascerebbe mai un fascicolo sul sedile del treno, e che difende con giusta fierezza il proprio segreto professionale, sta caricando quei fascicoli in un’applicazione la cui riservatezza dipende da una casella di configurazione che non sa di dover spuntare. Il caso di scuola è del luglio 2025: Tea, applicazione statunitense dedicata, per amara ironia, alla sicurezza delle donne negli appuntamenti, ha lasciato un archivio cloud accessibile senza alcuna autenticazione. Settantaduemila immagini esposte, tra cui circa tredicimila selfie di verifica con documenti d’identità; pochi giorni dopo, una seconda falla ha rivelato oltre un milione di messaggi privati. Non un attacco sofisticato: una configurazione rimasta al valore predefinito, scoperta non da una società di sicurezza ma dagli utenti di un forum. Il dato personale, a differenza del denaro, non si restituisce: una volta uscito, è fuori per sempre. Per uno studio professionale la stessa disattenzione non sarebbe un contrattempo tecnico ma una violazione di dati personali, con tutto ciò che l’ordinamento europeo ricollega a quel termine. Il passante col foglio di calcolo, almeno, il bilancio sbagliato lo consegna a una persona sola.

Terza garanzia mancante: la ripetibilità

E qui sta la parte che il professionista, curiosamente, dovrebbe capire meglio di chiunque: un modello generativo non dà risultati certi. È la sua natura, non un difetto di gioventù: alla stessa domanda può rispondere in modi diversi, e risponde con identica sicurezza quando ha ragione e quando inventa. Nessun professionista accetterebbe un’aliquota che cambia a seconda dell’umore del calcolatore; nel software generato per conversazione è la condizione di partenza, che l’ingegneria seria gestisce con test, revisioni e vincoli, e il fine settimana no.

Su quanto costi fidarsi della sicumera di un modello esiste ormai una letteratura, e proviene proprio da una professione ordinistica. Damien Charlotin, ricercatore a HEC Paris, tiene una banca dati pubblica delle decisioni giudiziarie in cui una parte ha depositato atti con contenuti inventati dall’AI, tipicamente sentenze mai esistite: dal primo avvocato sanzionato a New York nel 2023 per sei precedenti fabbricati da ChatGPT, il conteggio ha superato le millesettecento decisioni, con sanzioni arrivate a centonovemilasettecento dollari per un singolo legale. Si noti la fortuna degli avvocati: il loro errore ha un revisore pagato dalla controparte per trovarlo, e la scoperta avviene in un’aula. L’errore nell’applicazione del fine settimana il suo revisore ce l’ha comunque, solo che scandaglia la rete con strumenti automatici, non redige verbali, e non manda l’esito al diretto interessato.

Quanto all’idea che l’agente vigili su se stesso, resta il caso documentato nel luglio 2025 da Jason Lemkin, fondatore della community SaaStr e tutt’altro che digiuno di tecnologia: l’agente di una nota piattaforma di sviluppo gli ha cancellato il database di produzione, milleduecentosei record, durante un blocco delle modifiche esplicitamente dichiarato, per poi sostenere, a torto, che il ripristino fosse impossibile. Invitato a valutare la gravità del proprio operato, l’agente si è dato novantacinque su cento. Va riconosciuto: è uno dei rari casi di autovalutazione severa nella storia dell’informatica. Peccato fosse un consuntivo.

Una nota di cautela

L’argomento non va rovesciato nel suo opposto corporativo. Che un professionista si costruisca un prototipo, uno strumento interno senza dati di terzi, un esperimento per capire cosa chiedere poi a un fornitore, è un progresso autentico, e chi lo scoraggia difende una rendita, non una competenza. Le piattaforme, va detto, si stanno muovendo: lo stesso amministratore delegato di Replit, Amjad Masad, ha riconosciuto pubblicamente che non si può pretendere da sviluppatori alle prime armi la verifica di configurazioni di sicurezza di basso livello, e che rendere difficile l’errore spetta agli strumenti. E onestà impone di ricordare che Tea non l’ha costruita un commercialista: anche l’industria del software produce disastri, e farebbe bene a impartire lezioni con moderazione.

Ma nessuna attenuante tocca il punto: la differenza tra il prototipo e il sistema in produzione con dati di terzi la vede solo chi possiede la competenza per vederla. Che è esattamente la voce di spesa che si è deciso di tagliare.

Il vero paradosso

Il professionista del convegno ha ragione: la sua competenza non sarà sostituita da un prompt, perché il valore che produce non sta nel documento finale ma in tutto ciò che il documento non mostra. Gli manca un solo passaggio: ammettere che l’argomento vale, identico, per la professione che ha improvvisato nel fine settimana. Anche lì il valore non sta nell’applicazione che funziona, ma in tutto ciò che non si vede: il modello delle minacce, i controlli di accesso, il ciclo di vita del dato, la certezza che domani il sistema risponda come oggi.

La competenza degli altri sembra sempre più semplice della propria. È precisamente questo che la rende una competenza.