Nei giorni scorsi Anthropic (produttrice di Claude, uno dei più diffusi chatbot di intelligenza artificiale generativa come ChatGPT, Gemini, Copilot e simili) ha annunciato che, a breve, Claude genererà da solo le future versioni di se stesso [pdf inglese, pdf italiano]. In una parola: le macchine si autoprogrammeranno.
Gli informatici lavorano da almeno trent’anni su programmi di ottimizzazione che si automigliorano. Ciò che colpisce dell’annuncio è la velocità con la quale si stanno producendo grandi cambiamenti (Claude è stato lanciato nel 2023) e il fatto che essi sono il frutto delle ingentissime risorse che operatori privati stanno investendo nel settore.
Lo scenario delineato innesca alcune riflessioni.
A. Il governo dell’evoluzione delle macchine. Esiste una velocità tecnologica ed una ben più lenta velocità istituzionale. Quando il processo è molto veloce è probabile che le istituzioni chiamate a disciplinarlo non siano in grado di intervenire prima che gli effetti siano già diventati immodificabili. Occorre attuare precise strategie come ad esempio: (i) le istituzioni pubbliche devono avvalersi di esperti interni senza affidarsi ai lobbisti delle aziende (un parlamento che non capisce tecnicamente ciò che vuole regolare difficilmente produrrà regole buone); (ii) siccome le leggi in questo campo diventano obsolete prima di essere approvate, è meglio stabilire principi e processi e non stilare liste di comportamenti vietati.
B. I rischi cui siamo esposti. Il governo di questi cambiamenti serve ad evitare che si concretizzino rischi pregiudizievoli per “noi umani”. Ad esempio: (i) concentrazione di potere economico e decisionale in poche aziende private; (ii) erosione dei mercati del lavoro più veloce della capacità di riqualificazione delle persone; (iii) uso dei sistemi a fini di disinformazione, sorveglianza, manipolazione elettorale. Il rischio più grande, come già ventilato, è non essere in grado di correggere ciò che sta avvenendo finendo per accettare la possibilità che i sistemi pongano a se stessi obiettivi che divergono da quelli umani.
C. L’AI generativa nella nostra quotidianità. Per noi cittadini tutto sembra accadere sopra le nostre teste. In realtà non è così perché l’intelligenza artificiale generativa sta cambiando alacremente il nostro modo di lavorare.
Faccio degli esempi nei settori che conosco meglio, il mondo della giustizia e quello dell’insegnamento universitario, ma le cose non stanno in modo tanto diverso per medici, giornalisti e moltissimi altri lavori.
Per un avvocato o un giudice l’AI generativa (usata come ausilio e non come sostituto) può essere adoperata per analizzare e sintetizzare i documenti della causa, per fare ricerche più mirate sulle banche dati, per redigere bozze di documenti, per confrontare i testi delle diverse stesure di contratti lunghi e complessi, per automatizzare le routine lavorative, e così via. Si tenga conto che sono state immesse sul mercato decine di piattaforme di AI specificamente dedicate al mondo legale [un inventario può leggersi qui].
Nel mondo dell’insegnamento (non solo universitario) l’AI generativa può essere usata per costruire interi percorsi didattici, ovvero come supporto alla valutazione, o, ancora, come rilevamento dei casi di plagio. E può essere usata per testare la tenuta di nuove teorie scientifiche (in un saggio dal titolo “A proof of an identity for the critical exponents of jamming” [pdf] il premio Nobel Giorgio Parisi ha specificato che la prova di quanto dimostrato era stata ottenuta tramite l’interazione con Claude verificata dagli autori). Soprattutto occorre considerare che gli studenti già usano questi strumenti (ancora una volta, sul mercato esistono piattaforme specificamente destinate a chi apprende e che offrono strumenti per redigere sintesi dei libri di testo, schemi di ricerca, bozze di elaborati e simili): compito dei professori diventerà sempre più quello di guidare i ragazzi ad un uso efficace e al tempo stesso critico di questi strumenti.
D. Cosa possiamo fare come utenti. Ciò che sta accadendo, a velocità vertiginosa, è qualcosa rispetto alla quale non è possibile restare fuori (pena il subire e basta). Non è particolarmente fecondo l’atteggiamento di chi osserva in attesa di sapere se e come usare al meglio questi strumenti. Se si omette di mettersi in gioco in prima persona si rischia di perdere l’occasione di migliorare i sistemi nel senso a noi più congeniale prima che si verifichino effetti irreversibili. Pertanto, occorre testate a fondo questi sistemi, con precise accortezze: (i) mantenere uno spirito critico attivo; (ii) acquisire le competenze necessarie ad usare in prima persona e in maniera efficace l’AI generativa (il che significa imparare a saper scegliere gli strumenti in base alle proprie necessità e alle loro caratteristiche e affidabilità e significa anche saper porre alle macchine le domande nella forma più appropriata per ottenere risposte utili e non affermazioni palesemente sbagliate, come pure può accadere: cosiddetta “arte del prompting”); (iii) usare questi strumenti come amplificatori del proprio pensiero e non come propri sostituti per evitare la dipendenza cognitiva; (iv) non cedere mai alle macchine la responsabilità della decisione finale.