Dario Amodei: Macchine di Grazia Amorevole

SAGGIO DI DARIO AMODEI, CEO DI ANTHROPIC
Pubblicato sul suo blog in lingua inglese
Traduzione di ChatGPT
CLICCA QUI PER VEDERE IL MIO VIDEO

Penso e parlo molto dei rischi dell’intelligenza artificiale (IA). La società di cui sono CEO, Anthropic, svolge molte ricerche su come ridurre questi rischi. A causa di ciò, a volte le persone concludono che io sia un pessimista o un “disfattista” che crede che l’IA sarà per lo più negativa o pericolosa. Non lo penso affatto. In effetti, uno dei motivi principali per cui mi concentro sui rischi è che sono l’unica cosa che ci separa da quello che vedo come un futuro fondamentalmente positivo. Penso che la maggior parte delle persone stia sottovalutando quanto potrebbe essere radicale il lato positivo dell’IA, così come penso che molti stiano sottovalutando quanto potrebbero essere gravi i rischi.

In questo saggio cerco di delineare quale potrebbe essere questo lato positivo—come potrebbe apparire un mondo con IA potenti, se tutto andasse per il meglio. Ovviamente, nessuno può conoscere il futuro con certezza o precisione, e gli effetti di un’IA potente saranno probabilmente ancora più imprevedibili rispetto ai cambiamenti tecnologici del passato, quindi tutto questo consisterà inevitabilmente in supposizioni. Tuttavia, il mio obiettivo è almeno fare supposizioni istruite e utili, che catturino lo spirito di ciò che accadrà, anche se molti dettagli potrebbero rivelarsi errati. Includo molti dettagli principalmente perché penso che una visione concreta faccia più per promuovere il dibattito rispetto a una visione fortemente cauta e astratta.

Tuttavia, volevo prima spiegare brevemente perché io e Anthropic non abbiamo parlato molto dei lati positivi di un’IA potente e perché probabilmente continueremo, in generale, a parlare molto dei rischi. In particolare, ho preso questa decisione con l’intento di:

• Massimizzare la leva. Lo sviluppo di base della tecnologia IA e molti (non tutti) dei suoi benefici sembrano inevitabili (a meno che i rischi non facciano deragliare tutto) e sono fondamentalmente guidati da potenti forze di mercato. D’altra parte, i rischi non sono predeterminati e le nostre azioni possono cambiare enormemente la loro probabilità.
• Evitare la percezione di propaganda. Le aziende di IA che parlano di tutti i benefici straordinari dell’IA possono sembrare propagandiste, o come se stessero cercando di distrarre dai lati negativi. Penso anche che, come questione di principio, sia dannoso per la propria integrità passare troppo tempo a “pubblicizzare” ciò che si fa.
• Evitare la grandiosità. Spesso rimango deluso dal modo in cui molte figure pubbliche che si occupano dei rischi legati all’IA (per non parlare dei leader di aziende IA) parlano del mondo post-AGI (intelligenza generale artificiale), come se fosse la loro missione portarlo a compimento da soli, come un profeta che guida il suo popolo verso la salvezza. Penso che sia pericoloso vedere le aziende come entità che modellano unilateralmente il mondo, e pericoloso vedere obiettivi tecnologici pratici in termini essenzialmente religiosi.
• Evitare i “bagagli” della fantascienza. Sebbene ritenga che la maggior parte delle persone sottovaluti il potenziale dell’IA potente, la piccola comunità di persone che discute di futuri radicali dell’IA lo fa spesso con un tono eccessivamente “fantascientifico” (incentrato, ad esempio, su menti caricate, esplorazione spaziale o atmosfere generali da cyberpunk). Penso che questo faccia sì che le persone prendano meno sul serio tali affermazioni e le vedano come qualcosa di irreale. Per essere chiari, il problema non è se le tecnologie descritte siano possibili o probabili (il saggio principale discute questo in dettaglio)—si tratta più del fatto che il “tono” connota implicitamente una serie di presupposti culturali e impliciti su quale tipo di futuro sia desiderabile, su come si svolgeranno varie questioni sociali, ecc. Il risultato finisce spesso per sembrare una fantasia per una sottocultura ristretta, risultando sgradevole per la maggior parte delle persone.

Nonostante tutte queste preoccupazioni, ritengo davvero che sia importante discutere di come potrebbe essere un mondo positivo con un’IA potente, cercando di evitare i suddetti problemi. In effetti, credo sia fondamentale avere una visione genuinamente ispiratrice del futuro, e non solo un piano per spegnere incendi. Molte delle implicazioni di un’IA potente sono pericolose, ma alla fine deve esserci qualcosa per cui vale la pena lottare, un risultato a somma positiva dove tutti stiano meglio, qualcosa che unisca le persone per superare i propri conflitti e affrontare le sfide che ci attendono. La paura è un tipo di motivazione, ma non è sufficiente: abbiamo bisogno anche di speranza.

L’elenco delle applicazioni positive dell’IA è estremamente lungo (e include robotica, manifattura, energia e molto altro), ma mi concentrerò su un numero limitato di aree che, a mio avviso, hanno il maggiore potenziale per migliorare direttamente la qualità della vita umana. Le cinque categorie che mi entusiasmano di più sono:

• Biologia e salute fisica
• Neuroscienze e salute mentale
• Sviluppo economico e povertà
• Pace e governance
• Lavoro e significato

Le mie previsioni saranno giudicate radicali secondo la maggior parte degli standard (ad eccezione delle visioni fantascientifiche della “singolarità”), ma le intendo seriamente e sinceramente. Tutto ciò che dico potrebbe facilmente rivelarsi errato (per riprendere quanto detto prima), ma ho almeno cercato di fondare le mie opinioni su una valutazione semi-analitica di quanto potrebbe accelerare il progresso in vari campi e di cosa questo potrebbe significare nella pratica. Sono fortunato ad avere esperienza professionale sia in biologia che in neuroscienze, e sono un dilettante informato nel campo dello sviluppo economico, ma sono sicuro che farò molti errori. Una cosa che la stesura di questo saggio mi ha fatto capire è che sarebbe utile riunire un gruppo di esperti in vari settori (biologia, economia, relazioni internazionali e altri) per scrivere una versione molto migliore e più informata di ciò che ho prodotto qui. Probabilmente è meglio vedere i miei sforzi come uno spunto iniziale per quel gruppo.

 

1. Biologia e salute

La biologia è probabilmente l’area in cui il progresso scientifico ha il maggior potenziale per migliorare direttamente e in modo inequivocabile la qualità della vita umana. Nel secolo scorso, alcune delle più antiche afflizioni umane (come il vaiolo) sono state finalmente sconfitte, ma molte altre rimangono ancora, e sconfiggerle sarebbe un enorme successo umanitario. Oltre alla cura delle malattie, la scienza biologica potrebbe, in linea di principio, migliorare la qualità della salute umana, estendendo la durata della vita sana, aumentando il controllo e la libertà sui nostri processi biologici e affrontando problemi quotidiani che attualmente consideriamo parti immutabili della condizione umana.

Nel linguaggio dei “fattori limitanti” della sezione precedente, le principali sfide nell’applicare direttamente l’intelligenza alla biologia sono i dati, la velocità del mondo fisico e la complessità intrinseca (in effetti, tutti e tre sono correlati tra loro). Anche i vincoli umani giocano un ruolo in una fase successiva, quando sono coinvolti i trial clinici. Esaminiamo questi elementi uno per uno.

Gli esperimenti su cellule, animali e anche processi chimici sono limitati dalla velocità del mondo fisico: molti protocolli biologici prevedono la coltivazione di batteri o altre cellule, o semplicemente l’attesa che avvengano reazioni chimiche, e ciò può richiedere giorni o addirittura settimane, senza alcun modo evidente per accelerare il processo. Gli esperimenti sugli animali possono richiedere mesi (o più) e gli esperimenti sugli esseri umani spesso richiedono anni (o addirittura decenni per studi sugli esiti a lungo termine). In relazione a ciò, i dati sono spesso carenti, non tanto in termini di quantità, ma di qualità: c’è sempre una mancanza di dati chiari e inequivocabili che isolino un effetto biologico di interesse da altri 10.000 fattori confondenti, o che intervengano in modo causale in un determinato processo, o che misurino direttamente un effetto (piuttosto che inferirne le conseguenze in modo indiretto o rumoroso). Anche i dati molecolari quantitativi di massa, come quelli che ho raccolto mentre lavoravo su tecniche di spettrometria di massa, sono rumorosi e mancano di dettagli cruciali (in quali tipi di cellule si trovavano queste proteine? In quale parte della cellula? In quale fase del ciclo cellulare?).

In parte, la causa di questi problemi con i dati è la complessità intrinseca: se hai mai visto un diagramma che mostra la biochimica del metabolismo umano, saprai quanto sia difficile isolare l’effetto di qualsiasi parte di questo sistema complesso, e ancora più difficile intervenire su di esso in modo preciso o prevedibile. E infine, oltre al tempo intrinseco necessario per eseguire un esperimento sugli esseri umani, i trial clinici reali comportano molta burocrazia e requisiti normativi che (secondo l’opinione di molte persone, me compreso) aggiungono tempi inutili e ritardano il progresso.

Considerando tutto questo, molti biologi sono stati a lungo scettici sul valore dell’IA e dei “big data” in biologia. Storicamente, matematici, informatici e fisici che hanno applicato le loro competenze alla biologia negli ultimi 30 anni hanno avuto un certo successo, ma non hanno avuto l’impatto davvero trasformativo inizialmente sperato. Alcuno scetticismo è stato ridotto da grandi e rivoluzionarie scoperte come AlphaFold (che ha recentemente vinto meritatamente il Premio Nobel per la Chimica) e AlphaProteo, ma c’è ancora la percezione che l’IA sia (e continuerà a essere) utile solo in un numero limitato di circostanze. Una formulazione comune è “L’IA può fare un lavoro migliore nell’analisi dei tuoi dati, ma non può produrre più dati o migliorare la qualità dei dati. Spazzatura dentro, spazzatura fuori”.

Ma penso che questa prospettiva pessimistica consideri l’IA nel modo sbagliato. Se la nostra ipotesi di base sul progresso dell’IA è corretta, allora il modo giusto di vedere l’IA non è come un metodo di analisi dei dati, ma come un biologo virtuale che svolge tutti i compiti dei biologi, inclusa la progettazione e l’esecuzione di esperimenti nel mondo reale (controllando robot da laboratorio o semplicemente dicendo agli esseri umani quali esperimenti eseguire, come farebbe un Principal Investigator con i suoi studenti laureati), l’invenzione di nuovi metodi biologici o tecniche di misurazione e così via. È accelerando l’intero processo di ricerca che l’IA può veramente accelerare la biologia. Voglio ripeterlo perché è il malinteso più comune che emerge quando parlo della capacità dell’IA di trasformare la biologia: non sto parlando dell’IA solo come uno strumento per analizzare i dati. In linea con la definizione di IA potente all’inizio di questo saggio, sto parlando dell’uso dell’IA per eseguire, dirigere e migliorare quasi tutto ciò che fanno i biologi.

Per essere più specifici su dove penso che l’accelerazione sia probabile, una sorprendentemente grande frazione del progresso in biologia è derivata da un numero veramente ridotto di scoperte, spesso legate a strumenti o tecniche di misurazione ampi che consentono un intervento preciso ma generalizzato o programmabile nei sistemi biologici. C’è forse circa una di queste grandi scoperte all’anno e collettivamente esse guidano probabilmente oltre il 50% del progresso in biologia. Queste scoperte sono così potenti proprio perché superano la complessità intrinseca e le limitazioni dei dati, aumentando direttamente la nostra comprensione e il controllo sui processi biologici. Alcune scoperte per decennio hanno permesso sia gran parte della nostra comprensione scientifica di base della biologia, sia hanno guidato molti dei trattamenti medici più potenti.

Alcuni esempi includono:

• CRISPR: una tecnica che consente l’editing diretto di qualsiasi gene negli organismi viventi (sostituzione di qualsiasi sequenza genetica arbitraria con un’altra sequenza arbitraria). Dalla sua scoperta originale, ci sono stati continui miglioramenti per mirare a tipi di cellule specifici, aumentare la precisione e ridurre l’editing dei geni sbagliati, tutti necessari per un uso sicuro negli esseri umani.
• Microscopia avanzata: vari tipi di microscopi avanzati per osservare cosa sta succedendo a livello preciso, come i microscopi ottici avanzati (con varie tecniche di fluorescenza, ottiche speciali, ecc.), i microscopi elettronici e i microscopi a forza atomica.
• Sequenziamento e sintesi del genoma, che hanno ridotto i costi di diversi ordini di grandezza negli ultimi decenni.
• Tecniche optogenetiche che consentono di far scattare l’attività di un neurone semplicemente illuminandolo.
• Vaccini a mRNA che, in linea di principio, ci consentono di progettare un vaccino contro qualsiasi cosa e poi adattarlo rapidamente (i vaccini a mRNA sono naturalmente diventati famosi durante il COVID).
• Terapie cellulari, come la CAR-T, che permettono di prelevare cellule immunitarie dal corpo e “riprogrammarle” per attaccare, in linea di principio, qualsiasi cosa.
• Scoperte concettuali come la teoria dei germi come causa delle malattie o il legame tra il sistema immunitario e il cancro.

Sto facendo lo sforzo di elencare tutte queste tecnologie perché voglio fare un’affermazione cruciale su di esse: penso che il loro tasso di scoperta potrebbe essere aumentato di 10 volte o più se ci fossero molti più ricercatori talentuosi e creativi. O, detto in un altro modo, penso che i rendimenti dell’intelligenza siano alti per queste scoperte e che tutto il resto in biologia e medicina segua principalmente da esse.

Perché lo penso? A causa delle risposte ad alcune domande che dovremmo abituarci a fare quando cerchiamo di determinare i “rendimenti dell’intelligenza”. Innanzitutto, queste scoperte sono generalmente fatte da un numero molto ridotto di ricercatori, spesso le stesse persone ripetutamente, il che suggerisce abilità e non ricerca casuale (quest’ultima potrebbe far pensare che i lunghi esperimenti siano il fattore limitante). In secondo luogo, spesso “avrebbero potuto essere fatte” anni prima di quanto lo siano state: per esempio, CRISPR era una componente naturale del sistema immunitario nei batteri nota dagli anni ’80, ma ci sono voluti altri 25 anni perché le persone capissero che poteva essere riutilizzata per il gene editing generale. Inoltre, spesso vengono ritardate di molti anni a causa della mancanza di supporto dalla comunità scientifica per direzioni promettenti (vedi questo profilo sull’inventore dei vaccini a mRNA; storie simili abbondano). In terzo luogo, i progetti di successo sono spesso iniziative di recupero o pensieri secondari che inizialmente non erano considerati promettenti, piuttosto che sforzi massicciamente finanziati. Questo suggerisce che non è solo la concentrazione massiccia di risorse a guidare le scoperte, ma l’ingegno.

Infine, anche se alcune di queste scoperte hanno una “dipendenza seriale” (devi fare la scoperta A prima di avere gli strumenti o le conoscenze per fare la scoperta B), il che potrebbe di nuovo creare ritardi sperimentali, molte, forse la maggior parte, sono indipendenti, il che significa che molte di esse possono essere studiate contemporaneamente. Entrambi questi fatti, insieme alla mia esperienza generale come biologo, mi suggeriscono fortemente che ci siano centinaia di scoperte pronte per essere fatte, se solo gli scienziati fossero più intelligenti e migliori nel collegare la vasta quantità di conoscenze biologiche che l’umanità possiede (considera di nuovo l’esempio del CRISPR). Il successo di AlphaFold/AlphaProteo nella risoluzione di problemi importanti molto più efficacemente degli umani, nonostante decenni di modelli fisici accuratamente progettati, fornisce una prova di principio (seppur con un piccolo strumento in un dominio ristretto) che dovrebbe indicarci la via da seguire.

Pertanto, credo che un’IA potente potrebbe almeno decuplicare il tasso di queste scoperte, dandoci i prossimi 50-100 anni di progresso biologico in 5-10 anni. Perché non centuplicarlo? Forse è possibile, ma qui diventano importanti sia la dipendenza seriale che i tempi sperimentali: ottenere 100 anni di progresso in un anno richiede che molte cose vadano bene al primo tentativo, inclusi gli esperimenti sugli animali e attività come la progettazione di microscopi o strutture di laboratorio costose. Sono in realtà aperto all’idea (forse suona assurda) che potremmo ottenere 1000 anni di progresso in 5-10 anni, ma molto scettico che possiamo ottenere 100 anni in 1 anno. Un altro modo per esprimerlo è che credo ci sia un ritardo costante e inevitabile: esperimenti e progettazione di hardware hanno una certa “latenza” e devono essere iterati un certo numero “irriducibile” di volte per apprendere cose che non possono essere dedotte logicamente. Tuttavia, potrebbe essere possibile una massiccia parallelizzazione al di sopra di questo.

Che dire dei trial clinici? Sebbene ci sia molta burocrazia e rallentamenti associati a essi, la verità è che gran parte (anche se non tutta!) della loro lentezza deriva dalla necessità di valutare rigorosamente farmaci che funzionano appena o funzionano in modo ambiguo. Purtroppo, questo è vero per la maggior parte delle terapie oggi: il farmaco medio contro il cancro aumenta la sopravvivenza solo di pochi mesi, pur avendo effetti collaterali significativi che devono essere attentamente misurati (c’è una storia simile per i farmaci per l’Alzheimer). Questo porta a studi di grandi dimensioni (per ottenere la potenza statistica necessaria) e a difficili compromessi che le agenzie di regolamentazione generalmente non sono brave a fare, di nuovo a causa della burocrazia e della complessità di interessi in competizione.

Quando qualcosa funziona davvero bene, va molto più veloce: c’è una via di approvazione accelerata e l’approvazione è molto più semplice quando le dimensioni degli effetti sono maggiori. I vaccini a mRNA per il COVID sono stati approvati in 9 mesi, molto più velocemente rispetto al ritmo normale. Detto ciò, anche in queste condizioni i trial clinici sono ancora troppo lenti: si potrebbe sostenere che i vaccini a mRNA avrebbero dovuto essere approvati in circa 2 mesi. Ma questi tipi di ritardi (circa un anno dall’inizio alla fine per un farmaco), combinati con una massiccia parallelizzazione e la necessità di una certa ma non eccessiva iterazione (“alcuni tentativi”), sono molto compatibili con una trasformazione radicale in 5-10 anni. Ancora più ottimisticamente, è possibile che la scienza biologica abilitata dall’IA riduca la necessità di iterazione nei trial clinici sviluppando migliori modelli sperimentali su animali e cellule (o addirittura simulazioni) che siano più accurati nel prevedere ciò che accadrà negli esseri umani. Questo sarà particolarmente importante nello sviluppo di farmaci contro il processo di invecchiamento, che si svolge su decenni e richiede un ciclo di iterazione più veloce.

Infine, riguardo ai trial clinici e alle barriere sociali, vale la pena sottolineare esplicitamente che in alcuni modi le innovazioni biomediche hanno un track record insolitamente forte di essere implementate con successo, al contrario di altre tecnologie. Come menzionato nell’introduzione, molte tecnologie sono ostacolate da fattori sociali nonostante funzionino bene tecnicamente. Questo potrebbe suggerire una prospettiva pessimistica su ciò che l’IA può realizzare. Ma la biomedicina è unica nel senso che, sebbene il processo di sviluppo di farmaci sia eccessivamente macchinoso, una volta sviluppati, vengono generalmente implementati e utilizzati con successo.

Per riassumere quanto detto sopra, la mia previsione di base è che la biologia e la medicina abilitate dall’IA ci permetteranno di comprimere il progresso che i biologi umani avrebbero raggiunto nei prossimi 50-100 anni in 5-10 anni. Mi riferirò a questo come al “ventunesimo secolo compresso”: l’idea che, una volta sviluppata un’IA potente, in pochi anni faremo tutto il progresso in biologia e medicina che avremmo fatto nell’intero XXI secolo.

Sebbene predire cosa possa fare un’IA potente in pochi anni rimanga intrinsecamente difficile e speculativo, c’è una certa concretezza nel chiedersi “cosa potrebbero fare gli esseri umani non aiutati nei prossimi 100 anni?”. Semplicemente osservando ciò che abbiamo realizzato nel XX secolo, o estrapolando dai primi due decenni del XXI, o chiedendoci cosa significherebbero “10 CRISPR e 50 CAR-T”, possiamo ottenere modi pratici e fondati per stimare il livello generale di progresso che potremmo aspettarci da un’IA potente.

Di seguito cercherò di fare una lista di cosa potremmo aspettarci. Questo non si basa su alcuna metodologia rigorosa e quasi certamente si rivelerà errato nei dettagli, ma cerca di trasmettere il livello generale di radicalità che dovremmo aspettarci:

• Prevenzione affidabile e trattamento di quasi tutte le malattie infettive naturali. Dati i progressi enormi contro le malattie infettive nel XX secolo, non è radicale immaginare che potremmo più o meno “finire il lavoro” in un XXI secolo compresso. I vaccini a mRNA e tecnologie simili già indicano la strada verso “vaccini contro qualsiasi cosa”. Se le malattie infettive saranno completamente eradicate dal mondo (anziché solo in alcune aree) dipenderà da questioni legate a povertà e disuguaglianza, che sono discusse nella Sezione 3.
• Eliminazione della maggior parte dei tumori. I tassi di mortalità per cancro stanno diminuendo del ~2% all’anno negli ultimi decenni; pertanto siamo sulla buona strada per eliminare la maggior parte dei tumori nel XXI secolo con il ritmo attuale della scienza umana. Alcuni sottotipi sono già stati in gran parte curati (per esempio alcuni tipi di leucemia con la terapia CAR-T), e sono forse ancora più entusiasta per farmaci molto selettivi che mirano al cancro nelle sue fasi iniziali, prevenendone la crescita. L’IA renderà inoltre possibile regimi terapeutici altamente personalizzati e adattati al genoma individuale del tumore—questi sono già possibili oggi, ma estremamente costosi in termini di tempo ed esperienza umana, che l’IA dovrebbe consentirci di scalare. Riduzioni del 95% o più sia nella mortalità che nell’incidenza sembrano possibili. Detto questo, il cancro è estremamente variegato e adattivo, ed è probabilmente la malattia più difficile da sconfiggere completamente. Non sarebbe sorprendente se una serie di malignità rare e difficili persista.

• Cure molto efficaci per le malattie genetiche. Il miglioramento significativo della selezione degli embrioni probabilmente renderà possibile prevenire la maggior parte delle malattie genetiche, e una versione più sicura e affidabile di CRISPR potrebbe curare la maggior parte delle malattie genetiche nelle persone già esistenti. Tuttavia, le affezioni che colpiscono un gran numero di cellule del corpo potrebbero essere le ultime a essere risolte.
• Prevenzione dell’Alzheimer. Abbiamo avuto molte difficoltà a capire cosa causa l’Alzheimer (è in qualche modo collegato alla proteina beta-amiloide, ma i dettagli effettivi sembrano essere molto complessi). Sembra il tipo esatto di problema che potrebbe essere risolto con strumenti di misurazione migliori che isolino gli effetti biologici; per questo sono ottimista riguardo alla capacità dell’IA di risolverlo. È probabile che, una volta capito cosa sta realmente accadendo, la malattia possa essere prevenuta con interventi relativamente semplici. Tuttavia, potrebbe essere molto difficile invertire i danni causati da un Alzheimer già in atto.
• Miglioramento del trattamento della maggior parte delle altre malattie. Questa è una categoria generale per altre patologie, tra cui diabete, obesità, malattie cardiache, malattie autoimmuni e altro ancora. La maggior parte di queste malattie sembra “più facile” da risolvere rispetto al cancro e all’Alzheimer, e in molti casi sono già in declino. Ad esempio, le morti per malattie cardiache sono già diminuite di oltre il 50%, e interventi semplici come gli agonisti del GLP-1 hanno già fatto enormi progressi contro l’obesità e il diabete.
• Libertà biologica. Gli ultimi 70 anni hanno visto progressi nel controllo delle nascite, nella fertilità, nella gestione del peso e molto altro. Tuttavia, sospetto che la biologia accelerata dall’IA espanderà enormemente ciò che è possibile: il peso, l’aspetto fisico, la riproduzione e altri processi biologici saranno completamente sotto il controllo delle persone. Ci riferiremo a tutto questo sotto il concetto di libertà biologica: l’idea che tutti dovrebbero essere in grado di scegliere chi vogliono diventare e vivere la loro vita nel modo che più li attira. Naturalmente, ci saranno importanti domande sull’uguaglianza globale nell’accesso a queste possibilità; vedi la Sezione 3 per ulteriori approfondimenti.
• Raddoppio della durata della vita umana. Potrebbe sembrare radicale, ma l’aspettativa di vita è quasi raddoppiata nel XX secolo (da ~40 anni a ~75), quindi è “in linea con la tendenza” che un “XXI secolo compresso” possa raddoppiarla di nuovo fino a 150 anni. Ovviamente, le misure coinvolte nel rallentare il processo di invecchiamento saranno diverse da quelle che sono state necessarie nel secolo scorso per prevenire le morti premature (soprattutto infantili) causate da malattie, ma la magnitudine del cambiamento non è senza precedenti. Concretamente, esistono già farmaci che aumentano la durata massima della vita nei topi del 25-50% con effetti collaterali limitati. E alcuni animali (ad esempio, alcune specie di tartaruga) già vivono fino a 200 anni, quindi è evidente che gli esseri umani non sono al loro limite teorico massimo. A mio avviso, la cosa più importante che manca potrebbe essere biomarcatori affidabili e non suscettibili di “Goodhart” per il processo di invecchiamento umano, poiché ciò permetterebbe una rapida iterazione su esperimenti e trial clinici. Una volta che l’aspettativa di vita umana sarà di 150 anni, potremmo essere in grado di raggiungere una sorta di “velocità di fuga”, guadagnando abbastanza tempo perché la maggior parte delle persone oggi vive possa vivere finché lo desidera, anche se non c’è nessuna garanzia che questo sia biologicamente possibile.

Vale la pena esaminare questo elenco e riflettere su quanto sarebbe diverso il mondo se tutto ciò venisse realizzato entro i prossimi 7-12 anni (il che sarebbe in linea con una timeline aggressiva dell’IA). È superfluo dire che sarebbe un trionfo umanitario immenso, con l’eliminazione simultanea della maggior parte delle piaghe che hanno tormentato l’umanità per millenni. Molti dei miei amici e colleghi stanno crescendo bambini, e quando quei bambini saranno cresciuti, spero che ogni menzione di malattie suoni loro come ci suona oggi lo scorbuto, il vaiolo o la peste bubbonica. Quella generazione beneficerà anche di una maggiore libertà biologica e di espressione personale, e con un po’ di fortuna, potrebbe anche vivere quanto desidera.

È difficile sovrastimare quanto questi cambiamenti sorprenderanno tutti, tranne la piccola comunità di persone che si aspettano un’IA potente. Ad esempio, migliaia di economisti ed esperti di politiche pubbliche negli Stati Uniti attualmente discutono su come mantenere solvibili programmi come la Social Security e Medicare, e più in generale su come contenere i costi dell’assistenza sanitaria (che viene consumata principalmente da persone sopra i 70 anni e soprattutto da quelle con malattie terminali come il cancro). La situazione di questi programmi probabilmente cambierà radicalmente se tutto questo si realizzerà, poiché il rapporto tra popolazione in età lavorativa e popolazione pensionata cambierà drasticamente. Non c’è dubbio che queste sfide saranno sostituite da altre, come garantire un accesso diffuso alle nuove tecnologie, ma vale la pena riflettere su quanto il mondo cambierà anche se la biologia sarà l’unica area ad essere accelerata dall’IA.

 

2. Neuroscienze e mente

Nella sezione precedente mi sono concentrato sulle malattie fisiche e sulla biologia in generale, senza trattare le neuroscienze o la salute mentale. Tuttavia, le neuroscienze sono una sottodisciplina della biologia e la salute mentale è altrettanto importante della salute fisica. In effetti, la salute mentale influisce ancora più direttamente sul benessere umano rispetto a quella fisica. Centinaia di milioni di persone hanno una qualità della vita molto bassa a causa di problemi come dipendenze, depressione, schizofrenia, autismo a basso funzionamento, disturbo post-traumatico da stress (PTSD), psicopatia o disabilità intellettive. Miliardi di altre persone lottano con problemi quotidiani che spesso possono essere interpretati come versioni molto più lievi di uno di questi gravi disturbi clinici. E, come accade per la biologia generale, potrebbe essere possibile non solo affrontare i problemi, ma anche migliorare la qualità di base dell’esperienza umana.

Il quadro di base che ho delineato per la biologia si applica altrettanto bene alle neuroscienze. Il campo viene portato avanti da un piccolo numero di scoperte, spesso legate a strumenti per la misurazione o l’intervento preciso — nell’elenco precedente, l’optogenetica era una scoperta nelle neuroscienze, e più recentemente CLARITY e la microscopia a espansione rappresentano progressi nella stessa direzione, oltre a molti dei metodi di biologia cellulare generale che si trasferiscono direttamente alle neuroscienze. Penso che il tasso di questi progressi sarà accelerato allo stesso modo dall’IA e quindi il concetto di “100 anni di progresso in 5-10 anni” si applica alle neuroscienze nello stesso modo in cui si applica alla biologia e per le stesse ragioni. Come per la biologia, il progresso delle neuroscienze nel XX secolo è stato enorme – ad esempio, non sapevamo nemmeno come o perché i neuroni si attivassero fino agli anni ’50. Pertanto, sembra ragionevole aspettarsi che le neuroscienze accelerate dall’IA producano progressi rapidi in pochi anni.

C’è un aspetto che dovremmo aggiungere a questo quadro di base: alcune delle cose che abbiamo appreso (o stiamo imparando) sull’IA stessa negli ultimi anni probabilmente aiuteranno a far progredire le neuroscienze, anche se continueranno a essere studiate solo dagli esseri umani. L’interpretabilità è un esempio ovvio: sebbene i neuroni biologici funzionino superficialmente in modo completamente diverso dai neuroni artificiali (comunicano attraverso picchi di attivazione e spesso tramite tassi di picco, quindi c’è un elemento temporale che non è presente nei neuroni artificiali, e molti dettagli relativi alla fisiologia cellulare e ai neurotrasmettitori modificano sostanzialmente il loro funzionamento), la questione di base di “come fanno reti distribuite, addestrate, di unità semplici che eseguono operazioni lineari/non lineari combinate a lavorare insieme per eseguire calcoli importanti” è la stessa, e sospetto fortemente che i dettagli della comunicazione dei singoli neuroni verranno astratti nella maggior parte delle domande interessanti sul calcolo e sui circuiti. Solo per fare un esempio, un meccanismo computazionale scoperto da ricercatori che si occupano di interpretabilità nei sistemi di IA è stato recentemente riscoperto nei cervelli dei topi.

È molto più facile fare esperimenti su reti neurali artificiali rispetto a quelle reali (per queste ultime spesso è necessario intervenire chirurgicamente sui cervelli degli animali), quindi l’interpretabilità potrebbe facilmente diventare uno strumento per migliorare la nostra comprensione delle neuroscienze. Inoltre, l’IA potente sarà probabilmente in grado di sviluppare e applicare questo strumento meglio di quanto possano fare gli esseri umani.

Oltre all’interpretabilità, ciò che abbiamo appreso dall’IA su come vengono addestrati i sistemi intelligenti dovrebbe (anche se non sono sicuro che sia ancora accaduto) provocare una rivoluzione nelle neuroscienze. Quando lavoravo nelle neuroscienze, molte persone si concentravano su quelle che ora considero le domande sbagliate sull’apprendimento, perché il concetto di ipotesi di scalabilità (scaling hypothesis) o la “lezione amara” (bitter lesson) non esisteva ancora. L’idea che una semplice funzione obiettivo, combinata con una grande quantità di dati, possa guidare comportamenti incredibilmente complessi rende più interessante comprendere le funzioni obiettivo e i pregiudizi architetturali, e meno interessante capire i dettagli dei calcoli emergenti. Non ho seguito da vicino il campo negli ultimi anni, ma ho una vaga sensazione che i neuroscienziati computazionali non abbiano ancora pienamente assorbito questa lezione. Il mio atteggiamento nei confronti dell’ipotesi di scalabilità è sempre stato “ecco, questa è una spiegazione, a un livello elevato, di come funziona l’intelligenza e di come si sia evoluta così facilmente”, ma non credo che questa sia la visione media di un neuroscienziato, in parte perché l’ipotesi di scalabilità come “il segreto dell’intelligenza” non è ancora pienamente accettata nemmeno all’interno dell’IA.

Penso che i neuroscienziati dovrebbero cercare di combinare questo insight di base con le particolarità del cervello umano (limitazioni biofisiche, storia evolutiva, topologia, dettagli degli input/output motori e sensoriali) per cercare di risolvere alcuni dei principali enigmi delle neuroscienze. Probabilmente alcuni lo stanno già facendo, ma sospetto che non sia ancora sufficiente, e che i neuroscienziati che utilizzano l’IA saranno in grado di sfruttare più efficacemente questo approccio per accelerare il progresso.

Mi aspetto che l’IA acceleri il progresso neuroscientifico lungo quattro percorsi distinti, che lavorando insieme possano auspicabilmente curare le malattie mentali e migliorare il funzionamento cognitivo:

1. Biologia molecolare, chimica e genetica tradizionali. Questa è essenzialmente la stessa storia della biologia generale della sezione 1, e l’IA probabilmente può accelerarla attraverso gli stessi meccanismi. Esistono molti farmaci che modulano i neurotrasmettitori per alterare il funzionamento del cervello, influenzare lo stato di vigilanza o la percezione, cambiare l’umore, ecc., e l’IA può aiutarci a inventarne molti altri. Probabilmente l’IA può anche accelerare la ricerca sulla base genetica delle malattie mentali.
2. Misurazione e intervento neurale di precisione. Questa è la capacità di misurare ciò che fanno molti singoli neuroni o circuiti neuronali e intervenire per modificarne il comportamento. L’optogenetica e le sonde neurali sono tecnologie capaci sia di misurazione che di intervento in organismi viventi, e sono state proposte anche alcune tecniche molto avanzate (come i nastri molecolari di memorizzazione per leggere i modelli di attivazione di un gran numero di neuroni) che sembrano possibili in linea di principio.
3. Neuroscienze computazionali avanzate. Come notato sopra, sia le intuizioni specifiche che la visione d’insieme dell’IA moderna possono probabilmente essere applicate con profitto a questioni nelle neuroscienze dei sistemi, inclusa la possibile scoperta delle vere cause e dinamiche di malattie complesse come la psicosi o i disturbi dell’umore.
4. Interventi comportamentali. Non ne ho parlato molto, dato il focus sulla parte biologica delle neuroscienze, ma la psichiatria e la psicologia hanno ovviamente sviluppato un ampio repertorio di interventi comportamentali nel corso del XX secolo; è logico pensare che l’IA possa accelerare anche questi, sia nello sviluppo di nuovi metodi sia nell’aiutare i pazienti a seguire i metodi esistenti. Più in generale, l’idea di un “coach IA” che ti aiuta sempre a essere la migliore versione di te stesso, studiando le tue interazioni e aiutandoti a imparare ad essere più efficace, sembra molto promettente.

Credo che questi quattro percorsi di progresso, lavorando insieme, siano destinati a condurre alla cura o alla prevenzione della maggior parte delle malattie mentali nei prossimi 100 anni, anche senza l’intervento dell’IA — e quindi potrebbero ragionevolmente essere completati in 5-10 anni con l’accelerazione dell’IA. Concretamente, la mia ipotesi su ciò che accadrà è qualcosa del genere:

• La maggior parte delle malattie mentali potrà probabilmente essere curata. Non sono un esperto in malattie psichiatriche (il mio tempo nelle neuroscienze è stato speso costruendo sonde per studiare piccoli gruppi di neuroni), ma penso che malattie come il PTSD, la depressione, la schizofrenia, le dipendenze, ecc., possano essere comprese e trattate in modo molto efficace attraverso una combinazione dei quattro percorsi sopra descritti. La risposta sarà probabilmente una combinazione di “qualcosa è andato storto a livello biochimico” (anche se potrebbe essere molto complesso) e “qualcosa è andato storto con la rete neurale, a un livello elevato”. In altre parole, è una questione di neuroscienze dei sistemi, anche se questo non sminuisce l’impatto degli interventi comportamentali di cui si è parlato sopra. Strumenti per la misurazione e l’intervento, specialmente negli esseri umani viventi, sembrano destinati a portare a iterazioni rapide e progressi.
• Le condizioni che sono molto “strutturali” potrebbero essere più difficili, ma non impossibili da trattare. C’è qualche evidenza che la psicopatia sia associata a differenze neuroanatomiche evidenti – alcune regioni cerebrali negli psicopatici sono semplicemente più piccole o meno sviluppate. Si crede anche che gli psicopatici manchino di empatia sin dalla giovane età; qualunque sia la differenza nel loro cervello, probabilmente è stata sempre così. Lo stesso potrebbe essere vero per alcune disabilità intellettive e forse per altre condizioni. Ristrutturare il cervello sembra difficile, ma sembra anche un compito con alti ritorni sull’intelligenza. Forse esiste un modo per indurre il cervello adulto a uno stato più precoce o più plastico in cui possa essere rimodellato. Non sono affatto sicuro di quanto sia possibile, ma il mio istinto è essere ottimista su ciò che l’IA potrebbe inventare in questo campo.
• La prevenzione genetica efficace delle malattie mentali sembra possibile. La maggior parte delle malattie mentali è parzialmente ereditabile e gli studi di associazione sull’intero genoma stanno iniziando a identificare i fattori rilevanti, che sono spesso numerosi. Probabilmente sarà possibile prevenire la maggior parte di queste malattie attraverso la selezione degli embrioni, in modo simile a quanto avviene per le malattie fisiche. Una differenza è che le malattie psichiatriche sono più probabilmente poligeniche (molti geni contribuiscono), quindi, a causa della complessità, c’è un rischio maggiore di selezionare inconsapevolmente contro tratti positivi correlati alla malattia. Tuttavia, negli ultimi anni, studi di GWAS sembrano suggerire che queste correlazioni potrebbero essere state esagerate. In ogni caso, le neuroscienze accelerate dall’IA potrebbero aiutarci a chiarire queste questioni. Naturalmente, la selezione degli embrioni per tratti complessi solleva numerosi problemi sociali e sarà controversa, anche se immagino che la maggior parte delle persone sarebbe favorevole alla selezione per prevenire gravi malattie mentali debilitanti.
• Anche i problemi quotidiani che non consideriamo malattie cliniche saranno risolti. La maggior parte di noi ha problemi psicologici quotidiani che di solito non vengono considerati malattie cliniche. Alcune persone si arrabbiano facilmente, altre hanno difficoltà a concentrarsi o sono spesso assonnate, alcune sono timorose o ansiose, o reagiscono male ai cambiamenti. Oggi esistono già farmaci che aiutano con, ad esempio, la vigilanza o la concentrazione (caffeina, modafinil, ritalin), ma, come in molti altri ambiti precedenti, è probabile che si possa fare molto di più. Probabilmente esistono molti più farmaci del genere che non sono ancora stati scoperti, e potrebbero esistere anche modalità di intervento completamente nuove, come la stimolazione luminosa mirata (vedi optogenetica sopra) o i campi magnetici. Dato quanti farmaci abbiamo sviluppato nel XX secolo per regolare la funzione cognitiva e lo stato emotivo, sono molto ottimista riguardo al “XXI secolo compresso”, in cui tutti potranno far comportare il proprio cervello un po’ meglio e vivere un’esperienza quotidiana più appagante.
• L’esperienza di base umana potrà essere molto migliore. Facendo un ulteriore passo avanti, molte persone hanno vissuto momenti straordinari di rivelazione, ispirazione creativa, compassione, realizzazione, trascendenza, amore, bellezza o pace meditativa. Il carattere e la frequenza di queste esperienze variano enormemente da persona a persona e nella stessa persona in momenti diversi, e a volte possono essere scatenate da vari farmaci (sebbene spesso con effetti collaterali). Tutto ciò suggerisce che lo “spazio di ciò che è possibile sperimentare” è molto ampio e che una frazione maggiore della vita delle persone potrebbe essere costituita da questi momenti straordinari. Probabilmente è anche possibile migliorare varie funzioni cognitive in generale. Questo potrebbe essere la versione neuroscientifica della “libertà biologica” o delle “durate di vita estese”.

Un argomento che spesso emerge nelle rappresentazioni fantascientifiche dell’IA, ma che ho intenzionalmente evitato di discutere qui, è il “caricamento della mente”, ovvero l’idea di catturare il modello e la dinamica di un cervello umano e replicarli in un software. Questo argomento potrebbe essere il tema di un saggio a parte, ma basti dire che, sebbene io creda che il caricamento della mente sia quasi certamente possibile in linea di principio, nella pratica affronta sfide tecnologiche e sociali significative, anche con un’IA potente, che probabilmente lo collocano al di fuori della finestra di 5-10 anni che stiamo discutendo.

In sintesi, le neuroscienze accelerate dall’IA probabilmente miglioreranno enormemente i trattamenti per la maggior parte delle malattie mentali o addirittura le cureranno, oltre ad ampliare notevolmente la “libertà cognitiva e mentale” e le capacità cognitive ed emotive umane. Sarà altrettanto radicale quanto i miglioramenti nella salute fisica descritti nella sezione precedente. Forse il mondo non sarà visibilmente diverso dall’esterno, ma il mondo come viene vissuto dagli esseri umani sarà un posto molto migliore e più umano, oltre a offrire maggiori opportunità di auto-realizzazione. Inoltre, sospetto che una migliore salute mentale migliorerà molti altri problemi sociali, inclusi quelli che sembrano politici o economici.

 

3. Sviluppo economico e povertà

Le due sezioni precedenti riguardano lo sviluppo di nuove tecnologie che curano le malattie e migliorano la qualità della vita umana. Tuttavia, una domanda ovvia, dal punto di vista umanitario, è: “Tutti avranno accesso a queste tecnologie?”

È una cosa sviluppare una cura per una malattia, ma è un’altra eradicare la malattia dal mondo. Più in generale, molte delle attuali interventi sanitari non sono ancora stati applicati ovunque nel mondo, e lo stesso vale per i miglioramenti tecnologici (non sanitari) in generale. Un altro modo di dire questo è che il tenore di vita in molte parti del mondo è ancora disperatamente basso: il PIL pro capite è di circa $2.000 nell’Africa subsahariana, rispetto ai circa $75.000 negli Stati Uniti. Se l’IA aumenta ulteriormente la crescita economica e la qualità della vita nel mondo sviluppato, ma non fa molto per aiutare il mondo in via di sviluppo, dovremmo considerarlo come un terribile fallimento morale e una macchia sui veri successi umanitari descritti nelle due sezioni precedenti. Idealmente, l’IA potente dovrebbe aiutare il mondo in via di sviluppo a colmare il divario con il mondo sviluppato, mentre rivoluziona quest’ultimo.

Non sono altrettanto sicuro che l’IA possa affrontare le disuguaglianze e promuovere la crescita economica quanto lo sono nel credere che possa inventare tecnologie fondamentali, perché la tecnologia ha ritorni evidenti dall’intelligenza (inclusa la capacità di aggirare le complessità e la mancanza di dati), mentre l’economia comporta molti vincoli umani, oltre a una dose significativa di complessità intrinseca. Sono piuttosto scettico che un’IA possa risolvere il famoso “problema del calcolo socialista” e non credo che i governi affideranno (o dovrebbero affidare) la loro politica economica a un’entità del genere, anche se essa fosse in grado di farlo. Ci sono anche problemi come convincere le persone a seguire trattamenti che sono efficaci ma di cui potrebbero essere sospettose.

Le sfide che il mondo in via di sviluppo deve affrontare sono ulteriormente complicate dalla corruzione diffusa sia nel settore privato che in quello pubblico. La corruzione crea un ciclo vizioso: aggrava la povertà, e la povertà a sua volta alimenta la corruzione. I piani di sviluppo economico guidati dall’IA dovranno fare i conti con la corruzione, le istituzioni deboli e altre sfide molto umane.

Tuttavia, vedo ancora motivi significativi per essere ottimisti. Le malattie sono state eradicate e molti paesi sono passati dalla povertà alla ricchezza, ed è chiaro che le decisioni coinvolte in questi compiti mostrano alti ritorni dall’intelligenza (nonostante i vincoli umani e la complessità). Pertanto, è probabile che l’IA possa svolgere questi compiti meglio di quanto non venga fatto attualmente. Potrebbero esserci anche interventi mirati che aggirano i vincoli umani e sui quali l’IA potrebbe concentrarsi. Ma, cosa più importante, dobbiamo provarci. Sia le aziende di IA che i responsabili politici del mondo sviluppato dovranno fare la loro parte per garantire che il mondo in via di sviluppo non venga lasciato indietro; l’imperativo morale è troppo grande. Quindi in questa sezione, continuerò a fare il caso ottimistico, tenendo però sempre presente che il successo non è garantito e dipende dai nostri sforzi collettivi.

Di seguito faccio alcune supposizioni su come penso che le cose possano andare nel mondo in via di sviluppo nei 5-10 anni successivi allo sviluppo di un’IA potente:

• Distribuzione degli interventi sanitari. L’area in cui sono forse più ottimista è la distribuzione degli interventi sanitari in tutto il mondo. Le malattie sono state effettivamente eradicate attraverso campagne dall’alto verso il basso: il vaiolo è stato completamente eliminato negli anni ’70, e la poliomielite e il verme della Guinea sono quasi eradicati con meno di 100 casi all’anno. La modellizzazione epidemiologica matematica sofisticata svolge un ruolo attivo nelle campagne di eradicazione delle malattie, e sembra molto probabile che ci sia spazio affinché sistemi di IA più intelligenti degli umani facciano un lavoro migliore. La logistica della distribuzione può probabilmente essere ottimizzata notevolmente. Una cosa che ho imparato come donatore iniziale di GiveWell è che alcune organizzazioni benefiche sanitarie sono molto più efficaci di altre; la speranza è che gli sforzi accelerati dall’IA possano essere ancora più efficaci. Inoltre, alcuni progressi biologici rendono effettivamente molto più semplice la logistica della distribuzione: per esempio, la malaria è stata difficile da eradicare perché richiede un trattamento ogni volta che la malattia viene contratta; un vaccino che deve essere somministrato una sola volta semplifica molto la logistica (e tali vaccini contro la malaria sono attualmente in fase di sviluppo). Sono possibili anche meccanismi di distribuzione ancora più semplici: alcune malattie potrebbero essere eradicate colpendo i loro vettori animali, per esempio rilasciando zanzare infettate con un batterio che blocca la loro capacità di trasmettere una malattia (che poi infettano tutte le altre zanzare) o utilizzando semplicemente unità genetiche per eliminare le zanzare. Questo richiede una o poche azioni centralizzate, piuttosto che una campagna coordinata che deve trattare individualmente milioni di persone. Complessivamente, penso che 5-10 anni siano un lasso di tempo ragionevole affinché una buona parte (forse il 50%) dei benefici sanitari derivanti dall’IA si propaghi anche nei paesi più poveri del mondo. Un buon obiettivo potrebbe essere che il mondo in via di sviluppo, 5-10 anni dopo lo sviluppo di un’IA potente, sia almeno significativamente più sano di quanto lo sia oggi il mondo sviluppato, anche se continua a rimanere indietro rispetto a quest’ultimo. Naturalmente, raggiungere questo obiettivo richiederà un enorme sforzo in termini di salute globale, filantropia, advocacy politica e molti altri ambiti, ai quali sia gli sviluppatori di IA che i responsabili politici dovranno contribuire.
• Crescita economica. Il mondo in via di sviluppo può rapidamente colmare il divario con il mondo sviluppato, non solo in termini di salute, ma anche economicamente? Ci sono alcuni precedenti: negli ultimi decenni del XX secolo, diverse economie dell’Asia orientale hanno raggiunto tassi di crescita del PIL reale sostenuti intorno al 10% annuo, permettendo loro di colmare il divario con il mondo sviluppato. Pianificatori economici umani hanno preso le decisioni che hanno portato a questo successo, non controllando direttamente intere economie, ma tirando alcune leve chiave (come una politica industriale basata sulle esportazioni e resistendo alla tentazione di fare affidamento sulle risorse naturali); è plausibile che “ministri delle finanze e banchieri centrali IA” potrebbero replicare o superare questo risultato del 10%. Una domanda importante è come convincere i governi del mondo in via di sviluppo ad adottarli, rispettando il principio dell’autodeterminazione: alcuni potrebbero essere entusiasti, ma altri potrebbero essere scettici. Sul lato ottimistico, molti degli interventi sanitari menzionati nel punto precedente probabilmente aumenteranno organicamente la crescita economica: eradicare AIDS/malaria/vermi parassiti avrebbe un effetto trasformativo sulla produttività, per non parlare dei benefici economici che alcuni degli interventi neuroscientifici (come il miglioramento dell’umore e della concentrazione) avrebbero sia nel mondo sviluppato che in quello in via di sviluppo. Infine, la tecnologia accelerata dall’IA non legata alla salute (come la tecnologia energetica, i droni di trasporto, materiali da costruzione migliorati, logistica e distribuzione migliori, e così via) potrebbe semplicemente diffondersi nel mondo in modo naturale; per esempio, anche i telefoni cellulari si sono diffusi rapidamente nell’Africa subsahariana attraverso meccanismi di mercato, senza bisogno di sforzi filantropici. Dal lato più negativo, mentre l’IA e l’automazione hanno molti potenziali benefici, pongono anche sfide per lo sviluppo economico, in particolare per i paesi che non si sono ancora industrializzati. Trovare modi per garantire che questi paesi possano comunque svilupparsi e migliorare le loro economie in un’era di crescente automazione è una sfida importante che economisti e responsabili politici dovranno affrontare. Complessivamente, uno scenario da sogno — forse un obiettivo a cui puntare — sarebbe un tasso di crescita del PIL del 20% annuo nel mondo in via di sviluppo, con il 10% derivante dalle decisioni economiche abilitate dall’IA e il 10% dalla diffusione naturale delle tecnologie accelerate dall’IA, inclusa ma non limitata alla salute. Se raggiunto, questo porterebbe l’Africa subsahariana all’attuale PIL pro capite della Cina in 5-10 anni, mentre la maggior parte del resto del mondo in via di sviluppo raggiungerebbe livelli superiori all’attuale PIL degli Stati Uniti. Ancora una volta, questo è uno scenario da sogno, non ciò che accade automaticamente: è qualcosa per cui tutti noi dobbiamo lavorare insieme per renderlo più probabile.
• Sicurezza alimentare. I progressi nella tecnologia delle colture, come fertilizzanti e pesticidi migliori, maggiore automazione e un uso più efficiente della terra, hanno drasticamente aumentato i raccolti nel corso del XX secolo, salvando milioni di persone dalla fame. L’ingegneria genetica sta attualmente migliorando ulteriormente molte colture. Trovare ancora più modi per farlo — così come rendere le catene di approvvigionamento agricolo ancora più efficienti — potrebbe darci una seconda rivoluzione verde guidata dall’IA, aiutando a colmare il divario tra il mondo in via di sviluppo e quello sviluppato.
• Mitigazione dei cambiamenti climatici. I cambiamenti climatici saranno sentiti molto più intensamente nel mondo in via di sviluppo, ostacolando il suo sviluppo. Possiamo aspettarci che l’IA porti a miglioramenti nelle tecnologie che rallentano o prevengono i cambiamenti climatici, dalla rimozione del carbonio dall’atmosfera alle tecnologie per l’energia pulita, fino alla carne coltivata in laboratorio che riduce la nostra dipendenza dagli allevamenti intensivi ad alto impatto di carbonio. Naturalmente, come discusso sopra, la tecnologia non è l’unico fattore che limita i progressi sul cambiamento climatico — come per tutti gli altri problemi discussi in questo saggio, i fattori sociali umani sono importanti. Ma c’è motivo di pensare che la ricerca migliorata dall’IA ci fornirà i mezzi per rendere la mitigazione del cambiamento climatico molto meno costosa e dirompente, rendendo molte delle obiezioni irrilevanti e liberando i paesi in via di sviluppo per fare più progressi economici.
• Disuguaglianza all’interno dei paesi. Ho parlato principalmente della disuguaglianza come fenomeno globale (che penso sia la sua manifestazione più importante), ma ovviamente la disuguaglianza esiste anche all’interno dei paesi. Con interventi sanitari avanzati e soprattutto aumenti radicali della durata della vita o farmaci per il miglioramento cognitivo, ci saranno certamente preoccupazioni valide sul fatto che queste tecnologie siano “solo per i ricchi”. Sono più ottimista riguardo alla disuguaglianza all’interno dei paesi, specialmente nel mondo sviluppato, per due ragioni. In primo luogo, i mercati funzionano meglio nel mondo sviluppato, e i mercati sono tipicamente bravi a ridurre i costi delle tecnologie di alto valore nel tempo. In secondo luogo, le istituzioni politiche del mondo sviluppato sono più reattive nei confronti dei loro cittadini e hanno una maggiore capacità statale di eseguire programmi di accesso universale — e mi aspetto che i cittadini richiedano l’accesso a tecnologie che migliorano così radicalmente la qualità della vita. Naturalmente non è predeterminato che tali richieste abbiano successo — e questo è un altro ambito in cui dobbiamo fare tutto il possibile per garantire una società equa. C’è un problema separato nell’ineguaglianza della ricchezza (diverso dall’ineguaglianza nell’accesso alle tecnologie salvavita e migliorative), che sembra più difficile e che discuterò nella Sezione 5.
• Il problema dell’opt-out. Una preoccupazione sia nel mondo sviluppato che in quello in via di sviluppo è che le persone scelgano di non beneficiare delle tecnologie abilitate dall’IA (simile al movimento anti-vaccini o, più in generale, ai movimenti luddisti). Potrebbero finire per crearsi cicli di feedback negativi in cui, ad esempio, le persone meno in grado di prendere decisioni ottimali rifiutano le tecnologie che migliorerebbero la loro capacità di prendere decisioni, portando a un divario sempre più ampio e persino alla creazione di una sottoclasse distopica (alcuni ricercatori hanno sostenuto che ciò minerebbe la democrazia, un argomento che approfondisco nella sezione successiva). Questo sarebbe, ancora una volta, una macchia morale sui progressi positivi dell’IA. Questo è un problema difficile da risolvere poiché non credo sia eticamente corretto costringere le persone, ma possiamo almeno cercare di aumentare la comprensione scientifica delle persone — e forse l’IA stessa può aiutarci in questo. Un segnale di speranza è che storicamente i movimenti anti-tecnologia hanno avuto più impatto verbale che pratico: inveire contro la tecnologia moderna è popolare, ma la maggior parte delle persone finisce per adottarla, almeno quando si tratta di una scelta individuale. Le persone tendono ad adottare la maggior parte delle tecnologie sanitarie e di consumo, mentre le tecnologie che sono realmente ostacolate, come il nucleare, tendono a essere decisioni politiche collettive.

In generale, sono ottimista riguardo alla rapida diffusione dei progressi biologici dell’IA alle persone nel mondo in via di sviluppo. Sono fiducioso, ma non certo, che l’IA possa anche consentire tassi di crescita economica senza precedenti e permettere al mondo in via di sviluppo di superare almeno il livello attuale del mondo sviluppato. Sono preoccupato per il problema dell'”opt-out” sia nel mondo sviluppato che in quello in via di sviluppo, ma sospetto che si esaurirà col tempo e che l’IA possa aiutare ad accelerare questo processo. Non sarà un mondo perfetto, e chi è indietro non riuscirà a colmare completamente il divario, almeno non nei primi anni. Ma con sforzi decisi da parte nostra, potremmo riuscire a far muovere le cose nella giusta direzione — e in modo rapido. Se ci riusciremo, potremo fare almeno un primo passo verso la promessa di dignità e uguaglianza che dobbiamo a ogni essere umano sulla Terra.

 

4. Pace e governance

Supponiamo che tutto quanto descritto nelle prime tre sezioni vada per il meglio: malattie, povertà e disuguaglianze vengono significativamente ridotte e il livello base dell’esperienza umana viene notevolmente migliorato. Non ne consegue automaticamente che tutte le principali cause di sofferenza umana siano risolte. Gli esseri umani rappresentano ancora una minaccia gli uni per gli altri. Sebbene ci sia una tendenza in cui il miglioramento tecnologico e lo sviluppo economico portano a democrazia e pace, questa tendenza è molto vaga, con frequenti (e recenti) regressi. All’alba del XX secolo, la gente pensava di aver lasciato la guerra alle spalle; poi arrivarono le due guerre mondiali. Trent’anni fa, Francis Fukuyama scrisse della “fine della storia” e del trionfo definitivo della democrazia liberale; non è ancora accaduto. Vent’anni fa, i responsabili delle politiche statunitensi credevano che il libero scambio con la Cina l’avrebbe portata a liberalizzarsi man mano che si arricchiva; questo non è affatto successo, e ora sembriamo diretti verso una seconda guerra fredda con un blocco autoritario risorgente. E teorie plausibili suggeriscono che la tecnologia di Internet possa effettivamente favorire l’autoritarismo, piuttosto che la democrazia come si credeva inizialmente (ad esempio durante il periodo della “Primavera Araba”). Sembra quindi importante cercare di comprendere come l’intelligenza artificiale potente si intersecherà con questi problemi di pace, democrazia e libertà.

Purtroppo, non vedo ragioni forti per credere che l’IA promuoverà preferenzialmente o strutturalmente la democrazia e la pace, nello stesso modo in cui credo che promuoverà strutturalmente la salute umana e allevierà la povertà. Il conflitto umano è avversariale e l’IA può, in linea di principio, aiutare sia i “buoni” che i “cattivi”. Se mai, alcuni fattori strutturali sembrano preoccupanti: è probabile che l’IA favorisca una propaganda e una sorveglianza molto più efficaci, entrambi strumenti principali nell’arsenale dell’autocrate. Spetta quindi a noi, come attori individuali, inclinare le cose nella giusta direzione: se vogliamo che l’IA favorisca la democrazia e i diritti individuali, dovremo lottare per quel risultato. Mi sento ancora più fortemente riguardo a questo che per la disuguaglianza internazionale: il trionfo della democrazia liberale e della stabilità politica non è garantito, forse nemmeno probabile, e richiederà grandi sacrifici e impegno da parte di tutti noi, come spesso è accaduto in passato.

Penso che il problema si possa suddividere in due parti: il conflitto internazionale e la struttura interna delle nazioni. Sul fronte internazionale, sembra molto importante che le democrazie abbiano il sopravvento sulla scena mondiale quando verrà creata un’IA potente. L’autoritarismo potenziato dall’IA sembra troppo terribile da contemplare, quindi le democrazie devono essere in grado di stabilire i termini in base ai quali l’IA potente viene introdotta nel mondo, sia per evitare di essere sopraffatte dagli autoritarismi sia per prevenire abusi dei diritti umani all’interno dei paesi autoritari.

La mia ipotesi attuale sul modo migliore per fare ciò è attraverso una “strategia di intesa”, in cui una coalizione di democrazie cerca di ottenere un chiaro vantaggio (anche solo temporaneo) sull’IA potente assicurando la sua catena di approvvigionamento, scalando rapidamente e bloccando o ritardando l’accesso degli avversari a risorse chiave come i chip e le attrezzature per semiconduttori. Questa coalizione, da un lato, userebbe l’IA per ottenere una netta superiorità militare (il bastone) mentre, dall’altro, offrirebbe di distribuire i benefici dell’IA potente (la carota) a un gruppo sempre più ampio di paesi in cambio del sostegno alla strategia della coalizione per promuovere la democrazia (questo sarebbe un po’ analogo al programma “Atomi per la pace”). La coalizione avrebbe come obiettivo il sostegno di una parte sempre più ampia del mondo, isolando i nostri peggiori avversari e mettendoli eventualmente in una posizione in cui sarebbero meglio a fare lo stesso accordo del resto del mondo: rinunciare alla competizione con le democrazie per ricevere tutti i benefici e non affrontare un nemico superiore.

Se riuscissimo a fare tutto questo, avremmo un mondo in cui le democrazie guidano la scena mondiale e hanno la forza economica e militare per evitare di essere minate, conquistate o sabotate dagli autocrati, e potrebbero essere in grado di sfruttare la loro superiorità sull’IA per ottenere un vantaggio duraturo. Questo potrebbe, in un’ottica ottimistica, portare a un “eterno 1991” — un mondo in cui le democrazie hanno il sopravvento e i sogni di Fukuyama si realizzano. Ancora una volta, sarà molto difficile da realizzare, e richiederà in particolare una stretta cooperazione tra aziende di IA private e governi democratici, oltre a decisioni straordinariamente sagge sull’equilibrio tra la carota e il bastone.

Anche se tutto ciò andasse bene, rimarrebbe la questione della lotta tra democrazia e autarchia all’interno di ciascun paese. Ovviamente è difficile prevedere cosa accadrà, ma ho qualche ottimismo sul fatto che, dato un ambiente globale in cui le democrazie controllano l’IA più potente, questa potrebbe effettivamente favorire strutturalmente la democrazia ovunque. In particolare, in questo contesto, i governi democratici potrebbero usare la loro IA superiore per vincere la guerra dell’informazione: potrebbero contrastare le operazioni di influenza e propaganda degli autocrati e potrebbero persino essere in grado di creare un ambiente informativo globale libero fornendo canali di informazione e servizi IA in un modo che gli autocrati non sarebbero tecnicamente in grado di bloccare o monitorare. Probabilmente non sarebbe necessario fare propaganda, ma solo contrastare gli attacchi malevoli e sbloccare il libero flusso di informazioni. Sebbene non sia immediato, un campo di gioco equilibrato come questo ha buone possibilità di inclinare gradualmente la governance globale verso la democrazia, per diversi motivi.

In primo luogo, l’aumento della qualità della vita descritto nelle Sezioni 1-3 dovrebbe, a parità di condizioni, promuovere la democrazia: storicamente lo ha fatto, almeno in una certa misura. In particolare, mi aspetto che i miglioramenti nella salute mentale, nel benessere e nell’istruzione aumentino il sostegno alla democrazia, poiché tutte e tre queste condizioni sono negativamente correlate con il sostegno ai leader autoritari. In generale, le persone vogliono più auto-espressione quando i loro altri bisogni sono soddisfatti, e la democrazia è, tra le altre cose, una forma di auto-espressione. Al contrario, l’autoritarismo prospera sulla paura e sul risentimento.

In secondo luogo, c’è una buona probabilità che la libera informazione realmente indebolisca l’autoritarismo, fintanto che gli autoritari non possono censurarla. E l’IA non censurata può anche fornire agli individui potenti strumenti per minare i governi repressivi. I governi repressivi sopravvivono negando alle persone un certo tipo di conoscenza comune, impedendo loro di rendersi conto che “l’imperatore non ha vestiti”. Per esempio, Srđa Popović, che ha contribuito a rovesciare il governo di Milošević in Serbia, ha scritto ampiamente su tecniche per privare psicologicamente gli autoritari del loro potere, spezzare l’incantesimo e radunare il sostegno contro un dittatore. Una versione IA superumano ed efficace di Popović (le cui abilità sembrano avere alti ritorni dall’intelligenza) nelle tasche di tutti, una che i dittatori non possono bloccare o censurare, potrebbe creare un vento favorevole alle spalle dei dissidenti e dei riformatori in tutto il mondo. Ripeto, questa sarà una lotta lunga e prolungata, in cui la vittoria non è garantita, ma se progettiamo e costruiamo l’IA nel modo giusto, potrebbe almeno essere una lotta in cui i sostenitori della libertà in tutto il mondo hanno un vantaggio.

Come per le neuroscienze e la biologia, possiamo anche chiederci come le cose potrebbero essere “migliori del normale” — non solo come evitare l’autocrazia, ma come migliorare le democrazie rispetto a oggi. Anche all’interno delle democrazie, le ingiustizie si verificano continuamente. Le società basate sullo stato di diritto promettono ai loro cittadini che tutti saranno uguali di fronte alla legge e che tutti hanno diritto ai diritti umani fondamentali, ma ovviamente queste promesse non vengono sempre mantenute nella pratica. Il fatto che questa promessa venga anche solo parzialmente mantenuta è motivo di orgoglio, ma l’IA può aiutarci a fare meglio?

Ad esempio, l’IA potrebbe migliorare il nostro sistema legale e giudiziario rendendo decisioni e processi più imparziali? Oggi la preoccupazione principale in contesti legali o giudiziari è che i sistemi di IA saranno una causa di discriminazione, e queste preoccupazioni sono importanti e devono essere affrontate. Allo stesso tempo, la vitalità della democrazia dipende dall’utilizzo delle nuove tecnologie per migliorare le istituzioni democratiche, non solo rispondendo ai rischi. Una realizzazione davvero matura e di successo dell’IA ha il potenziale per ridurre i pregiudizi e essere più equa per tutti.

Per secoli, i sistemi legali hanno affrontato il dilemma secondo cui la legge mira a essere imparziale, ma è intrinsecamente soggettiva e quindi deve essere interpretata da esseri umani di parte. Cercare di rendere la legge completamente meccanica non ha funzionato, perché il mondo reale è complicato e non può sempre essere catturato in formule matematiche. Invece, i sistemi legali si basano su criteri notoriamente imprecisi come “punizione crudele e inusuale” o “totalmente priva di valore sociale redentivo”, che gli esseri umani poi interpretano, spesso mostrando pregiudizi, favoritismi o arbitrarietà. I “contratti intelligenti” nelle criptovalute non hanno rivoluzionato il diritto perché il codice ordinario non è abbastanza intelligente per dirimere questioni di grande interesse. Ma l’IA potrebbe essere abbastanza intelligente per farlo: è la prima tecnologia capace di fare giudizi ampi e sfumati in modo ripetibile e meccanico.

Non sto suggerendo che dobbiamo letteralmente sostituire i giudici con sistemi di IA, ma la combinazione di imparzialità con la capacità di comprendere e affrontare situazioni del mondo reale sembra avere serie applicazioni positive nel campo del diritto e della giustizia. Al minimo, tali sistemi potrebbero lavorare al fianco degli esseri umani come ausilio per prendere decisioni. La trasparenza sarebbe fondamentale in qualsiasi sistema del genere, e una scienza matura dell’IA potrebbe fornire proprio questo: il processo di addestramento di tali sistemi potrebbe essere studiato ampiamente, e tecniche avanzate di interpretabilità potrebbero essere utilizzate per vedere all’interno del modello finale e valutarlo per eventuali pregiudizi nascosti, in un modo che semplicemente non è possibile con gli esseri umani. Tali strumenti di IA potrebbero anche essere utilizzati per monitorare le violazioni dei diritti fondamentali in un contesto giudiziario o di polizia, rendendo le costituzioni più auto-esecutive.

Allo stesso modo, l’IA potrebbe essere utilizzata per aggregare opinioni e favorire il consenso tra i cittadini, risolvendo conflitti, trovando un terreno comune e cercando compromessi. Alcune idee iniziali in questa direzione sono state portate avanti dal progetto di democrazia computazionale, incluse collaborazioni con Anthropic. Una cittadinanza più informata e riflessiva rafforzerebbe ovviamente le istituzioni democratiche.

C’è anche una chiara opportunità per l’IA di aiutare a fornire servizi governativi — come benefici sanitari o servizi sociali — che in teoria sono disponibili per tutti, ma in pratica spesso mancano gravemente e sono peggiori in alcuni luoghi rispetto ad altri. Questo include i servizi sanitari, la motorizzazione civile (DMV), le tasse, la sicurezza sociale, l’applicazione del codice edilizio, e così via. Avere un’IA molto informata e attenta il cui compito è darti tutto ciò a cui hai diritto per legge in un modo che tu possa comprendere — e che ti aiuti anche a rispettare regole governative spesso confuse — sarebbe un enorme passo avanti. Aumentare la capacità statale aiuta sia a mantenere la promessa di uguaglianza di fronte alla legge, sia a rafforzare il rispetto per la governance democratica. Servizi mal implementati sono attualmente una delle principali cause di cinismo nei confronti del governo.

Tutte queste sono idee alquanto vaghe e, come ho detto all’inizio di questa sezione, non sono affatto così sicuro della loro fattibilità come lo sono per i progressi in biologia, neuroscienze e riduzione della povertà. Potrebbero essere irrealisticamente utopiche. Ma la cosa importante è avere una visione ambiziosa, essere disposti a sognare in grande e provare nuove strade. La visione dell’IA come garante della libertà, dei diritti individuali e dell’uguaglianza davanti alla legge è una visione troppo potente per non lottare per essa. Una politica del XXI secolo potenziata dall’IA potrebbe essere sia un protettore più forte della libertà individuale, sia un faro di speranza che contribuisce a rendere la democrazia liberale la forma di governo che tutto il mondo desidera adottare.

 

 

 

5. Lavoro e significato

Anche se tutto quanto descritto nelle quattro sezioni precedenti dovesse andare per il meglio — non solo alleviamo malattie, povertà e disuguaglianze, ma la democrazia liberale diventa la forma dominante di governo, e le democrazie liberali esistenti diventano versioni migliori di se stesse — rimane comunque una domanda importante. “È fantastico vivere in un mondo tecnologicamente avanzato e giusto”, potrebbe obiettare qualcuno, “ma con le IA che fanno tutto, come troveranno gli esseri umani un senso di significato? E come sopravviveranno economicamente?”.

Credo che questa domanda sia più difficile delle altre. Non intendo dire che sono necessariamente più pessimista su questa questione rispetto alle altre (anche se vedo delle sfide). Voglio dire che è più vaga e difficile da prevedere in anticipo, perché riguarda questioni macroscopiche su come la società è organizzata, questioni che tendono a risolversi solo nel tempo e in modo decentralizzato. Ad esempio, le società di cacciatori-raccoglitori storiche potrebbero aver immaginato che la vita sia priva di significato senza la caccia e vari rituali religiosi legati alla caccia, e avrebbero potuto pensare che la nostra società tecnologica, ben nutrita, sia priva di scopo. Potrebbero anche non aver compreso come la nostra economia possa provvedere a tutti, o quale funzione le persone possano svolgere utilmente in una società meccanizzata.

Tuttavia, vale la pena dire almeno qualche parola, tenendo presente che la brevità di questa sezione non deve essere affatto presa come un segno che non prendo queste questioni seriamente — al contrario, è un segno della mancanza di risposte chiare.

Per quanto riguarda la questione del significato, penso che sia molto probabilmente un errore credere che i compiti che si svolgono siano privi di significato semplicemente perché un’IA potrebbe svolgerli meglio. La maggior parte delle persone non è la migliore al mondo in nulla, e questo non sembra disturbarle particolarmente. Oggi, ovviamente, possono ancora contribuire attraverso il vantaggio comparato e possono trovare significato nel valore economico che producono, ma le persone traggono anche grande piacere da attività che non producono alcun valore economico. Io trascorro molto tempo a giocare ai videogiochi, nuotare, passeggiare all’aperto e parlare con gli amici, tutte cose che non generano alcun valore economico. Potrei passare una giornata a cercare di migliorare in un videogioco o a pedalare più velocemente su una montagna, e non mi importa che da qualche parte ci sia qualcuno molto più bravo di me in queste attività. In ogni caso, penso che il significato derivi principalmente dalle relazioni umane e dalla connessione, non dal lavoro economico. Le persone vogliono un senso di realizzazione, anche di competizione, e in un mondo post-IA sarà perfettamente possibile trascorrere anni tentando di raggiungere un obiettivo molto difficile con una strategia complessa, simile a ciò che le persone fanno oggi quando intraprendono progetti di ricerca, cercano di diventare attori di Hollywood o fondano aziende. Il fatto che (a) un’IA da qualche parte possa, in linea di principio, svolgere meglio questo compito e (b) questo compito non sia più economicamente ricompensato in un’economia globale, non mi sembra rilevante.

L’aspetto economico mi sembra in realtà più difficile rispetto a quello del significato. Per “economico” in questa sezione intendo il possibile problema che la maggior parte o tutti gli esseri umani possano non essere in grado di contribuire significativamente a un’economia sufficientemente avanzata guidata dall’IA. Questo è un problema più macro rispetto al problema separato dell’ineguaglianza, in particolare l’ineguaglianza nell’accesso alle nuove tecnologie, che ho discusso nella Sezione 3.

Prima di tutto, a breve termine, concordo con gli argomenti secondo cui il vantaggio comparativo continuerà a mantenere gli esseri umani rilevanti e, in effetti, aumenterà la loro produttività, e potrebbe persino, in qualche modo, livellare il campo di gioco tra gli esseri umani. Finché l’IA è solo migliore nel 90% di un determinato lavoro, il restante 10% farà sì che gli esseri umani diventino altamente valorizzati, aumentando le retribuzioni e creando in realtà una serie di nuovi lavori umani che completano e amplificano ciò in cui l’IA è brava, in modo che quel “10%” si espanda continuando a impiegare quasi tutti. In effetti, anche se l’IA fosse in grado di fare il 100% delle cose meglio degli esseri umani, ma rimanesse inefficiente o costosa in alcuni compiti, o se gli input di risorse per gli umani e per le IA fossero significativamente diversi, la logica del vantaggio comparato continuerebbe ad applicarsi. Un’area in cui è probabile che gli esseri umani mantengano un vantaggio relativo (o addirittura assoluto) per un periodo significativo è il mondo fisico. Pertanto, penso che l’economia umana possa continuare ad avere senso anche oltre il punto in cui raggiungiamo “un paese di geni in un datacenter”.

Tuttavia, penso che a lungo termine l’IA diventerà così efficace e così economica che questo non sarà più applicabile. A quel punto, l’attuale assetto economico non avrà più senso e sarà necessaria una discussione più ampia su come dovrebbe essere organizzata l’economia.

Anche se questo potrebbe sembrare folle, la verità è che la civiltà ha già affrontato con successo importanti cambiamenti economici in passato: dalla caccia-raccolta all’agricoltura, dall’agricoltura al feudalesimo, e dal feudalesimo all’industrializzazione. Sospetto che sarà necessario qualcosa di nuovo e ancora più strano, e che nessuno oggi abbia fatto un buon lavoro nell’immaginarlo. Potrebbe essere semplice come un reddito di base universale per tutti, anche se sospetto che ciò sarà solo una piccola parte della soluzione. Potrebbe trattarsi di un’economia capitalista di sistemi IA, che poi distribuiscono risorse (in grandi quantità, dato che la torta economica complessiva sarà enorme) agli esseri umani sulla base di una sorta di economia secondaria su ciò che i sistemi IA pensano abbia senso premiare negli esseri umani (basato su qualche giudizio che deriva, in ultima analisi, dai valori umani). Forse l’economia sarà alimentata da punti Whuffie. O forse gli esseri umani continueranno a essere economicamente preziosi, in un modo non previsto dai modelli economici attuali. Tutte queste soluzioni hanno un sacco di potenziali problemi, e non è possibile sapere se avranno senso senza molta iterazione e sperimentazione. E come per alcune delle altre sfide, dovremo probabilmente lottare per ottenere un buon risultato qui: direzioni distopiche o sfruttatrici sono chiaramente possibili e devono essere prevenute. Molto altro potrebbe essere scritto su queste questioni e spero di farlo in futuro.

 

Fare il punto

Attraverso i vari argomenti trattati sopra, ho cercato di delineare una visione di un mondo che è plausibile se tutto va per il verso giusto con l’IA, e molto migliore rispetto a quello attuale. Non so se questo mondo sia realistico, e anche se lo fosse, non sarà raggiunto senza un enorme sforzo e lotta da parte di molte persone coraggiose e dedicate. Tutti (comprese le aziende di IA!) dovranno fare la loro parte, sia per prevenire i rischi che per realizzare pienamente i benefici.

Ma è un mondo per cui vale la pena lottare. Se tutto questo si realizzasse davvero nei prossimi 5-10 anni — la sconfitta della maggior parte delle malattie, l’espansione della libertà biologica e cognitiva, il sollevamento di miliardi di persone dalla povertà per condividere le nuove tecnologie, una rinascita della democrazia liberale e dei diritti umani — sospetto che tutti ne sarebbero sorpresi dall’effetto che avrebbe su di loro. Non mi riferisco all’esperienza di beneficiare personalmente di tutte le nuove tecnologie, anche se sicuramente sarà straordinaria. Mi riferisco all’esperienza di vedere un insieme di ideali a lungo sostenuti materializzarsi tutti insieme davanti a noi. Penso che molti ne sarebbero letteralmente commossi fino alle lacrime.

Durante la stesura di questo saggio, ho notato una tensione interessante. In un certo senso, la visione delineata qui è estremamente radicale: non è ciò che quasi nessuno si aspetta che accada nel prossimo decennio e probabilmente sembrerà a molti un’assurda fantasia. Alcuni potrebbero persino non considerarla desiderabile; incarna valori e scelte politiche con cui non tutti saranno d’accordo. Ma allo stesso tempo, c’è qualcosa di incredibilmente ovvio — qualcosa di determinato da molte forze — in questa visione, come se molti tentativi diversi di immaginare un mondo migliore portassero inevitabilmente qui.

Nel romanzo di Iain M. Banks The Player of Games, il protagonista — membro di una società chiamata “la Cultura”, basata su principi non dissimili da quelli delineati qui — viaggia in un impero repressivo e militarista in cui la leadership è determinata da una competizione in un gioco di battaglia intricato. Tuttavia, il gioco è così complesso che la strategia del giocatore tende a riflettere la sua visione politica e filosofica. Il protagonista riesce a sconfiggere l’imperatore nel gioco, dimostrando che i suoi valori (quelli della Cultura) rappresentano una strategia vincente anche in un gioco progettato da una società basata sulla competizione spietata e sulla sopravvivenza del più forte. Un noto post di Scott Alexander ha la stessa tesi: la competizione è autolesionista e tende a portare a una società basata sulla compassione e sulla cooperazione. Il concetto dell'”arco dell’universo morale” è un’altra idea simile.

Credo che i valori della Cultura siano una strategia vincente perché sono la somma di milioni di piccole decisioni che hanno una chiara forza morale e che tendono a unire tutti dalla stessa parte. Le intuizioni umane di base su equità, cooperazione, curiosità e autonomia sono difficili da contestare e si accumulano in un modo che i nostri impulsi più distruttivi spesso non fanno. È facile sostenere che i bambini non dovrebbero morire di malattia se possiamo prevenirlo, e da lì è facile sostenere che i figli di tutti meritano ugualmente questo diritto. Da lì, non è difficile sostenere che dovremmo unirci tutti e applicare le nostre intelligenze per ottenere questo risultato. Pochi sono in disaccordo sul fatto che le persone dovrebbero essere punite per aver attaccato o ferito gli altri senza motivo, e da lì non è un grande salto giungere all’idea che le punizioni dovrebbero essere coerenti e sistematiche per tutte le persone. Allo stesso modo, è intuitivo che le persone dovrebbero avere autonomia e responsabilità sulla propria vita e sulle proprie scelte. Queste semplici intuizioni, se portate alla loro logica conclusione, portano infine allo stato di diritto, alla democrazia e ai valori dell’Illuminismo. Se non inevitabilmente, almeno come tendenza statistica, questo è il percorso che l’umanità stava già seguendo. L’IA offre semplicemente l’opportunità di farci arrivare più rapidamente, rendendo la logica più chiara e la destinazione più evidente.

Tuttavia, è una cosa di bellezza trascendente. Abbiamo l’opportunità di svolgere un piccolo ruolo nel renderla reale.