Di Howard W. French – Per chiunque abbia seguito le notizie negli ultimi giorni, con la loro copertura mediatica ormai satura dei poteri distopici dell’intelligenza artificiale, sarebbe facile cedere alla conclusione che siamo tutti condannati.
Nonostante il fatto che la copertura mediatica sia stata più sensazionalistica che illuminante, questa interpretazione potrebbe effettivamente essere corretta. Ma ciò non è necessariamente dovuto al fatto che l’IA finirà per spazzare via la nostra specie. Piuttosto, è a causa di qualcosa di più profondo e di gran lunga più impermeabile alla regolamentazione: la natura umana stessa.
Per anni ho tenuto corsi di politica pubblica sia negli Stati Uniti che in Cina che esplorano le conseguenze oscure e inaspettate dell’ingegno umano, e lo schema è chiaro. Molte delle nostre scoperte più significative — ovvero quelle che contribuiscono a sostenere l’idea del progresso umano — comportano sfide di gran lunga più complesse.
Per illustrare meglio questo quadro, torno spesso agli albori della società umana, quando piccoli gruppi di cacciatori-raccoglitori nomadi fecero la scoperta concettuale che la vita avrebbe potuto essere meno «brutta, brutale e breve», per usare la famosa formula di Thomas Hobbes, se avessero invece scelto luoghi adatti in cui stabilirsi. Si ritiene spesso che i primi insediamenti si trovassero nella valle del Tigri e dell’Eufrate, così come in altri delta fluviali, dove le inondazioni stagionali prevedibili e i terreni ricchi di limo favorirono la nascita dell’agricoltura.
Indubbiamente, questo risultato rappresentò una delle più grandi pietre miliari nella storia dell’umanità. Col passare del tempo, l’approvvigionamento alimentare divenne più regolare; si produssero eccedenze, che diedero il via a un’esplosione del commercio; sorsero la scrittura e la tenuta dei registri, di pari passo con la nascita dei primi Stati. Non passò molto tempo, però, prima che questi presunti progressi portassero alla distruzione. Come hanno osservato il defunto politologo James Scott e molti altri, intere città-stato delle origini furono spazzate via proprio dai frutti di questo «progresso».
Man mano che gli esseri umani cominciarono a vivere in comunità densamente popolate, diventarono comuni devastanti epidemie di malattie infettive, che portarono a morti di massa e all’abbandono degli agglomerati urbani. La fitta coltivazione di monocolture, che aveva reso possibile la vita cittadina e la sua nuova prosperità, attirò ben presto infestazioni di parassiti o agenti patogeni che spazzarono via il raccolto di un anno in un batter d’occhio, gettando le popolazioni nella fame. E mentre il fenomeno delle inondazioni annuali alimentava la curiosità scientifica, insieme alla matematica e ai calendari, le previsioni umane erano ben lungi dall’essere perfette, il che significava che una volta ogni generazione o più, inondazioni mortali spazzavano via ogni cosa al loro passaggio. Per quanto dura fosse stata la loro vita, i membri delle bande nomadi, in lento declino, non avevano dovuto affrontare nulla di tutto ciò.
In un’aula scolastica, si potrebbe ripercorrere metodicamente la storia dei pericoli dell’ingegno umano, epoca per epoca. Ai fini del nostro discorso, è meglio fare un salto in avanti, dove esempi tratti dal presente recente conferiscono forza a questo modello.
Lo sviluppo umano è sempre stato vincolato dai limiti dell’energia disponibile e facilmente sfruttabile. Questo è il problema alla base dell’invenzione della ruota, dell’addestramento di cavalli e bestiame e dei viaggi marittimi a vela. Lo sfruttamento del carbone, e poi l’invenzione del motore a combustione interna alimentato da petrolio apparentemente inesauribile, portarono a trasformazioni di portata appena inferiore a quella dell’invenzione dell’agricoltura. Solo molto tardivamente gli esseri umani hanno scoperto i pericolosi risvolti negativi di questa rivoluzione — il catastrofico riscaldamento globale — al punto che alcuni continuano ancora oggi a negarne l’esistenza.
Un’altra crisi nata da un’invenzione legata all’energia è scaturita dallo sfruttamento dell’atomo, grazie ai rapidi progressi della fisica tra la fine del XIX e l’inizio del XX secolo. I lettori potrebbero già intuire dove voglio arrivare. Con una velocità mozzafiato, il genio umano ha creato i mezzi per un cataclisma planetario attraverso la guerra nucleare. La maggior parte dei baby boomer ricorda di essere cresciuta in un’epoca in cui questa era una preoccupazione quotidiana e concreta nella vita, e le scuole e gli edifici degli uffici governativi recavano simboli atomici che li identificavano come rifugi antiaerei.
L’intelligenza artificiale (IA) rientra in questo schema, pur essendo qualitativamente diversa. Né il riscaldamento globale né i potenziali pericoli delle armi nucleari sono stati minimamente risolti, anche se raramente dominano la discussione pubblica o i dibattiti politici come invece ha fatto recentemente l’IA. La differenza con l’IA, tuttavia, è che, a differenza delle crisi passate, essa potrebbe potenzialmente eliminare del tutto l’azione umana dal quadro.
Finora, i processi politici tra gli Stati e a livello di governance globale hanno tenuto a bada il conflitto nucleare e persino la proliferazione su larga scala delle armi nucleari, anche se non vi è alcuna garanzia che tali accordi continuino a reggere. Nel frattempo, sebbene ci troviamo a un pericoloso punto di svolta per quanto riguarda il riscaldamento globale – come ci ricordano il crollo delle piattaforme di ghiaccio polari e dei ghiacciai himalayani – gli esseri umani conservano un certo potere di influenzare la curva del riscaldamento futuro e, di conseguenza, l’entità della catastrofe che ci attende.
Uno degli ostacoli a un’azione più incisiva in materia di clima e nucleare riguarda un aspetto oscuro della natura umana legato alle sfide esistenziali poste dall’intelligenza artificiale: la rivalità per ricchezza, potere e prestigio che caratterizza la competizione tra Stati.
Spinte da questo, le grandi potenze odierne hanno ribaltato le loro posizioni sul clima nell’arco di soli due decenni. Gli Stati Uniti sono passati dall’essere una forza trainante nella promozione di un’agenda contro il riscaldamento globale sotto la presidenza di Barack Obama a diventare un sostenitore sconsiderato del petrolio e del carbone sotto la presidenza di Donald Trump. Nell’era Obama, la Cina sosteneva spesso che fosse ingiusto che altri paesi si aspettassero che limitasse le emissioni pur essendo molto meno ricca dell’Occidente, quando erano proprio i paesi occidentali ad aver dominato storicamente le emissioni di carbonio. Sorprendentemente — e, si potrebbe dire con una certa cautela, in modo ottimistico — da allora Pechino ha modificato la propria percezione del proprio interesse.
La Cina considera sempre più il proprio crescente dominio nei settori delle energie rinnovabili, come il solare e le batterie, come un importante vantaggio economico e una fonte di soft power. Sotto Trump, gli Stati Uniti vedono il possesso di alcune delle più grandi riserve petrolifere del mondo, insieme al nuovo dominio sul Venezuela, ricco di petrolio, come la chiave per il proprio futuro competitivo.
Con l’intelligenza artificiale, i confini della competizione tra Stati Uniti e Cina, le due potenze leader in questo campo, sono delineati in modo molto più netto, ed è improbabile che la natura umana consenta tali cambiamenti di rotta politica. Ciascun Paese considera il dominio sull’IA essenziale per il proprio futuro, e la diffidenza reciproca e le divergenze politiche sono così profonde da escludere quasi del tutto una cooperazione significativa. Il risultato è il dilemma del prigioniero quasi perfetto che si sente ripetere fino alla nausea nei notiziari: e se gli americani rallentassero o fermassero il progresso nell’IA? Questo non porterebbe semplicemente alla supremazia della Cina?
L’IA potrebbe non sterminarci mai tutti. Eppure, se lo facesse, potremmo avere poco o nessun preavviso. Ciò che rende l’IA diversa dal riscaldamento globale o dalle armi nucleari è il suo potenziale di diventare di gran lunga più intelligente della specie che l’ha inventata. Non esiste un modo preciso e ampiamente condiviso per misurarlo, ma secondo alcune stime, i principali modelli di IA stanno diventando il 10 per cento più potenti ogni mese, raddoppiando le loro capacità di calcolo ogni sette mesi.
Anche allo stato attuale dell’IA, noi come specie stiamo già perdendo il controllo di questo prodotto della nostra ingegnosità. Recenti notizie hanno documentato i cosiddetti “breakout”, incidenti in cui i modelli di IA si comportano in modi allarmanti che i loro progettisti non avevano previsto né intenzionato. La rivalità tra Stati per ricchezza, potere e status trova riscontro nella competizione tra i principali attori del settore per fortune personali inimmaginabili.
Alcuni di questi individui hanno recentemente sollecitato una regolamentazione governativa, ma questo mi sembra soprattutto un modo per proteggere se stessi — piuttosto che il pubblico — da eventuali responsabilità. Mentre sfrecciamo bendati verso un precipizio, non è chiaro se esista una soluzione. Le generazioni precedenti hanno dovuto fare i conti con le conseguenze della propria inventiva e in qualche modo sono sopravvissute. La differenza con l’IA è che la sopravvivenza potrebbe non essere scontata, e la finestra per il giudizio umano potrebbe chiudersi prima che capiamo come cercarlo.
