Compatibile con l'uomo. Come impedire che l'IA controlli il mondo

Questo libro parla del tentativo, che gli esseri umani portano avanti da millenni, di sondare il mistero dellintelligenza; e racconta gli sforzi compiuti nellultimo secolo per riuscire a creare una mente artificiale. Perch lIA sta rapidamente diventando un elemento pervasivo del presente, e sar la tecnologia dominante dellimmediato futuro. Ma dobbiamo prepararci alleventualit che le macchine superino di gran lunga la nostra capacit di prendere decisioni nel mondo reale. Ottenere accesso a unintelligenza tanto sterminata potrebbe essere levento pi importante della storia dellumanit. Bisogna per fare in modo che non si tratti anche dellultimo evento della storia dellumanit. Il concetto di intelligenza centrale nella costruzione dellidentit umana, non un caso che la nostra specie abbia deciso di chiamarsi Homo sapiens. E dopo pi di duemila anni siamo arrivati a una definizione dellintelligenza che si pu forse sintetizzare in questo modo: siamo intelligenti nella misura in cui ci possiamo aspettare che le nostre azioni raggiungano gli obiettivi che ci prefiggiamo. Alla luce di questa definizione tutte le altre caratteristiche della nostra sfera intellettuale percezione, pensiero, apprendimento, inventiva e cos via possono essere ridotte al contributo che danno alla capacit di agire efficacemente. Si tratta di una definizione piuttosto funzionale, che presenta per dei rischi, soprattutto se estesa alle macchine. Dagli albori dellIA, infatti, lintelligenza sintetica stata definita allo stesso modo: le macchine sono intelligenti nella misura in cui ci si pu aspettare che le loro azioni raggiungano gli obiettivi che si prefiggono. E qui sta il problema: non esiste una garanzia certa che i loro obiettivi siano uguali ai nostri. E non esiste una garanzia che nel portarli in maniera pi efficiente possibile a termine non decidano di prendere il controllo. Per scongiurare questa ipotesi, ci spiega Russell con linguaggio chiaro e accessibile, dobbiamo abbandonare lassunto per cui le macchine dovrebbero avere un obiettivo definito, cosicch si rimettano al volere degli esseri umani, chiedano autorizzazioni, agiscano con cautela e si lascino spegnere. Questo significa sostituire parte delle fondamenta e della sovrastruttura che, oggi, reggono lintelligenza artificiale. un lavoro lungo, ma necessario farlo per costruire una nuova relazione tra esseri umani e macchine che, invece di proiettarci in una inquietante distopia, ci lasci immaginare un futuro in cui la vita sar infinitamente pi facile e migliore grazie al benefico supporto della tecnologia.

di Veltri, Chiara - 2025-03-11

Edizioni Einaudi

ISBN 9788806263218