Rischi e opportunità dell’evoluzione tecnologica
Partendo da una disamina filosofico-politica delle dinamiche di potere tra Stato e società, per giungere all’inarrestabile progresso scientifico e tecnologico odierno, questo articolo ha l’obiettivo di analizzare rischi e opportunità insite nell’attuale evoluzione della tecnologia digitale, sottolineando criticamente le inevitabili influenze che questa trasformazione avrà nei confronti dei complessi rapporti sociali, politici ed economici.
In ambito filosofico, il rapporto tra Stato, potere, società è stato ben esemplificato da autori come Michel Foucault (1926-1984) e Byung-chul Han che hanno messo in risalto gli aspetti di sorveglianza, disciplina e costrizione insiti nelle norme biopolitiche predominanti nelle società moderne. Tali forme di controllo sociale sono state, in parte, superate dall’avvento dei nuovi modelli di autoritarismo digitale e dai loro riflessi psicopolitici capaci di rimodellare le aspettative e i bisogni delle persone senza la necessità di ricorrere a mezzi coercitivi.1
Per comprendere la reale utilità dei nuovi strumenti digitali e il loro possibile impatto sulla società e sull’economia odierne, occorre discutere criticamente i limiti e le potenzialità che essi possiedono.2
Le nuove frontiere del digitale e le possibili applicazione dell’intelligenza artificiale (AI) generativa, delle cryptovalute e il confronto con temi quali la raccolta e lo sfruttamento dei Big Data, dei social network, della governance digitale e della privacy costituiscono oggi ambiti di fondamentale importanza per la comprensione della realtà che ci circonda.
Per analizzare in modo più approfondito le dinamiche, le caratteristiche e i rischi dell’ infosfera, ecosistema in cui il controllo psicopolitico si manifesta compiutamente, è necessario offrire un quadro generale su cosa ci sia alla base, ovvero i dati. Questi ultimi si possono definire come una descrizione codificata di un’informazione, generata attraverso il contatto di un individuo con la rete. Tale presa di contatto può presentarsi sotto svariate forme, ad esempio, transazioni, immagini, video, suoni, quindi dall’osservazione di fenomeni elementari generando successivamente procedure più complesse come previsioni, calcoli e problem solving. I dati sono quindi la materia prima delle relazioni che avvengono nell’infosfera, le tracce che ognuno di noi lascia dopo l’utilizzo di qualsiasi sistema digitale, e sono ciò di cui le AI si nutrono attraverso l’apprendimento automatico (machine learning). Queste informazioni presenti sotto forma di dati, sono inoltre durevoli, riutilizzabili, rapidamente trasportabili, facilmente duplicabili e condivisibili senza limiti.3 Grazie ad Internet, ai social media e agli smartphone, la velocità e la facilità con cui queste informazioni elettroniche viaggiano da un continente all’altro è diventata incredibile e, di conseguenza, queste peculiarità hanno generato un enorme aumento della quantità di dati presenti in rete.
Con il termine big data s’intende quindi proprio la raccolta sistematica di milioni di questi singoli dati eterogenei, i quali assumono il loro vero valore quando sono analizzati statisticamente nell’insieme, al fine di scoprire i legami tra fenomeni diversi e prevedere quelli futuri. Diventa quindi chiaro il ruolo fondamentale che essi svolgono, legittimando la “corsa” già iniziata alla loro appropriazione da parte di aziende tech quali ad esempio Amazon, Meta, Apple, Google e da parte di governi e agenzie di intelligence. 4
È in questo contesto, in particolare attraverso il meccanismo di appropriazione delle informazioni e dei dati provenienti dall’infosfera, che il controllo psicopolitico descritto da Han si concretizza in un nuovo o rinnovato modello rispetto alle forme di vigilanza illustrate da Foucault.
Il filosofo di origine sudcoreana, descrive questa nuova moderna società del controllo come una struttura che non s’impone con divieti o obblighi, ma, al contrario,
“ci invita di continuo a comunicare, a condividere, a esprimere opinioni e desideri, a raccontare la nostra vita. Ci seduce con un volto amichevole, mappa la nostra psiche e la quantifica attraverso i big data, ci stimola all’uso di dispositivi di automonitoraggio. Nel panottico digitale del nuovo millennio – con internet e gli smartphone – non si viene torturati, ma twittati o postati. il soggetto e la sua psiche diventano produttori di masse di dati personali che sono costantemente commercializzati”. 5
Si comprende come tale idea prenda in considerazione non solo gli aspetti tecnici di produzione e raccolta arbitraria di dati, ma come questa sottolinei in modo preciso gli effetti psico-sociali del sistema. Infatti, secondo Han, la società dell’informazione è la società della trasparenza, in cui il controllo psicopolitico si applica attraverso la totale libertà di circolazione delle informazioni. Siamo portati a bramare la luce dei riflettori, a voler sfamare il nostro ego condividendo sui social, attraverso un touch screen, le nostre vite contribuendo volontariamente alla sottrazione e alla commercializzazione di dati personali, questione che presenta importanti implicazioni oltre che sulla privacy anche sul deterioramento dell’ambiente naturale che ci circonda.
Alla luce di quanto detto finora, si può schematicamente comprendere come l’intelligenza artificiale e la digitalizzazione siano parte integrante dei processi di potere grazie a tre principali strati attraverso cui dispiegano la loro vera natura. Partendo dalle basi, il primo strato è la catena di approvvigionamento descritta da Kate Crawford in cui vi è lo sfruttamento dell’ambiente e della manodopera per estrarre risorse utili alla creazione del secondo strato, ovvero i complessi processi computazionali informatici responsabili della nascita di tecnologie digitali come gli smartphone o dell’AI intesa come machine learning.6 Il terzo strato è quello psicologico, l’effetto sociale che l’utilizzo di queste tecnologie ha nei confronti degli individui, descritto da Han nelle sue opere.
Per rispondere al quesito chi e come si governa Internet, occorre cercare di identificare chi ricopre un ruolo dominante nella rete attraverso particolari casi studio inerenti i rapporti geopolitici tra le nazioni (come il caso di Starlink, dell’isola di Taiwan e i cavi sottomarini transatlantici). Per quanto riguarda, il come, è emersa l’esigenza di sviluppare un’etica del digitale che ridia voce al ruolo dei singoli individui, in modo tale da riequilibrare i diseguali rapporti di potere odierni.
Un approfondimento meritevole riguarda le tecnologie innovative introdotte sul mercato digitale da aziende private come, ad esempio, il chatbot ChatGP di OpenAI, e sul ruolo che queste potrebbero avere in termini di impatto sociale sulle persone e sulla società in generale. In tale contesto, i rischi per la stabilità finanziaria legati all’utilizzo delle cryptovalute e delle blockchain richiedono, secondo il bollettino macroprudenziale emanato nel luglio 2022 dalla Banca centrale europea (BCE), un intervento regolatore urgente con quadri normativi appropriati per attenuare la sfida virtuale dei crypto asset al sistema finanziario tradizionale.
“Da tempo oramai è in corso un fitto dibattito relativo ad una definizione regolatoria del fenomeno. Il presunto lancio di Libra, la moneta virtuale ideata nei piani di Mark Zuckerberg ed i vari esperimenti e progetti pilota delle Banche Centrali di Cina e delle Bahamas pongono ormai la questione in stretta osservazione. Molte sono le implicazioni dell’utilizzo e dello scambio di una moneta virtuale che è funzionale e si sviluppa in un ecosistema che è proprio e che le appartiene quale quello digitale, ma, d’altro canto, tanti sono i rischi che pone e su cui fanno leva i detrattori che sono reticenti nel trovare una risposta ai problemi già esistenti e dal 2008 accentuati del settore finanziario e del credito”. 7
Nonostante le criticità evidenziate, in particolare, dal settore finanziario e bancario, l’utilizzo oculato e regolamentato, grazie alla diffusione di standard e linee guidainternazionali, delle valute virtuali potrebbe rappresentare un elemento utile a riformare e snellire lo scambio di beni e servizi legati al sistema economico-finanziario convenzionale. Inoltre, la tecnologia blockchain applicata a livello istituzionale potrebbe rappresentare un plus capace di rinnovare il rapporto di fiducia tra Stato e comunità.
L’obiettivo principale delle tematiche citate nel presente articolo consiste soprattutto nel porre delle domande che definirei esistenziali perché riguardano la nostra esistenza attuale e quella futura, quesiti ai quali, al momento, nessuno è in grado di fornire risposte certe. Esse dipenderanno in gran parte dai valori morali e dalla prospettiva umanitaria che adotteremo di fronte allo smisurato progresso tecnologico che ci attende. A tale proposito, vorrei concludere citando un passo del saggio del filosofo austriaco Karl Popper (1902-1994) intitolato Cattiva maestra televisione, pubblicato nel 1994.
“Una vera democrazia non può esistere se non si mette sotto controllo la televisione, o più precisamente non può esistere a lungo fino a quando il potere della televisione non sarà stato pienamente scoperto. Dico così perché anche i nemici della democrazia non sono ancora del tutto consapevoli del potere della televisione. Quando si saranno resi conto fino in fondo di quello che possono fare, la useranno in tutti i modi, anche nelle situazioni più pericolose. Ma allora sarà troppo tardi”.
Tutti i mass media conosciuti sino ad ora si sono rivelati un formidabile mezzo di condizionamento delle persone per la capacità di proporre modelli culturali e stili di vita influenzando idee, emozioni e la stessa percezione della realtà. La supremazia dei media tradizionali (stampa, televisione, radio, telefono) è stata surclassata dall’avvento di Internet, dei social network e degli odierni device di comunicazione digitale che consentono di moltiplicare in modo straordinario contenuti testuali e visuali, stimoli e interazioni. L’alta tecnologia dotata di intelligenza artificiale può però rappresentare, come si è visto, un pericolo soprattutto se sfruttata dagli interessi dominanti per imporre profili comportamentali psicopolitici socialmente utili. Come sostiene Popper, ogni mezzo di comunicazione capace di influenzare e condizionare, deve essere monitorato con attenzione in modo da preservare la sfera personale degli individui presenti nel “villaggio globale” delle reti telematiche dal rischio di veder violate la propria identità digitale e la privacy personale.8
Lorenzo De Filippis
Bibliografia
A. Alù, La Governance di Internet oltre gli Stati? Gli inediti tratti del futuro ecosistema digitale, “Rivista italiana di informatica e diritto”,Periodico internazionale del CNR-IGSG, f. 1, 2022.
M. Atzori, Tecnologia blockchain e governance decentralizzata: lo Stato è ancora necessario?, in “Electronic Journal”, Social Science Research Network (SSRN), December 2015.
A. Ballatore, S. Natale, Fallimenti, controversie e il mito tecnologico dell’intelligenza artificiale, in Fallimenti digitali: Un’archeologia dei “nuovi” media, a cura di P. Magaudda e G. Balbi, Unicopli, 2018.
C. Beckett, New powers, new responsibilities. A global survey of journalism and artificial intelligence, in“The JournalismAI”, Politics and International Studies (Polis), Department of Media and Communications, The London School of Economics And Political Science, November 2019.
Berlin Declaration on Digital Society and Value-Based Digital Government,at the ministerial meeting during the German Presidency of the Council of the European Union, December 2020.
T. Berners-Lee, L’architettura del nuovo web. Dall’inventore della rete il progetto di una comunicazione democratica, interattiva e intercreativa, Feltrinelli, 2001.
V. Bertola, La sovranità digitale e il futuro di Internet, “Rivista italiana di informatica e diritto”,Periodico internazionale del CNR-IGSG, f. 1, 2022.
P. Boucher, S. Nascimento, M. Kritikos, How blockchain technology could change our lives, European Parliamentary Research Service (EPRS), February 2017.
L. Califano, Come si governa la tecnologia digitale?, in “Cultura giuridica e diritto vivente”, Dipartimento di Giurisprudenza dell’Università di Urbino, vol. VIII, 2021.
E. Capone, Google I/O, la ricerca potenziata con Bard arriva in 180 Paesi del mondo, in
“La Repubblica”, 10 maggio 2023.
J. Chang, M. Chakrabarti, T. Skoog, How AI chatbots are changing how we write and who we trust, in “Wbur on point”, January 2023.
A. Chiocchi, Effetti della rivoluzione digitale, in“Società e conflitto”, XX, n. 37-38, 2008.
N. Chomsky, E. S. Herman, La fabbrica del consenso. La politica e i mass media, Il Saggiatore, 2014.
G. L. Comandini, Da zero alla luna. Quando come e perché la blockchain sta cambiando il mondo, Flaccovario Dario, 2020.
A. Coumbassa, L’evoluzione dei mezzi di comunicazione di massa e i poteri dell’informazione, in “Social News”, Giornale di informazione sociale, Auxilia Foundation, 20 Giugno 2019.
K. Crawford, Né intelligente né artificiale. Il lato oscuro dell’IA, Il Mulino, 2021.
G. Cuscito, Perché USA e Cina si contendono i microchip di Taiwan? in “Limes”, Rivista italiana di geopolitica, 20 maggio 2021.
G. Deleuze, Foucault, Orthotes, 2021.
U. Eco, Apocalittici e integrati: comunicazioni di massa e teorie della cultura di massa, Bompiani, 1989.
G.C. Ettorre, L’intelligenza artificiale in Elementi di informatica in diagnostica per immagini,a cura di R. Grassi, G. Guglielmi, G. Pinto, A. Siani, Springer, 2010.
European Central Bank (BCE), Report on a digital euro, 2020.
D. Fabbri, Grosso guaio nella piccola Cina. Mentre i russi arretrano in Ucraina a Taiwan cinesi e americani preparano la guerra mondiale, in “Domino”, Rivista mensile sul mondo che cambia diretta da D. Fabbri, G.O.L. Impresa sociale S.r.l., n. 6, 2022.
D. Fabbri, Umano, troppo umano. Il metaverso è copia della nostra esistenza, Stati e popoli ne determinano la natura. Dall’Ucraina alla sfida tra Washington e Pechino, in “Domino”,Rivista mensile sul mondo che cambia diretta da D. Fabbri, G.O.L. Impresa sociale S.r.l.,I, n. 9, 2022.
M. Ferraris, G. Saracco, Tecnosofia. Tecnologia e umanesimo per una scienza nuova, Laterza, 2023.
S. Fleming, What is digital sovereignty and why is Europe so interested in it?, in “The European Sting”, 16 March 2021.
L. Floridi, Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide, Cortina, 2022.
V. Flusser, La cultura dei media, Mondadori, 2004.
M. Ford, Il dominio dei robot. Come l’intelligenza artificiale rivoluzionerà l’economia, la politica e la nostra vita, Traduzione di A. Vezzoli, Il Saggiatore, 2022.
M. Foucault, Sorvegliare e punire. La nascita della prigione, Einaudi, 2014.
Id., Nascita della Biopolitica, Corso al Collège de France (1978-1979), Feltrinelli, 2015.
Id., Governo di sé e degli altri, Corso al Collège de France (1982-1983), Feltrinelli, 2015.
M. Gabanelli, F. Savelli, I dati di quasi 8 miliardi di persone passano nei cavi sottomarini. Chi li controlla?, “Corriere della Sera”, CXLV, n. 5, 3 febbraio 2020.
L. Gill, D. Redeker, U. Gasser, Towards Digital Constitutionalism? Mapping Attempts to Craft an Internet Bill of Rights, The Berkman Center for Internet and Society at Harvard University, Research Publication, n. 2015-15, November 9, 2015.
B.C. Han, Nello sciame. Visioni del digitale, Nottetempo, 2015.
Id., Psicopolitica, Nottetempo, 2016.
Id., Che cos’è il potere?, Nottetempo, 2019.
Id., Le non cose. Come abbiamo smesso di vivere il reale, Einaudi, 2022.
Id., Infocrazia. Le nostre vite manipolate dalla rete, Einaudi, 2023.
Y. N. Harari, Homo Deus. Breve storia del futuro, Giunti Editore/Bompiani, 2018.
M. Heidegger, Introduzione alla Metafisica, Mursia, 1990.
T. Hobbes, Il Leviatano, Laterza, 2008.
C. Lagarde, F. Panetta, Report on a digital Euro, Europa central bank (BCE), 2020.
P. Lévy, Cybercultura. Gli usi sociali delle nuove tecnologie, Feltrinelli Editore, 1999.
J. J. Linz, La caduta dei regimi democratici, Il Mulino, 1981.
J. Locke, Il secondo trattato sul governo, BUR, 2019.
G. O. Longo, A. Vaccaro, La nascita della filosofia digitale, in “Mondo Digitale”, XIII, n.52, 2014.
M. McLuhan, Gli strumenti del comunicare, Garzanti, 2015.
S. McKune, An Analysis of the International Code of Conduct for Information Security, in “The Citizen lab”, September 2015.
Y. Mehdi, Reinventing search with a new AI-powered Microsoft Bing and Edge, your copilot for the web, Official Microsoft Blog, 2023.
Ministero per lo Sviluppo Economico (MISE), Proposte per la Strategia italiana in materia di tecnologie basate su registri condivisi e Blockchain, 2020.
R. Morriello, Blockchain, intelligenza artificiale e internet delle cose in biblioteca, “Aibstudi”, vol. 59, n. 1-2, 2019.
M. Naím, La fine del potere. Dai consigli di amministrazione ai campi di battaglia, dalle chiese agli stati, perché il potere non è più quello di un tempo, Mondadori, 2013.
Id., The Revenge of Power: How Autocrats Are Reinventing Politics for the 21st Century, St. Martin’s Griffin, 2023.
S. Picascia, A. Romano, M. Teobaldi, The airification of cities: making sense of the impact of peer to peer short term letting on urban functions and economy, Proceedings of the Annual Congress of the Association of European Schools of Planning, Lisbon, July 2017.
T. Raucci, Blockchain e Bitcoin: aspetti definitori ed opportunità dell’economia digitale, in www.iusinitinere.it, febbraio 2021.
M. Rhao, Il paradosso di Nakamoto: utilità attese e pericoli potenziali di un impiego istituzionale della tecnologia blockchain, “Rivista italiana di informatica e diritto”,Periodico internazionale del CNR-IGSG, f. I, 2022.
S. Rodotà, Tecnopolitica. La democrazia e le nuove tecnologie della comunicazione, Laterza, 1997.
A. Romano, La geografia delle piattaforme digitali. Mappe, spazi e dati dell’intermediazione digitale, in “Strumenti per la didattica e la ricerca”, Firenze University Press, 2022.
J. J. Rousseau, Il contratto sociale, BUR, 2019.
E. Sadin, Critica della ragione artificiale. Una difesa dell’umanità, Luiss University Press, 2019.
M. Santaniello, Sovranità digitale e diritti fondamentali: un modello europeo di Internet governance, “Rivista italiana di informatica e diritto”,Periodico internazionale del CNR-IGSG, f. 1, 2022.
G. Taddei Elmi, S. Marchiafava, Sviluppi recenti in tema di Intelligenza Artificiale e diritto: una rassegna di legislazione, giurisprudenza e dottrina, “Rivista italiana di informatica e diritto”,Periodico internazionale del CNR-IGSG, f. 2, 2022.
A. Turing, Computing Machinery and Intelligence, Mind, Vol. LIX, n. 236, 1950.
Id., On computable Numbers, with an application to the Entscheidungsproblem, 1936.
Università degli Studi di Milano Bicocca, Bicocca rilascia le prime certificazioni di laurea Blockcerts, www.unimib.it, Giugno 2019.
D. V. Valentina, La (poca) sicurezza dei cavi sottomarini: è ora di un nuovo trattato internazionale, in “Agenda digitale”, Settembre 2019.
J. Villasenor, How ChatGPT Can Improve Education, Not Threaten it, in “Scientific American”, 2023.
P. Wallace, La psicologia di Internet, nuova edizione a cura di P. Ferri e S. Moriggi, Raffaello Cortina Editore, 2017.
M. Weber, Economia e Società, Einaudi, 1999.
Id., Sociologia del potere, Pgreco, 2014.
Id., La scienza come professione. La politica come professione, Mondadori, 2006.
J. Zittrain, “Netwar”: the unwelcome militarization of the Internet has arrived, in “Bulletin of the atomic scientists”, vol. 73, n. 5, 2017.
1 Secondo il filosofo e linguista americano Noam Chomsky, sono le forze politiche ed economiche a controllare i media: lo scopo è quello di creare una fabbrica del consenso, cioè un sistema di propaganda realizzato attraverso i mezzi di comunicazione di massa per la manipolazione e la strumentalizzazione dell’opinione pubblica. Cfr. N. Chomsky, E.S. Herman, La fabbrica del consenso. La politica e i mass media, Il Saggiatore, 2014.
2 La rivoluzione digitale ha trasformato tutti i canali comunicativi precedenti “sottoponendo l’intero universo sociale allo stimolo di tecnologie sofisticate e potenti che frantumano le antiche barriere spazio-temporali. Una delle nuove caratteristiche dell’era digitale è l’istantaneità della comunicazione e la tempestività con cui gli attori comunicativi sono chiamati ad interagire. La digitalizzazione degli assetti e delle relazioni sociali (social network) contrae tempo e spazio, riorganizzando intorno ai suoi input le strutture organizzative preesistenti ed edificandone nuove più pervasive ed efficienti. La digitalizzazione richiede nuove strutture di collegamento e, soprattutto, nuove modalità di messa in azione e interscambio della comunicazione, ormai risorsa strategica delle società globali in cui viviamo”. A. Ciocchi, Effetti della rivoluzione digitale, in “Società e conflitto”, XX, n. 37-38, 2008.
3 Cfr. L. Floridi, Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide, Cortina, 2022, p. 71.
4 L’importante ruolo delle banche dati in questo contesto è confermato dal modello di business grazie al quale le aziende tech generano enormi profitti grazie alla commercializzazione dei dati che gli utenti offrono in modo spontaneo aderendo alle piattaforme digitali presenti in rete.
5 B.C. Han, Psicopolitica, Nottetempo, 2016.
6 K. Crawford, Né intelligente né artificiale. Il lato oscuro dell’IA, Il Mulino, 2021, p. 40. La scienza computazionale (dall’ingl. computation, relativo al computare, calcolare) è quel ramo delle scienze naturali che si avvale delle tecnologie informatiche e dei calcolatori elettronici per le proprie ricerche disciplinari.
7 T. Raucci, Blockchain e Bitcoin: aspetti definitori ed opportunità dell’economia digitale, www.iusinitinere.it, 17 febbraio 2021, p. 2.
8 Uno degli studiosi più noti degli effetti prodotti dalla comunicazione sulla società e sui comportamenti individuali è stato il filosofo e sociologo canadese Marshall McLuhan (1911-1980). Le sue riflessioni, presenti nel saggio Gli strumenti del comunicare pubblicato nel 1964, anticipano, per certi versi, il dibattito odierno sul potere del digitale partendo dall’ipotesi che è il mezzo di comunicazione tecnologico utilizzato ad assumere più importanza del messaggio che si desidera trasmettere: “il mezzo è il messaggio”, al di là dei contenuti dell’informazione vera e propria. I social network, ad esempio, contengono spesso messaggi privi di significato reale perché ciò che importa è il mezzo di comunicazione che consente agli utenti di connettersi e di condividere on line sulle piattaforme social il contenuto che essi vogliono veicolare.
