Il delirio di onnipotenza della tecnica, fra intelligenza artificiale e politica

Alla domanda “È più forte la tecnica o la necessità che governa le leggi della natura?” Prometeo rispose “La tecnica è di gran lunga più debole della necessità che governa le leggi della natura”

Eschilo, Prometeo Incatenato

Siamo nei primi anni del Novecento quando un sociologo tedesco, tale Max Weber, volendo dar valore alla propria “etica della responsabilità”, frutto della sublimazione dell’esistenzialismo, spiegherà che con l’affermazione della tecnica non vi poteva essere più spazio per etiche basate sulle intenzioni o sul finalismo, la posizione precaria rispettivamente del dubbio e del futuro risultava inconciliante con l’atteggiamento metodico della tecnica. Quindi, scriveva Weber, era doveroso passare ad un’etica della responsabilità, nella quale il singolo si assume, indipendentemente dalle sue intenzioni e dai suoi fini, le responsabilità di tutte le scelte che prende.

Oggi, dopo quasi un secolo, possiamo dire che anche l’etica di Weber ha fallito. La motivazione è molto semplice, Weber, suo malgrado, non poteva minimamente immaginare che la tecnica stessa, e non il singolo che tenta di governarla, sarebbe riuscita a svincolarsi dalla responsabilità.

La verità in fondo è che la tecnica è riuscita a svincolarsi da tutte le tre grandi etiche del pensiero Occidentale: dall’etica dell’intenzione perché non si può pensare che una macchina intenda se non come frutto delle intenzioni di chi la progetta, e dall’etica del finalismo semplicemente perché il successo del lancio di un nuovo prodotto sul mercato si valuta dalle quantità di vendite e non sull’effettivo utilizzo e necessità del prodotto stesso. Ma, ancor più grave, la situazione si complica quando la computazione della macchina viene svincolata dal discernimento dell’uomo.

Nel rapporto uomo-macchina la guida è passata alla macchina ormai da tanto tempo, la maggior parte della tecnologia, e non tecnica, che ci circonda risulta di gran lunga più intelligente di noi, tanto da sovvertire completamente il rapporto con essa. Non siamo noi che comandiamo la macchina ma è la macchina che comanda noi, in un legame molto simile a quello descritto nella dialettica servo padrone Hegeliana.

La rappresentazione di questo concetto è sublimata in un articolo di CULTURE-E:

“L’Intelligenza Artificiale entra nelle stanze dei bottoni, riuscendo così a influenzare le sorti della politica estera. I primi esempi si possono già osservare in Cina, dove le macchine intelligenti supportano il Ministero degli Esteri. (…) Si potrebbe sfruttare per prendere le giuste decisioni politiche, interpretare gli scenari nel modo più vantaggioso, e naturalmente appianare i livelli di stress dei diplomatici”.

L’articolo si riferisce ad un prototipo realizzato dall’Accademia Cinese delle Scienze, prototipo che grazie ai Big Data, supporterà, come già ha annunciato Pechino, il Governo nella gestione della politica estera.

La cosa più preoccupante di questa semplice proposizione è forse il riferimento alle “giuste decisioni politiche”, il che fa sorgere una domanda spontanea, si può affidare la decisione di ciò che è giusto o sbagliato all’intelligenza artificiale di una macchina? Si può sintetizzare il ragionamento millenario dello zoon politikon in una, seppure complessa ed efficiente, serie di algoritmi? E non mi riferisco all’affidabilità della macchina, ma alla tipologia di risultati che la macchina stessa è in grado di offrire. Perché, una delle tante distorsioni provocate dal delirio della tecnica, è la sempre maggiore convergenza del nostro ragionamento verso un approccio binomiale e binario, fatto di “si”, “no” o al massimo “errore”, perdendo sempre di più la capacità di ragionare e produrre risultati che vadano oltre il semplice ragionamento dicotomico.

Noblesse oblige constatare che la dittatura dei risultati della tecnica sta anestetizzando la nostra volontà di potenza con un surrogato del progresso fatto di giovani che imparano libri a memoria senza gli strumenti per comprendere a pieno neanche la pagina delle dediche iniziali.

Competenze senza conoscenze, questo è stato l’errore fatale in una società la cui etica dopo l’esistenzialismo à la Sartre è diventata la responsabilità con la r maiuscola, e questo dimostra che non abbiamo imparato niente se non le date e i numeri dei morti dalla seconda guerra mondiale, ossia l’esempio di come una tecnicizzazione della società è riuscita a giustificare il dolo delle atrocità solamente tramite la deresponsabilizzazione di massa. Il dramma dell’analfabetismo dei sentimenti è solo una delle conseguenze della sostituzione delle conoscenze con le competenze, ma come si può pretendere una presa di responsabilità da un soggetto che non comprende la logica e i sentimenti sottostanti alle proprie azioni?

Le applicazioni dell’intelligenza artificiale nel mondo dell’economia vantano ormai un’esperienza decennale. Si ricorda a tal proposito il crollo del DOWJ del 6 Maggio 2010, soprannominato “Flash Crash”, per la natura repentina che ha avuto, spiegata in seguito come un problema con i server HFT (trading ad alta frequenza) di molte banche d’investimento. E sono moltissime sia le critiche sia le apologie nei confronti del mercato guidato da algoritmi, ma la suprema efficienza di questa tecnologia ha sbaragliato qualsiasi filippica sulla presunta “eticità” delle piattaforme di negoziazione invase da potenti polarizzatori di capitale.

Il paragone in effetti non reggeva prima e non regge neanche adesso. Come stimato da Edgar Perez nel suo libro, The Speed Traders, un trader di JP Morgan impiega circa 36 secondi per prendere una posizione sui mercati in seguito ad una news, un algoritmo impiega circa 100 millisecondi, il tempo di un battito d’ali di una mosca.

Le applicazioni dell’intelligenza artificiale, che pur ha fatto tanto del bene in questi anni, basti pensare a sistemi come Watson, nella politica non generano sospetti solo di ordine politico, ma anche di ordine etico generale. Come si reagirebbe ad una possibile tensione diplomatica generata da sbagliate previsioni di questi algoritmi? Forse è doveroso ricordare, la politica come la descriveva Aristotele, politica nella quale il fine della politica stessa era lo Stato, che si poneva come medium tra le ambizioni del singolo e il fine ultimo per il quale lo Stato stesso era creato; la felicità.

Concludo con alcune domande.

Milioni di righe di codice e di Big Data possono intendere il movimento di “streben” dell’uomo verso la felicità?

Si può ridurre la dialettica sottostante la politica, passando da Demostene a Catone, da Protagora a Gorgia, in una semplice intuizione prodotta da neuroni artificiali e chilometri di fibra ottica?

Ma ancora, Nicolae Ceaușescu sarà ricordato nei libri di storia per il modo barbaro con il quale è stato processato e giustiziato nello stesso istante, ma se in un futuro l’algoritmo decretasse la fine di una democrazia, quale sarebbe la responsabilità e la condanna per la macchina? Non credo abbia a che fare con lo staccare semplicemente la spina.

È siciliano d’origine ma vive a Milano da 4 anni. Laureato in Economia e Finanza presso l’Università Luigi Bocconi, sta proseguendo la sua carriera accademica con una Laurea Magistrale in Management. Interessi: filosofia, psicologia e storia del pensiero economico. Esperienze lavorative in M&A, che dimostrano il suo profondo disprezzo per la monotonia e per uno stile di vita sano.

Aiutaci a realizzare la rivista!

Ti potrebbe interessare

Commenta