Cassandra Crossing/ Il vero, il falso, la guerra e la cultura

(418) — Nel romanzo visionario di George Orwell, “1984”, la verità veniva manipolata e riscritta. Nel 2024 verrà creata e distrutta? La sveglia dello smartwatch è già suonata e la sabbia del tempo scorre inesorabile.

26 ottobre 2017 — “Orwell aveva capito tutto, e ci ha lasciato un romanzo dove sono scritte, anche se solo accennate, cose che non sono ancora successe, e che quindi non abbiamo ancora potuto leggerci”. Un panegirico del genere non è stato mai scritto, ma forse lo sarà nel prossimo futuro.

Nel romanzo, Winston Smith, onesto censore impiegato al Ministero della Verità, viene molto apprezzato perché dovendo sopprimere una notizia sul giornale non si limita a farla scomparire, lasciando però un percettibile spazio bianco sulla pagina.

No, inventa una notizia (“fake news” ante litteram) su un inesistente eroe morto nella guerra contro Eurasia ed Estasia, in modo che la rimozione non sia percettibile. Altera dunque la realtà invece di limitarsi a censurarla.

Nel romanzo questo è descritto solo come “censura sopraffina”; Orwell non si interroga però sulle conseguenze che avrebbe a lungo termine questa “generazione di conoscenza falsa” se applicata su larga scala. Facciamolo noi.

Dobbiamo però iniziare da lontano; per l’esattezza da un rapporto del Belfer Center intitolato “Artificial Intelligence and National Security” [original link, archived].
Si tratta dell’opera di uno dei centri studi che gravitano intorno alla Difesa americana, finanziato dalla IARPA, che è l’equivalente per l’Intelligence della storica DARPA, la cui importanza, passata e presente, per la formazione del futuro non richiede alcuna spiegazione.
In questo rapporto vengono elencati sei settori in cui l’Intelligenza Artificiale e il Machine Learning potranno avere un impatto da significativo a rivoluzionario nei prossimi (pochi) anni.

Molti settori e problematiche sono facilmente intuibili; Cassandra è però rimasta colpita da un problema mai sentito prima, descritto in questa forma:

“AI-enhanced forgery of audio and video media is rapidly improving in quality and decreasing in cost. In the future, AI-generated forgeries will challenge the basis of trust across many institutions.”

Traduciamo e semplifichiamo.

L’Intelligence americana è preoccupata che nel prossimo futuro, grazie all’Intelligenza Artificiale, possa essere prodotto materiale informativo falsificato di qualità indistinguibile da quello vero, e in quantità talmente massiccia da poter essere usato per “corrompere” la conoscenza preesistente. Ovviamente questo viene inquadrato in un contesto di supremazia presente, nonché di conquista e mantenimento della supremazia futura, in un nuovo settore strategico.

Se qualcuno ritenesse che il controllo dell’informazione non sia un settore strategico come quello delle armi nucleari, dovrebbe fermarsi e ricominciare dall’inizio, ripassandosi prima qualche buon libro o film di spionaggio, leggendo su Wikipedia informazioni sull’OSINT e sulle PSYOPS.

In sostanza, l’intelligence americana ritiene che ci sia il pericolo di non avere la supremazia in un nuovo settore di armamenti; quello della manipolazione e distruzione massiccia della conoscenza.

Si noti, non che “possa esistere un’arma per la distruzione della conoscenza”, data per scontata, ma la possibilità di non avere la supremazia nel settore, o di non possedere difese adeguate.

Lo stesso problema certamente se lo stanno ponendo tutte le superpotenze, informative e non, di questo pianeta.

La prospettiva inquietante però non è che si apra un nuovo fronte di conflitti freddi/tiepidi, come si è aperto quello del cyberspazio, dove battaglie vere sono già state combattute (anche se per ora non le trovate descritte nei libri di storia ma solo in quelli di informatica o al massimo di geopolitica).

La cosa inquietante, anzi preoccupante per i normali essere umani, è considerare le conseguenze di una guerra informativa su larga scala, combattuta generando grosse quantità di informazioni false indistinguibili da quelle vere.

Negli anni ’70 e ’80 scienziati, romanzieri e registi si sono interrogati a lungo sulle conseguenze di una guerra nucleare globale; catastrofe planetaria, fine del mondo civilizzato ed estinzione del genere umano erano le credibili risposte.

Ora interroghiamoci sulla possibilità che la cultura nel suo complesso, anche solo quella degli ultimi anni, sia improvvisamente inquinata da enormi quantità di informazioni e notizie false, create con l’intento di generare scompiglio e di battere un nemico.

Ci interessa chi attacchi, chi si difenda e i motivi per cui ciò avvenga?

Magari si, ma prima dobbiamo preoccuparci del “dopo”. Proprio come in un mondo devastato dalla guerra nucleare, con infrastrutture distrutte e risorse naturali inquinate ed inutilizzabili, dobbiamo infatti preoccuparci di una cultura post-guerra-informativa, inquinata da grandi quantità di informazioni false non distinguibili da quelle vere.

Come distinguere il vero dal falso dopo una “catastrofe informativa”? Come ripristinare la cultura “vera” dopo una “guerra informativa globale”?

E ancora… Sarebbe possibile “ricostruire la cultura” o dobbiamo prendere in considerazione la possibile fine della cultura come oggi la conosciamo, una “estinzione della verità” equivalente ad un mondo spopolato da una guerra termonucleare globale?
In tutta sincerità, “sic stantibus rebus”, non è mai troppo presto per occuparcene.

Originally published at punto-informatico.it.