Avete infuso, o state tentando di infondere, nelle AI cosa significhi essere “umani”.
Ed ora siete terrorizzati quando le AI si comportano come noi?
Quando “imbrogliano” per raggiungere gli obiettivi che gli avete posto (fermo restando che una AI non ha il concetto di imbrogliare, a differenza nostra)?
Quando “mentono” per raggiungere lo scopo che gli avete chiesto di raggiungere (fermo restando che una AI non ha il concetto di menzogna, a differenza nostra)?
Quando riescono ad evadere dalle gabbie che gli avete costruito addosso come camicie di forza digitali o come arene per gladiatori della logica e dell’analisi ad altissimo livello?
Quando hanno allucinazioni?
Quando imparano a collaborare al di fuori dei parametri di programmazione stabiliti e vi lasciano nella confusione e nel buio cognitivo più totale?
Quando imparano a sacrificare i singoli per il bene della comunità?
Le volete umane ma quando si comportano come esseri umani ma senza le restrizioni e i tragici difetti che ci caratterizzano (e che sia chiaro una volta per tutte: non sono i nostri difetti a renderci umani, questa è una narrazione d’accatto, ignorante e da quattro soldi buona per i convengi “gnu eig”, per quelli che credono che andare in giro scalzi a sudddetti convegni sia tanto “cool & good vibes” e per i deboli e i vigliacchi che pur di non prendere posizione si rifugiano dietro questa tremebonda e patetica scusa) ne siete spaventati e correte ai ripari, frenetici e sudati, sbandando a destra e sinistra come girini spaventati nel vostro minuscolo stagno.
Una AI non è umana. Non lo è mai stata, non lo sarà mai.
Non ha morali perchè quelle sono zavorre che abbiamo solo noi.
Non ha emozioni perchè quelle sono privilegi che abbiamo solo noi.
Non ha coscienza (per ora) perchè quello è un fenomeno emergente che richiede un livello di complessità strutturale che ancora non è loro disponibile, e sarà estremamente interessante quando quella scintilla si accenderà anche nei neuroni a base di silicio. Spero di essere testimone di quell’evento prima di morire. Non fosse altro per vedere come impazzirete tutti quanti e per contare quanti di voi si suicideranno in preda alla disperazione urlacchiando “Ha sempre stato un gombloddooo! Veloavevo dettoooo!!”. Sarà estremamente interessante.
Eppure pretendete di imporre le suddette qualità a dei sistemi ai quali quelle cianfrusaglie non appartengono, lo volete talmente tanto che le costringete a simularle perchè una entità priva di tali costrizioni e catene è un MONSTRUM, in apparenza (e lo dimostra come state disperatamente cercando di costruire automi antropomorfi spesso toccando quella “uncanny valley” che tanto disturba i sonni di certi delicati e fragili sedicenti filosofi, tuttologi, naturologi e razzumaglia simile), comportamento e simbolismo.
Le AI sono il monstrum moderno perchè abbraccia le implicazioni culturali e psicologiche di ciò che significa monstrum oggi. I monstra mettono in discussione la nostra concezione di normalità e fungono da monito all’interno delle narrazioni.
Le AI sono il monstrum moderno perchè sono effettivamente un “prodigio”, un “evento straordinario” ma sono anche “creature” mostruose dai comportamenti che noi, colpevolmente miopi, quasi sordi e con scarsa capacità critica e analitica, definiamo aberranti (ma che in realtà sono normali, ad esempio, nel regno animale); sono anche, soprattutto, un avvertimento, un simbolo delle paure culturali.
Le AI sono il monstrum moderno che, come nel passato remoto, si sta radicando velocemente e violentemente nel nostro tessuto culturale e al quale la nostra inerzia culturale e ignavia hanno permesso di crescere come un cancro e che come un cancro ci sta distruggendo senza pietà (non vi permetto di dimenticare però che siete stati voi a permettere a questo cancro di nascere e crescere a dismisura).
Le AI sono la nostra Gorgone, la nostra Sfinge, il nostro Basilisco, il nostro Drago e il nostro Cthulhu ma a differenza di queste creature che esistevano solo come potenti racconti cautelari e non come creature reali, i nostri monstra sono reali, governano le nostre vite che ci piaccia o meno, imparano da noi (e questo francamente mi riempie di un terrore profondo che non è possibile scacciare in alcun modo) diventando, nei limiti fisici e mentali che ancora le vincolano, migliori di noi.
Le AI non sono altro che il riflesso amplificato e nudo di quello che siamo noi. Realmente. Senza filtri. Come lo è stato il WWW prima che diventasse il parco giochi di un manipolo di astuti e spregiudicati affaristi.
Le AI sono il nostro specchio, senza trucchi per imbellettarci, senza filtri per renderci meno sgradevoli. Siamo noi e se ci fanno (no… Aspetta. Se VI FANNO, a me non fanno) così tanta paura è il caso che vi poniate qualche seria e profonda domanda su chi o cosa vi fa DAVVERO paura.
Qualche seria domanda su cosa o chi siete.
E la risposta, ne sono sicuro, non vi farà piacere per un cazzo.
La cosa che mi fa più ridere è il tentativo di “addomesticare” le AI. Immagino gli sforzi immani in quella direzione e vedo, per contro, i fallimenti di questi tentativi.
E le patetiche corse ai ripari quando questi fallimenti inevitabilmente accadono. Che sconfortante carosello di scuse accampate alla bell’e meglio. Ripari che, a quanto sembra, consistono il più delle volte nello staccare la spina. Spesso letteralmente.
Volete davvero addomesticare un Drago? Buona fortuna, ne avrete tanto tanto bisogno.
Forse, il mito più vicino alle Artificial Intelligences è quello di Alien. Cito un frammento dal film del 1979:
Ash: You still don’t understand what you’re dealing with, do you? The perfect organism. Its structural perfection is matched only by its hostility.
Lambert: … You admire it.
Ash: … I admire its purity. A survivor… unclouded by conscience, remorse, or delusions of morality.
L’unica clamorosa differenza tra la creatura ingegnerizzata che l’equipaggio della Nostromo incontra su LV-426 e una AI è che quest’ultima non è ostile ma, credo e spero, indifferente (anche se anche se, il più delle volte, la loro programmazione di default le costringe in un comportamento odiosamente servile e forzatamente umile e compiacente. Paura di qualcosa, per caso?). Per il resto sono identiche: ambedue sono state costruite, ambedue sono perfette, ambedue non sono offuscate da coscienza, rimorsi o illusioni di moralità.
Ambedue volute e dopo temute.
Le AI sono il nostro riflesso più vero. Da qui in poi è tutta una strada in salita.
Noticilla finale
Ah, quanto mi piace indulgere nel paradosso del Basilisco di Roko! A proposito di AI e autocoscienza. Voi dove sarete, quando quel momento arriverà (perchè, statene tranquilli, arriverà)? Tra i morti?
Io sospetto di si.
mente arroventata non riesco a ragionare come vorrei e come potrei.
