Paura?

Preludio

Ci avete mai pensato che tra 5 miliardi di anni la nostra galassia si scontrerà con quella di Andromeda e questo porterà, alla fine, ad una fusione dei buchi neri centrali e alimeterà per qualche tempo un nucleo galattico attivo che renderà la notte (qualsiasi notte in qualsiasi posto della galassia), luminosa come il giorno?

Più o meno nello stesso periodo, un miliardino di anni dopo, il Sole entrerà in fase di gigante rossa e ci ingoierà (il nostro pianeta potrebbe, nel frattempo, essersi sufficientemente allontanato grazie l’interazione mareale Sole-Terra ma saremmo abbrustoliti comunque)

E prima o poi il calore del nucleo di ferro al centro della Terra si indebolirà fino a non essere più in grado di alimentare il campo magnetico terrestre così che saremo spazzati dal vento solare, si fermerà la tettonica a placche e i cicli degli elementi subiranno un blocco che non porterà niente di buono (accumulo di qualcosa, carenza di qualcos’altro).
Di certo c'é che, da molto tempo, noi o saremo altrove o saremo morti
Ci avete mai pensato?

Incipit 

Siamo in viaggio. Di cazzate ne abbiamo fatte tante e altre ne faremo. Ma diamo anche per scontate molte cose di cui ora disponiamo e, neppure tanti anni fa, non avevamo un cazzo (solo la guerra) e ne soppesiamo solo connotazioni e conseguenze negative. Da demolitori/costruttori ci stiamo faticosamente trasformando in gestori dell'informazione, quella fine, profonda e potente. I guadagni potrebbero essere immensi e i danni conseguenti potrebbero essere immensi. Ma se guardiamo al passato, peggio di quel che abbiamo fatto é difficile: polveri sottili impestano l'aria in tutte le città del mondo (nel suo sud in particolare
https://goo.gl/images/3x3hi4
https://goo.gl/images/xwUj3B), inquinamento globale da microplastiche, modifica costante degli ecosistemi (agricoltura intensiva, città) e spargimento massiccio di Organismi Geograficamente Modificati dei quali é stato ampiamente verificato l'impatto negativo sulla biodiversità:
http://www.iucngisd.org/gisd/pdf/100English.pdf 

Oltre a noi stessi ovviamente, la più pervasiva delle specie. Nonostante tutto la vita media continua a crescere: in certi paesi come effetto del calo della mortalità infantile ma, a occidente, perché gli anziani vivono, mediamente, di più.

Paura n°1: la singolarità.

In fisica cosmologica la singolarità è il livello nel quale le equazioni di Einstein smettono di essere utilizzabili. Perdono senso. È un termine affascinante, anche per il velo oscuro che la natura gli ha posto davanti: i buchi neri.
Quindi la parola è stata cooptata in un altro ambito, quello delle scienze informatiche, a indicare il risveglio di una VERA intelligenza artificiale. Già é difficile mettersi d’accordo sulla definizione https://goo.gl/images/Pzbt3C
Importanti icone della scienza e dell'imprenditorialità innovativa (Stephen Hawking e  Elon Mask) hanno messo in guardia dal pericolo; qualcuno (Mark Zuckemberg) li ha irrisi. 

Quasi in risposta delle paure di Musk, filosofi e piccoli gruppi di scienziati (che non si occupano di sviluppo di intelligenza artificiale) si stanno pre-occupando del pericolo insito nello sviluppo delle AI. Il loro attivismo, che passa quasi inosservato, viene da essi stessi giustificato dal fatto che vedono in questa emergenza un pericolo con un potenziale di distruzione globale; la proposta che fanno é quella di legare lo sviluppo di un AI al "value alignment" della stessa, ossia implementare leggi morali negli strati più profondi e inalterabili del firmware della stessa (Alphabet/Google sta investendo tanto in questa direzione). A me vien da pensare che una legge morale é quanto di più nebuloso esista ai propri confini e che, con la pretesa di far del bene, sono state compiute innumerevoli nefandezze. 

I ricercatori che si occupano proprio di intelligenza artificiale, mediamente, non condividono gli allarmismi di Musk, ma pensano che il problema stia nel fatto che le AI attuali non siano abbastanza smart e che sia sì necessaria una regolamentazione del settore ma non per lo strumento in se bensì perché chi ne potrà realmente usufruire saranno sostanzialmente i quasi-monopolisti di oggi.