I pericoli dell’intelligenza artificiale che verrà

A FARI SPENTI VERSO IL FUTURO – La preoccupazione degli ormai numerosi firmatari della lettera, ai quali se ne sono aggiunti molti altri e di un certo peso, muove dall’osservazione dei progressi compiuti nel campo dell’intelligenza artificiale, dell’automazione e dell’interconnessione dei dispositivi tecnologici, tanto tumultuosa che ancora è difficile cogliere esattamente tutte le opportunità, e i pericoli, di cui è o sarà portatrice negli anni a venire. L’aumento esponenziale dell’automazione impatterà prevedibilmente sul piano sociale riducendo il numero degli occupati, ma ancora di più c’è da preoccuparsi di quello che potrebbe succedere se lo sviluppo procedesse pancia a terra senza alcuna riflessione etica preventiva.

GLI INCONVENIENTI DELLA TECNICA – Il problema della sorveglianza globale ad esempio è già d’estrema attualità, si è visto come nelle praterie poco regolamentate e nascoste all’interno delle maggiori server farm scorrazzano i bot del NSA e di chissà chi altri, che i cavi attraverso i quali la rete attraversa mari e oceani sono finestre aperte sull’internet di tutti per molti governi, per non parlare della presenza ubiqua delle telecamere di sorveglianza, che accoppiate con i sistemi di riconoscimento automatizzati rivestono ora un ruolo molto più inquietante di quanto non lo fosse già qualche anno fa. Poi ci sono gli smartphone, che tracciano i nostri spostamenti, custodiscono (male) la nostra corrispondenza e sono dotati di microfoni e telecamere. E ancora le auto che sono parimenti sempre più connesse, i contatori elettrici e i dispositivi di casa che possono raccontare quanti siamo e che facciamo persino dentro casa, dove molti possono buttare un’occhiata attraverso le telecamere ormai presenti anche su computer, televisori e sistemi di sorveglianza remota. Il fenomeno dei pervertiti che s’insinuano nelle baby-cam collegate in rete dai genitori ansiosi per sussurrare sconcezze ai bambini fin nelle loro camerette, è solo un incubo minore, ma rende perfettamente l’idea del tipo di sorprese che può procurare la tecnologia quando è usata senza conoscerne e padroneggiarne i limiti.

L’INTELLIGENZA ARTIFICIALE ALLA GUERRA – A inquietare c’è poi che negli Stati Uniti il 90% degli investimenti nella robotica e nella tecnologia avanzata sono destinati a programmi militari, che sicuramente avranno ricadute civili, ma che mirano ovviamente alla costruzione di macchine da mandare in battaglia al posto degli uomini, come già accade con i droni e che un giorno avranno totale o parziale autonomia. C’è persino chi arriva a sostenere che i robot in battaglia saranno più facilmente programmabili per attenersi a regole d’ingaggio più etiche di quanto non accada con gli umani, che spesso in battaglia perdono memoria delle stesse e si abbandonano alla barbarie.

I TERMINATOR ALL’ORIZZONTE – Le forme e le capacità delle macchine per uccidere del futuro sono varie quanto la fantasia nell’immaginarle, robot antropomorfi o zoomorfi, sciami di mini-droni assassini o mandrie d’inarrestabili robottini corazzati, nessuno sa dire quali saranno le armi di moda nel 22° secolo, ma certo è che gli eserciti come le industrie cercheranno di trarre vantaggio dallo sviluppo dell’Intelligenza Artificiale e di dotarsi dei dispositivi più letali. E prima ancora di arrivare ai Terminator e alle macchine da battaglia autonome c’è da capire come difendersi da improvvisi black-out dei servizi essenziali, perché è vero che la rete ubiqua è e sarà incredibilmente robusta, ma è altrettanto vero che tutto questo funziona alimentato da energia elettrica e «ragiona» in gran parte grazie alla connessione a internet.