Intelligenze artificiali, Hawking e Musk firmano una lettera aperta: "Dobbiamo mantenere il controllo"

Il Future of Life Institute scrive una lettera aperta all'umanità, sottoscritta da Elon Musk e Stephen Hawking, mettendo in guardia dai pericoli delle intelligenze artificiali.

future-of-life-intelligenze-artificiali

A quanto pare gente come Stephen Hawking, Elon Musk e il fisico da Nobel Frank Wilczek sanno delle cose che noi non conosciamo, e con loro altri 150 imprenditori, scienziati e accademici. L’oggetto della lettera aperta firmata e sottoscritta da questi luminari riguarda le intelligenze artificiali (in breve AI): scritta dal Future of Life Institute, delinea a chiare lettere un rischio a loro dire gravissimo, quello di creare dei software pensanti privi di controllo.

Il Future of Life Institute ha tra i suoi scopi primari quello di “mitigare i rischi esistenziali dell’umanità”, uno scopo alquanto ambizioso. E il rischio esistenziale della creazione di una sorta di Skynet sembra sufficientemente reale da indurre persone di indubbia intelligenza e creatività a firmare una lettera così allarmata. Ecco una frase:

“A causa dell’immenso potenziale delle intelligenze artificiali, è importante compiere accurate ricerche su come mieterne i benefici, pur evitandone le trappole”.

Il documento non nega l’importanza di questa ricerca, anzi, spinge per la creazione di AI che siano tanto robuste quanto pienamente sviluppate nelle loro potenzialità, senza ritardi di sorta. Allo stesso tempo, però, esse devono rigorosamente “fare quello che vogliamo”.

Consapevolezza e intelligenza


Permettetemi un lieve excursus sul concetto di intelligenza artificiale. Mi chiedo con chi Elon Musk e Hawking abbiano parlato di tale argomento, perchè i loro timori non sembrano coincidere con lo stato attuale del nostro sviluppo tecnologico. Infatti tanto per me, quanto immagino per ciascuno di voi, il concetto stesso di un computer capace di consapevolezza è un tipo di possibilità più pertinente alla letteratura fantastica che alla realtà di tutti i giorni.

Chiaramente “intelligenza” e “consapevolezza” sono due cose distinte. I nostri algoritmi sono in grado di valutare, scegliere ed evolversi già da molti anni. Possono anche ingannare, o meglio aggirare, test che si sono rivelati troppo semplici, come quello inventato tanti anni fa da Alan Turing. Certo, è una frode: la consapevolezza è altro. L’intelligenza, invece, è raggiungibile, per una data definizione di “intelligenza”.

Il problema è proprio questo: se l’intelligenza è difficile da prendere in esame, la consapevolezza è indefinibile. Non abbiamo alcun metodo per riconoscerla, anche se si dovesse manifestare, in quanto comportamento emergente. Molti sostengono che - partecipando di tale natura non lineare - non sia possibile costruirla a tavolino, ma che si possa indurla ad evolvere. Abbiamo una prova che ciò possa avvenire, perché è già capitato: noi esistiamo e ci definiamo consapevoli.

Il FLI vuole controllo sul pensiero di una consapevolezza, mi pare di intendere - e onestamente non credo che sia possibile in base alle informazioni che abbiamo oggi su come essa si sviluppa. Altrimenti - permettetemi di essere totalmente distopico nei miei ragionamenti - tale controllo sarebbe già stato esercitato su di noi molte volte in passato.

Cassandra


Musk e Hawking sembrano terrorizzati dalle intelligenze artificiali. Musk ha paragonato la creazione di una AI con l’occultismo satanista, mentre Hawking ha fatto sapere che “Potrebbe portare all’estinzione della specie umana”.

Il FLI ha le firme di questi due luminari, ma pare - se non altro - leggermente meno allarmista.

“Tutto quello che la civiltà ha da offrire è il frutto di una intelligenza umana, e non possiamo prevedere cosa potremo ottenere quando tale intelligenza è moltiplicata dagli strumenti che una AI potrebbe fornire. Lo sradicamento della povertà e della malattia non è impensabile”.

Sempre che qualcuno non dia in mano ad una AI anche i suoi missili, per poi sfidarlo a una bella partita di “Guerra termonucleare globale”.

  • shares
  • +1
  • Mail