I principi di Asilomar per l’Intelligenza Artificiale
Introduzione ai principi di Asilomar
L'intelligenza artificiale sta trasformando il mondo in maniera significativa, tuttavia presenta alcuni rischi. Per questo motivo, Elon Musk (CEO di Tesla), Stephen Hawking (astrofisico) e altri 2335 ricercatori ed esperti, guidati dall'Istituto Future of Life di recente costituzione, hanno sottoscritto un cyber-manifesto contenente 23 "Principi di Asilomar".
Asilomar è il luogo in California dove, nel gennaio 2017, si è svolta una conferenza i cui risultati sono stati raccolti nel bestseller Life 3.0: Being Human in the Age of Artificial Intelligence di Max Tegmark, professore presso il MIT di Boston.
Tegmark esamina le prospettive pessimistiche per immaginare "scientificamente" gli scenari positivi a lungo termine dell'umanità, tra cui un'eventuale super-intelligenza collettiva che potrebbe migliorare la nostra vita, sebbene non sia garantita. Tuttavia, un finale felice non è assicurato: al momento, c'è una frenetica e disordinata corsa per sviluppare programmi, prodotti e ambienti basati sulla potenza di calcolo dell'AI, senza un chiaro orientamento verso il bene comune o una visione positiva che salvaguardi e rafforzi la nostra umanità in chiave umanistica.
L'obiettivo di Future of Life è quello di creare una rete globale di studiosi e influencer che contribuiscano attivamente alla creazione di progetti e all'influenzamento delle applicazioni di AI, in modo che la tecnologia migliori la qualità della vita piuttosto che causare la perdita di posti di lavoro o la creazione di nuove armi distruttive.
I 23 Principi sono suddivisi in tre categorie: Ricerca, Etica e Valori, e Questioni di scenario. La maggior parte dei principi riguarda l'etica e si occupa di privacy, democrazia, responsabilità, trasparenza, sicurezza, libertà e condivisione del benessere. Pertanto, i Principi si focalizzano sul futuro del mondo e dell'umanità.
Principi di Asimlomar
L'intelligenza artificiale ha già fornito strumenti utili utilizzati quotidianamente da persone in tutto il mondo. Il suo continuo sviluppo, guidato dai seguenti principi, offrirà straordinarie opportunità per aiutare e potenziare le persone nei prossimi decenni e secoli.
Problemi di Ricerca definiti nei principi di Asilomar
- Obiettivo di ricerca: L'obiettivo della ricerca sull'IA dovrebbe essere creare non un'intelligenza senza scopo, ma un'intelligenza vantaggiosa.
- Finanziamento della ricerca: Gli investimenti in IA dovrebbero essere accompagnati da finanziamenti per la ricerca sul suo uso vantaggioso, incluso questioni spinose in informatica, economia, diritto, etica e studi sociali:
- Come possiamo rendere i futuri sistemi di IA altamente robusti, in modo che facciano ciò che vogliamo senza malfunzionamenti o violazioni informatiche?
- Come possiamo far crescere la nostra prosperità attraverso l'automazione mantenendo al contempo le risorse e lo scopo delle persone?
- Come possiamo aggiornare i nostri sistemi legali per renderli più giusti ed efficienti, per stare al passo con l'IA e per gestire i rischi associati all'IA?
- Con quale insieme di valori l'IA dovrebbe essere allineata e quale status legale ed etico dovrebbe avere?
- Collegamento Scienza-Politica: Tra i ricercatori di IA e i responsabili politici dovrebbe esserci uno scambio costruttivo e sano.
- Cultura della ricerca: Tra i ricercatori e gli sviluppatori di IA dovrebbe essere promossa una cultura di cooperazione, fiducia e trasparenza.
- Prevenzione della corsa allo sviluppo incontrollato: I team che sviluppano sistemi di IA dovrebbero cooperare attivamente per evitare di tagliare gli angoli sugli standard di sicurezza.
Etica e Valori definiti nei principi di Asilomar
- Sicurezza: I sistemi di IA dovrebbero essere sicuri e protetti per tutta la durata operativa e, ove applicabile e fattibile, dovrebbe essere verificabile in modo continuativo.
- Trasparenza sull'esito delle applicazioni: Se un sistema di IA causa danni, dovrebbe essere possibile accertarne il motivo.
- Trasparenza giudiziaria: Qualsiasi coinvolgimento di un sistema autonomo nel processo decisionale giudiziario dovrebbe fornire una spiegazione soddisfacente verificabile da un'autorità umana competente.
- Responsabilità: I progettisti e i costruttori di sistemi di IA avanzati sono parte interessata nelle implicazioni morali del loro utilizzo, abuso e azioni, con la responsabilità e l'opportunità di plasmarle.
- Valori condivisi: I sistemi di IA altamente autonomi dovrebbero essere progettati in modo che i loro obiettivi e comportamenti possano essere garantiti per essere allineati con i valori umani durante il loro funzionamento.
- Valori umani: I sistemi di IA dovrebbero essere progettati e gestiti in modo da essere compatibili con gli ideali di dignità umana, diritti, libertàe diversità culturale.
- Privacy personale: Le persone dovrebbero avere il diritto di accedere, gestire e controllare i dati che generano, considerata la capacità dei sistemi di IA di analizzare e utilizzare tali dati.
- Libertà e privacy: L'applicazione dell'IA ai dati personali non deve ridurre in modo irragionevole la libertà reale o percepita delle persone.
- Beneficio condiviso: Le tecnologie IA dovrebbero giovare e potenziare il più grande numero possibile di persone.
- Prosperità condivisa: La prosperità economica creata dall'IA dovrebbe essere condivisa ampiamente, a beneficio di tutta l'umanità.
- Controllo umano: Gli esseri umani dovrebbero scegliere come e se delegare le decisioni ai sistemi di IA, per raggiungere obiettivi scelti dagli esseri umani.
- Non-sovversione: Il potere conferito dal controllo dei sistemi di IA altamente avanzati dovrebbe rispettare e migliorare, piuttosto che sovvertire, i processi sociali e civili su cui la salute della società dipende.
- Corsa agli armamenti IA: Si dovrebbe evitare una corsa agli armamenti nelle armi autonome letali.
Problemi a lungo termine definiti nei principi di Asilomar
- Prudenza sulla capacità: Non essendoci consenso, dovremmo evitare forti ipotesi riguardo ai limiti superiori delle future capacità dell'IA.
- Importanza: L'IA avanzata potrebbe rappresentare un profondo cambiamento nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con risorse e cura proporzionate.
- Rischi: I rischi posti dai sistemi di IA, in particolare i rischi catastrofici o esistenziali, devono essere oggetto di pianificazione e sforzi di mitigazione proporzionati al loro impatto previsto.
- Auto-miglioramento ricorsivo: I sistemi di IA progettati per auto-migliorarsi o auto-replicarsi in modo tale da poter portare a un rapido aumento della qualità o quantità devono essere soggetti a rigorose misure di sicurezza e controllo.
- Bene comune: La superintelligenza dovrebbe essere sviluppata solo al servizio di ideali etici condivisi e a beneficio di tutta l'umanità, piuttosto che di uno stato o di un'organizzazione.
Tradotto da AI Principles
Video della conferenza di Asilomar:
Elon Musk, Stuart Russell, Ray Kurzweil, Demis Hassabis, Sam Harris, Nick Bostrom, David Chalmers, Bart Selman e Jaan Tallinn discutono con Max Tegmark (moderatore) quali potrebbero essere gli esiti probabili se riuscissimo a costruire un'AGI a livello umano e anche cosa vorremmo accadesse.
La Conferenza Benefica sull'Intelligenza Artificiale 2017: Nel seguito della conferenza sull'IA di Puerto Rico del 2015, abbiamo riunito un gruppo straordinario di ricercatori di IA provenienti dall'accademia e dall'industria, e leader di pensiero in economia, diritto, etica e filosofia per cinque giorni dedicati all'IA benefica. Abbiamo ospitato un workshop di due giorni per i nostri beneficiari di finanziamenti e poi abbiamo seguito con una conferenza di 2,5 giorni, in cui persone provenienti da vari settori correlati all'IA hanno discusso le opportunità e le sfide legate al futuro dell'IA e i passi che possiamo compiere per garantire che la tecnologia sia benefica.
