I ricercatori di Google hanno espresso alcune preoccupazioni sull’intelligenza artificiale e i suoi sviluppi. Ecco le 5 principali che emergono dal paper
Una ricerca di Google, dal titolo “ Concrete Problems in AI Safety” spiega qual è la visione di Google sul futuro dell’intelligenza artificiale. Senza arrivare a una visione allarmista, ci sono comunque alcune preoccupazioni legate alla sicurezza. Sono osservazioni anche molto semplici, concrete, che però dimostrano quanto ancora questa tecnologia non sia matura. Ecco le cinque preoccupazioni principali:
1. evitare gli effetti negativi indesiderati o assicurare che i sistemi di intelligenza artificiale non danneggino l’ambiente nel perseguire i loro obiettivi
2. evitare la logica della “ricompensa” tipica del gaming, ad esempio evitare che un robot pulisca senza eliminare il disordine solo per portare a termine il suo compito
3. assicurarsi che i robot reagiscano nel modo corretto anche agli stimoli che non possono essere valutati durante la fase di training, perché troppo costosi
4. assicurarsi che i sistemi non esplorino il territorio e non facciano movimenti fuori controllo con ripercussioni negative
5. assicurarsi che i sistemi, posizionati nell’ambiente reale, riconoscano che si tratta di un luogo differente dallo spazio training
“Crediamo che l’AI possa portare grandi benefici all’umanità. Siamo convinti però che sia necessario porre grande attenzione ai potenziali rischi” dice il documento.
Il team di Google ha sollevato questioni anche sulla privacy. Come si può assicurare la privacy quando si applicano tecnologie di machine learning a dati sensibili come ad esempio quelli sanitari? Sulla correttezza: come possiamo essere sicuri che questi sistemi non discrimineranno qualcuno. Sulla security: cosa potrebbe succedere a un sistema di machine learning in caso di attacco? Sugli abusi: come prevenire che i robot non feriranno qualcuno? Sulla trasparenza: come controllare esattamente quello che i sistemi stanno elaborando. Sulle policy: come gestire le conseguenza sociali ed economiche dell’introduzione sul mercato di questi sistemi?
“Crediamo nell’importanza, nel rigore e nel lavoro di squadra nel costruire sistemi di intelligenza artificiale. Continueremo a collaborare con i gruppi di ricerca per fare progessi nell’AI” concludono i ricercatori Google.
