L’informatica del futuro ha bisogno dell’etica

L’impatto sociale dell’informatica è studiato oggi da antropologi e sociologi, ma di fatto poco indagato da chi questa scienza la sta portando avanti, cioè dai computer scientists. I ricercatori di questo settore dovrebbero invece incominciare a prendere in considerazione le eventuali conseguenze negative sulla società del loro lavoro. Una proposta in questo senso viene adesso dal presidente della Future of Computing Academy (FCA).
Cristina Da Rold, 23 Agosto 2018
Micron
Micron
Giornalista scientifica

L’impatto sociale dell’informatica è studiato oggi da antropologi, da sociologi, da qualche filosofo, ma di fatto poco indagato da chi questa scienza la sta portando avanti, cioè dai computer scientists. Le vicende legate a Facebook lo evidenziano molto bene: si tende ad analizzare un problema una volta emerso proponendo eventuali soluzioni “migliori”, invece di far camminare alla stessa velocitàtecnologia e impatto sociale di quest’ultima.
Una proposta in questa direzione viene da Brent Hecht scienziato presso la Northwestern University di Evanston, nell’Illinois, che presiede il Future of Computing Academy (FCA), un gruppo di giovani leader nel settore, membro dell’Association for Computing Machinery (ACM) di New York City. Il nocciolo della sua idea è il seguente: la comunità di computer scientists dovrebbe modificare il proprio processo di peer review per garantire che i ricercatori rivelino eventuali conseguenze negative sulla società del loro lavoro.
La FCA ha iniziato essa stessa a dare il buon esempio: il 17 luglio ha pubblicato una versione aggiornata del proprio codice etico, che era stato riformulato l’ultima volta nel 1992. Le nuove linee guida chiedono ai ricercatori di essere attenti a come il loro lavoro può influenzare la società, adottando misure per proteggere la privacy e rivalutare continuamente le tecnologie il cui impatto cambierà nel tempo, come quelle basate sull’apprendimento automatico, il machine learning.
Che cosa comporta la proposta di revisione tra pari per gli scienziati informatici?
Quando a un peer reviewer viene consegnato un documento per una rivista scientifica o per un congresso, gli viene chiesto di valutarne il rigore intellettuale. All’interno di questa richiesta dovrebbe essere inclusa anche la valutazione del rigore intellettuale delle affermazioni dell’autore sull’impatto sociale della propria ricerca. L’idea non è cercare di predire il futuro, ma di identificare, basandosi sulla letteratura, gli effetti collaterali attesio gli usi non previsti di questa tecnologia.
Che cosa accade però se dovessero emergere impatti potenzialmente negativi? Secondo Hecht non si tratterebbe di rigettare lo studio in questione, ma solo renderne esplicite tutte le conseguenze, in modo che chi legge sia consapevole dell’intero pacchetto. Diversa sarebbe la situazione in cui ci fossero in ballo finanziamenti per la ricerca. Lì potrebbero essere richieste regole diverse per valutare se finanziare una proposta di ricerca in base a un ragionevole sospetto di un possibile danno per il Paese finanziatore.
Le reazioni alla proposta non sono state tutte positive, anzi. «Una consistente fetta di informatici ritiene che non sia questo il nostro problema. Inoltre, bisogna mettersi d’accordo sulla definizione stessa di ‘impatto negativo’, tutt’altro che banale. In questo senso ci stiamo muovendo verso un processo di revisione più iterativo, basato sul dialogo, quindi non penso che questo aspetto ci debba preoccupare molto» spiega l’autore a Nature.
La domanda di fondo però è un’altra: come possono gli stessi informatici prevedere i possibili effetti negativi di una tecnologia informatica? Serve una formazione precisa in merito. «Gli informatici non vengono formati su come comprendere e comunicare gli impatti del proprio lavoro. Per questo è importante comunicare con gli scienziati sociali, che possono davvero migliorare la nostra comprensione di come le innovazioni hanno un impatto sul mondo, e quindi avremo bisogno di impegnarci insieme a loro per concretizzare la nostra proposta.»

Commenti dei lettori


Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

    X