E se le generazioni future, un giorno, decidessero di scriverci una lettera incolpandoci per la terribile sorte a cui li abbiamo condannati? È questa la premessa di “Oggetti Buoni. Per una tecnologia sensibile ai valori” di Steven Umbrello, ricercatore in Italia e all’estero nel campo dell’etica applicata e dell’etica della tecnica. Menziono la premessa “Lettera ai nostri antenati” perché, per quanto possa sembrare una parentesi marginale, è indispensabile per comprendere l’impianto generale dell’intero volume.
Oggetti Buoni è un testo divulgativo che si propone di portare al vasto pubblico italiano i più recenti sviluppi di un dibattito internazionale ormai ventennale sull’etica della tecnica e l’innovazione responsabile. Temi che, nel panorama italiano, l’accademia sta riscoprendo solo negli ultimi anni anche grazie al lavoro dello stesso Umbrello.
Cosa significhi innovazione responsabile, perché sia importante e come si realizzi sono le questioni centrali che guidano il volume. Il modo in cui innoviamo oggi plasma le scelte e le azioni che le generazioni future potranno o meno compiere domani e per questo è necessario già oggi assumersi «la responsabilità per la responsabilità delle scelte delle generazioni future» (p. 105), come viene ricordato a più riprese nel corso del libro.
Il tema è sviluppato in quattro capitoli che hanno lo scopo di condurre il lettore dalla teoria alla pratica dell’innovazione responsabile passando per molti esempi e casi studio. L’approccio pratico, oltre a avere un’utilità divulgativa, è anche essenziale per dimostrare la validità delle basi teoriche che, senza una concreta prassi di progettazione, non riuscirebbero a risolvere quegli stessi problemi per i quali sono state formulate.
Il primo capitolo, intitolato Perché dovremmo innovare in modo responsabile?, è chiaro nell’esplicitare i presupposti teorici su cui si fonda l’idea di innovazione responsabile. In particolare, l’approccio interazionale alla tecnologia viene assunto come un dato di fatto e le posizioni contrarie nel dibattito – strumentalismo, determinismo tecnologico e costruttivismo sociale – seppur nominate, non sono mai discusse. Questa scelta, che potrebbe sembrare un difetto del libro, credo sia invece molto funzionale alla sua natura divulgativa e permette di concentrarsi in modo più verticale sul tema trattato sgombrando subito il campo dalle posizioni più estreme riguardo alla tecnologia. Inoltre, l’utilizzo di esempi concreti, come i celebri ponti di Long Island, permettono di giustificare in parte la scelta di campo interazionalista senza dover necessariamente ricorrere a argomenti più tecnici e meno adatti allo scopo divulgativo del volume.
Dunque, partendo dal presupposto che le tecnologie sono sempre sistemi socio-tecnici che modificano l’ambiente e la società e sono modificati da essi, Umbrello mostra come sia necessario indagare non solo le tecnologie in sé, ma anche il processo della loro progettazione. Una necessità di cui da tempo l’etica applicata si è accorta indirizzando la sua riflessione anche sul lavoro degli ingegneri che, con la progettazione, hanno il potere di decidere come orientare le scelte e le prassi future. In quest’ottica, il tradizionale problema etico del carrello (trolley problem) va ripensato radicalmente: anziché chiedersi soltanto chi uccidere tirando la leva, è anche opportuno chiedersi com’è bene progettare la ferrovia affinché una scelta così drammatica si possa evitare.
Nell’approccio interazionale alla tecnologia, fa notare Umbrello, la responsabilità non è mai individuale, ma sempre collettiva e diffusa perché le tecnologie e le scelte del domani sono sempre fondate sulle tecnologie e le scelte di oggi. Per questo l’innovazione deve essere “responsabile”, ossia deve assumersi oggi le responsabilità delle scelte future.
Per fare questo sono necessarie delle metodologie e prassi di progettazione che tengano in considerazione i valori morali. Il Value Sensitive Design (VSD), uno degli approcci più utilizzati a questo scopo, è esposto nel secondo capitolo: Come possiamo innovare in modo responsabile?. L’idea di base è che sin dalle prime fasi di progettazione gli ingegneri debbano assumersi la responsabilità per le conseguenze che una certa tecnologia potrebbe produrre riflettendo sui valori o disvalori da essa veicolati per diverse categorie di stakeholder nel corso del tempo. Si tratta di un modo nuovo di pensare alla progettazione che aggiunge alle consuete considerazioni economiche e tecnologiche, anche quelle morali. In un’ottica di innovazione responsabile, l’aspetto morale è fondamentale: non possiamo più permetterci di progettare alla cieca senza chiederci che impatto questo avrà sulle generazioni presenti e future. Non possiamo più aspettare ingenuamente che si verifichino i danni per poi “metterci una pezza sopra”, ma dobbiamo agire in anticipo per prevenire qualsiasi lettera di biasimo che i nostri posteri potrebbero mai scriverci.
Nonostante gli evidenti pregi del VSD, Umbrello è anche attento a evidenziarne i limiti e le possibilità di sviluppo. Che fare, ad esempio, con tecnologie come le intelligenze artificiali, le cui conseguenze sono imprevedibili e spesso opache?
Nel capitolo terzo – Un AI responsabile? – l’autore prova a rispondere a questa domanda avanzando la proposta di implementare il VSD con valori, norme di progettazione e requisiti di progettazione specifici per l’Intelligenza Artificiale. Nell’identificare i valori di base, Umbrello attinge da ciò che è indicato dagli esperti della Commissione Europea per le intelligenze artificiali (HLEG) e dagli obiettivi dell’Agenda 2030 dell’ONU: i primi sono da considerarsi come requisiti minimi da rispettare affinché l’IA sia “responsabile”, i secondi come obiettivi più generali da promuovere per contribuire attivamente al benessere sociale e evitare il rischio del white-washing etico da parte delle aziende. Accanto a questi valori stabiliti dall’alto al basso, grazie all’applicazione del VSD e alle indagini empiriche e contestuali, gli ingegneri dovranno anche tenere in considerazione i valori morali emergenti dal contesto specifico. In questo modo, secondo l’autore, si potranno mitigare le derive autoritarie conseguenti da un approccio interamente top-down.
Tutti i valori identificati dovranno poi essere tradotti in norme di progettazione (Umbrello adotta le norme proposte dall’approccio AI4SG) e requisiti tecnici di progettazione applicabili dagli ingegneri.
La metodologia proposta è una efficace sintesi di teoria e pratica in cui la teoria orienta la pratica, ma è solo la pratica che può realizzare ciò che la teoria assume. Senza pratica, infatti, non è possibile alcuna innovazione responsabile. A esemplificare questo aspetto, il quarto capitolo offre un caso studio concreto a cui viene applicato il metodo.
Per chi, come me, ha una formazione filosofica, credo che un approccio di questo tipo all’etica possa essere un monito per ricordare il valore e l’importanza della teoria, ma anche i suoi limiti se non viene legata a una prassi concreta.
In conclusione, trovo Oggetti Buoni. Per una tecnologia sensibile ai valori un ottimo testo divulgativo delle questioni centrali dell’etica della tecnica, adatto sia ai neofiti sia ai lettori più esperti di filosofia morale che vogliano avvicinarsi a un approccio di etica applicata originale e innovativo soprattutto nel panorama accademico italiano.
Francesca Varesi
S&F_n. 30_2023
