La "autonomia" dell'intelligenza artificiale: un'analisi di alcune questioni morali

Come prevedibile, anche l'etica delle virtù per un'IA autonoma ha comportato alcuni dubbi e incertezze, nati però da semplici malintesi verso la filosofia aristotelica (Hindocha e Badea, 2021). Un primo equivoco nasce dalla convinzione che solo gli esseri umani possano agire moralmente, tesi principale della teoria dell'antropocentrismo etico. In passato questo assunto avrebbe potuto esser veritiero, ma solo perché gli esseri umani erano l'unica specie a possedere un intelletto superiore, che nell'etica aristotelica è un requisito per l'azione morale. Ora come ora invece, esistono anche sistemi intelligenti che posseggono tale facoltà, e per questo appare ragionevole pensare che anche essi possano sviluppare col tempo un atteggiamento morale.

Il secondo malinteso è generato da un'incomprensione della tesi teleologica presente nel testo Etica Nicomachea di Aristotele. Secondo tale tesi «tutte le azioni umane sono rivolte a un fine». Ogni essere vivente possiede una funzione che gli è propria (ergon), e quindi le azioni che compirà in vita saranno volte, nel loro insieme, al successo di quel fine. Per ciascun tipo di individuo vi è un diverso e specifico ergon: l'artista ha il compito di realizzare opere d'arte, l'architetto di costruire templi, e via dicendo (Castegnaro, 2017). La virtù (aretē) è la capacità di concretare il proprio ergon nel miglior modo possibile; ad esempio, la virtù dello scultore consisterà nel realizzare delle belle statue. Il riuscire a dare una forma compiuta alla propria vita compiendo il proprio scopo e agendo virtuosamente porta gli individui verso l'eudaimonia, ovvero la felicità, il bene supremo a cui tutti aspirano.

Il malinteso sopracitato nasce da un'errata interpretazione delle parole di Aristotele, in quanto si suppone che, perché un ente si comporti in maniera virtuosa e segua una morale, esso deve avere la felicità come obbiettivo e misura delle sue azioni (Berberich e Diepold, 2018). Per questo, dato che i sistemi ad intelligenza artificiale non sono in grado di provare veri sentimenti e felicità, non tenderanno a finalizzare la loro essenza verso l'eudaimonia, intesa come stato mentale di felicità.

L'argomento sostiene quindi che l'etica delle virtù non possa essere applicata ai dispositivi dotati di IA. Tuttavia, questo assunto si basa su una errata comprensione della parola eudaimonia, interpretata come uno stato psicologico di felicità o un piacere massimizzato, stessa definizione che il contrattualista John Locke dà della parola 'felicità' (ivi). Il termine greco di cui parliamo va ben oltre queste definizioni, il suo significato è molto più ampio; l'eudaimonia è il compimento armonico e virtuoso di tutti i nostri fini e del nostro ergon, è ciò che rende la vita un'unità dotata di senso.

Applicando questo concetto ai sistemi ad intelligenza artificiale, il raggiungimento della loro eudaimonia sarebbe dato dal compiere nel miglior modo possibile le funzioni assegnategli dagli operatori umani. Dunque, questi sistemi saranno in grado di finalizzare le loro azioni all'eudaimonia nonostante la loro impossibilità di provare gioia come gli esseri umani. È stato ipotizzato che in un futuro si potrebbero dotare i dispositivi intelligenti di wireheading, una stimolazione artificiale che attiva direttamente il centro di ricompensa del cervello al fine di indurre piacere (ivi); questa ipotesi è però da scartare in quanto, come già detto, l'eudaimonia non è una mera percezione soggettiva, ma è strettamente legata alla dimensione morale.

Esiste anche un'argomentazione morale che si oppone all'uso dell'etica delle virtù per l'IA per ragioni pratiche e giuridiche, e che non ha nulla a che fare con fraintendimenti della filosofia aristotelica. Contrariamente alla deontologia e al consequenzialismo, l'etica delle virtù ha difficoltà a motivare le sue azioni (Berberich e Diepold, 2018). Con un'etica consequenzialista si può spiegare il perché di un'azione in base alle sue conseguenze, e con un'etica deontologica si possono mostrare i principi e i doveri che hanno guidato le azioni. Diversamente, un'IA autonoma basata sull'etica aristotelica dovrebbe mostrare attraverso quali esperienze si siano formate le virtù che guidano le sue azioni morali.

Le spiegazioni algoritmiche fornite dal sistema potrebbero essere estremamente difficili da comprendere per la mente umana. Spesso è difficile anche per gli esperti del settore medico capire l'esatta procedura usata dall'IA, poiché sono coinvolte considerevoli quantità di dati (Mirbabaie et al., 2021). Se quindi il sistema non è in grado di motivare le proprie azioni, non se ne può neanche assumere la responsabilità, concetto alla base del sistema assicurativo e giudiziario. Se le azioni di un'IA producessero danni, qualcuno dovrebbe assumersene la responsabilità e le vittime avrebbero diritto a spiegazioni. Oltre a questo, l'opacità delle motivazioni fornite dal sistema è una minaccia al consenso informato, in quanto non sempre il paziente potrebbe capire il perché, ad esempio, di alcune prescrizioni mediche.

Nel testo The Ten Commandments of Ethical Medical AI (Muller et al., 2021), gli autori propongono "dieci comandamenti" come linee guida per il comportamento dell'IA autonoma. Nel quarto e quinto comandamento si trova un rimando all'argomento della trasparenza dell'IA, le cui azioni e decisioni devono essere «trasparenti e spiegabili» (trad. mia), nonché «comprensibili e ripetibili» (trad. mia).
Quello della trasparenza è quindi un problema fondamentale, da risolvere prima di implementare l'IA autonoma nel sistema sanitario.