Errori algoritmici strutturali, errori politici:

Può l’intelligenza artificiale sostituire quella umana?

Cosa ci dice la matematica?

Che cosa ci offrono gli algoritmi?

Comportamenti meccanizzati, secondo il modello di calcolo più potente concepibile dalla matematica per eseguire istruzioni non ambigue potendo disporre risorse di tempo e spazio illimitate: le macchine di Turing, e tutti i modelli equivalenti (lambda calcolo, etc.).

Potranno mai esistere modelli di calcolo più potenti?

Teoricamente sì, ma a patto di ammettere… la possibilità di fare i viaggi nel tempo o di poter collegare al software un oracolo onnisciente nel senso letterale del termine.

La risposta è quindi no, se parliamo di comportamenti meccanizzabili nel mondo che ci circonda (calcolo quantistico e simbolico inclusi).

Deep learning, LLM e qualsiasi altro algoritmo soffriranno dunque per sempre degli stessi limiti conclamati dalla matematica esatta della teoria della computabilità, sviluppata nell’ultimo secolo.

Il limite maggiore? Non poter sapere, senza eseguirlo prima, se un programma terminerà oppure continuerà a calcolare all’infinito.

Programmi che non terminano mai: un esempio

La discesa del gradiente dell’errore

Image credit: Anah Veronica

Se vogliamo usare la potenza di questo tipo di algoritmi, legata alla flessibilità di accettare anche input ignoti al tempo della produzione del software, incappiamo dunque nel problema della terminazione (halting problem) e in tutte le sue conseguenze, come il teorema di Rice.

Il Teorema di Rice

Senza poter sapere a priori se un programma terminerà, dice Rice, possiamo scordarci di attribuire qualsiasi altra proprietà complessa (ovvero qualitativa e inconfutabile) all’algoritmo.

Esempio: la garanzia che un programma generi solo reti neurali capaci di rispondere sempre correttamente, senza contenuti misogini o razzisti, diagnosi mediche errate, o più in generale informazioni sbagliate su unità statistiche ignote al momento della progettazione. Per accertare questa e altre proprietà particolari, una o più persone dovrebbero analizzare quanto prodotto caso per caso ovvero, per l’algoritmo nell’esempio, analizzare ogni rete neurale generata, per ogni suo possibile input.

Un fatto noto da tempo, ma mistificato, anche in Silicon Valley.

…è questo il motivo per cui tutto il machine learning presente e futuro dovrà necessariamente affidarsi al benchmarking di accuracy o validazione su insiemi di dati specifici, che però forniscono garanzie solo su quei dati e su quelli simili, non su tutti i dati possibili.

Quindi nessun determinismo o intelligenza superiore, ma matematica probabilistica che rende chiaro che stiamo lavorando con un’approssimazione meccanica, in qualsiasi caso presente o futuro.

La statistica e altre discipline matematiche hanno spesso permesso negli anni di ricondurre parzialmente l’elaborazione semantica a quella sintattica, consentendo in molti casi automazioni davvero straordinarie.

Ma sono in realtà solo gli ennesimi esempi di un trucchetto che in matematica chiamiamo problemi giocattolo: non avendo strumenti matematici sufficienti per risolvere un problema in modo esatto, si ripiega su una modellazione parziale e una soluzione subottimale. Non la migliore, ma la migliore approssimabile secondo gli standard richiesti e gli strumenti a disposizione: rimane fuori, ancora una volta, capire chi decide gli standard e secondo quali priorità.

Le macchine sono stupide, lo sappiamo, e possono solo riprodurre probabilità sintattica, non discrezionalità interessata. Nemmeno avere un corpo è sufficiente per questo.

Ma non basta…

L’approssimazione ha almeno due livelli:

Errori strutturali ed ineluttabili

Sappiamo che ogni approssimazione porta con sé degli errori. In questo caso strutturali, non noti a priori e, per Rice, non automaticamente individuabili.

RLHF, RAG, Red Teaming, debiasing e qualsiasi altra sono quindi necessari, ma non saranno mai sufficienti!

(Conseguenza: non usare mai l’output della GenAI senza la conoscenza specifica necessaria per valutare la bontà del prodotto!)

Errori strutturali ed ineluttabili

La produzione di errori e dunque falsità è però anche più probabile per gli argomenti meno digitalizzati. Come accade alle identità e istanze di minoranze e organizzazioni sociali che faticosamente lavorano senza risorse per spazio adeguato sulla stampa, ovvero la fonte primaria, dopo le enciclopedie, per orientare i software nella stima della parola successiva più probabile.

Storicamente l’economia mainstream e i processi produttivi (produzione software inclusa) hanno sempre teorizzato e fatto i conti solo con le fasi più prossime ai mezzi di produzione.

La settimana lavorativa da 40+ ore, come ben vediamo oggi, aveva senso potendo far affidamento su qualcun altra che, senza retribuzione, fornisse lavoro domestico e di cura dei processi riproduttivi.

Oggi, ugualmente, la politica industriale dell’IA si occupa sulla crescita della produttività, ma poco o nulla di:

• riproduzione delle comunità di esperti,
• cristallizzazione delle discipline,
• sovraccarico cognitivo, condizioni di lavoro e qualità dei beni e servizi,
• salvaguardia dell’ambiente,
• riproduzione sociale a largo spettro.

Chi si prende cura degli errori di calcolo? Sovraccarico cognitivo

Possiamo produrre di più… ma abbiamo le capacità cognitive per la cura delle conseguenze?

Esempio: se l’introduzione di un sistema permette di fare diagnosi più velocemente ed è desiderabile, accettando come metro l’utilità assoluta (dunque al netto dell’automation bias per cui diagnosi giuste diventano sbagliate), lə medicə ora dovrebbe coprire non più 500 ma 1000 pazienti, o sarebbe meglio che dedicasse il tempo a studiare di più la storia clinica?

Cambiare contesto costa, richiede attenzione ed energie cognitive, e conseguenze diverse.

Automazione totale e scomparsa del lavoro

Non tutto può essere automatizzato!

Non è sempre

• possibile
• più economico
• energicamente efficiente.

Riduzione dell’orario di lavoro? Se la riduzione arriva prima del salario minimo, si rischia solo di aumentare il part-time involontario, con profitti bottom-up (e meno risorse per la cura).

Come uscirne?

Non esistono transazioni o processi meramente economici, tecnici o digitali: ogni processo è sociale. Quindi…

1. Riconoscere, ascoltare, amplificare e retribuire la catena globale della cura: ascoltare la società civile e promuovere la partecipazione che possono validare soluzioni parziali.
2. Così come per la farmacia, obbligare ad investire in sviluppo e documentazione della consapevolezza pubblica dei rischi e dei danni. Democrazia significa scegliere in modo informato, non sulla base dei comunicati stampa.
3. Trasparenza e accesso alla documentazione interna per ispettorati e ricerca pubblica.

Letture consigliate

• A. Campolo, K. Crawford, Enchanted Determinism: Power without Responsibility in AI
• C. D’Ignazio and L. F. Klein, Data Feminism
• A. Birhane, R. Angius et al., Big AI’s Regulatory Capture
• A. Birhane, The Impossibility of Automating Ambiguity
• F. Coin, Le grandi dimissioni
• The Care Collective, Manifesto della Cura
• D. McQuillan, Resisting AI
• V. Cirillo, M. Rinaldini, M.E. Virgillito, M. Divella, C. Manicardi, F.S. Massimo, A. Cetrulo, E. Costantini, A. Moro e J. Staccioli, Case studies of automation in services, Publications Office of the European Union
• R. Angius, La scomparsa del lavoro, l’automazione totale e altre favole

PER APPROFONDIRE
Riccardo Angius • storitu.org
AI Accountability Lab
Trinity College Dublin, The University of Dublin