Come prende le decisioni l'IA? Non nel modo in cui pensi.

L'intelligenza artificiale non prende decisioni nello stesso modo in cui le prendi tu. La maggior parte dei sistemi riceve dati in input, li elabora tramite una funzione fissa appresa durante l'addestramento e produce un punteggio, quindi verifica se tale punteggio supera una soglia prestabilita da qualcun altro. Non c'è ponderazione delle opzioni, nessuna deliberazione, nessun giudizio. Comprendere questa differenza cambia chi dovresti effettivamente ritenere responsabile quando un risultato algoritmico ti riguarda.

PUNTI CHIAVE

• La maggior parte dei sistemi di intelligenza artificiale non valuta né pondera le opzioni come farebbero gli esseri umani. Molti calcolano un punteggio numerico a partire dai dati di input e lo confrontano con una soglia impostata in anticipo da una persona.
• Chiamare l'output algoritmico un “"decisione"” trasferisce silenziosamente la responsabilità morale e legale dagli esseri umani che hanno costruito e implementato il sistema al sistema stesso.
• Un sondaggio del 2023 condotto tra i ricercatori nel campo dell'intelligenza artificiale ha rilevato che solo il 20% ritiene probabile che entro il 2028 gli utenti saranno in grado di conoscere le vere ragioni alla base dell'output di un sistema di intelligenza artificiale.
• Sia l'articolo 22 del GDPR che la legge europea sull'intelligenza artificiale richiedono spiegazioni per le decisioni automatizzate che riguardano le persone, ma il 60% dei modelli di produzione rimane di fatto inspiegabile.
• Comprendere il meccanismo alla base “Decisioni basate sull’IA” cambia chi ritieni responsabile quando un risultato algoritmico ti riguarda.

Come prende decisioni l'intelligenza artificiale?

La maggior parte dei sistemi di intelligenza artificiale non prende decisioni nel senso in cui si decide cosa mangiare a pranzo. Un classificatore prende i dati in input, li elabora attraverso parametri appresi durante l'addestramento e produce un numero. Un modello di approvazione di un prestito non valuta le circostanze del richiedente come farebbe un funzionario addetto alla concessione di prestiti. Converte i dati in un punteggio e verifica se tale punteggio supera una soglia prestabilita.

Un algoritmo di assunzione non decide di rifiutarti come farebbe un responsabile delle assunzioni. Calcola un numero e lo confronta con una soglia impostata da qualcun altro. Il rifiuto è reale. “"decisione,"” Nel senso umano di valutare le ragioni e scegliere, è una metafora. E le metafore svolgono un lavoro silenzioso ma significativo.

Questa metafora non è neutrale. Influisce sul modo in cui parliamo di responsabilità, su come progettiamo le normative e su quanto ci sentiamo a nostro agio nell'affidare scelte importanti a sistemi che non sono stati creati per scegliere nel senso in cui lo intendiamo noi quando scegliamo.

Cosa sta realmente accadendo all'interno del “"Decisione"”?

Nei sistemi di classificazione, il meccanismo si basa sul confronto di modelli con pesi appresi e una soglia, non sul ragionamento.
Durante l'addestramento, un modello regola milioni di parametri interni per minimizzare gli errori sui dati di esempio. Ogni parametro cattura una piccola relazione statistica tra input e output. Quando si forniscono nuovi dati a un classificatore addestrato, questo moltiplica gli input per tali parametri e produce un punteggio. Tale punteggio può superare una determinata soglia oppure no.

Questa descrizione della soglia si adatta perfettamente ai classificatori: rilevamento delle frodi, valutazione del credito, selezione del personale. Si adatta meno bene ai sistemi generativi come i grandi modelli linguistici, che producono output token per token attraverso un processo iterativo plasmato dalla strategia di decodifica piuttosto che da un singolo controllo di punteggio e soglia. Il punto fondamentale rimane valido in entrambi i casi: non esiste una fase in cui il sistema valuti le alternative come farebbe una persona. Il meccanismo specifico varia semplicemente a seconda dell'architettura.

Perché continuiamo a chiamarla una decisione?

Il linguaggio qui svolge un ruolo fondamentale, e non in modo innocuo.

Quando diciamo un algoritmo “"deciso"” Nel negare il prestito, attribuiamo implicitamente la responsabilità all'interno del sistema. Questa impostazione rende più facile accettare il risultato e più difficile chiedersi chi abbia stabilito la soglia, chi abbia scelto i dati di addestramento e chi abbia deciso che il sistema fosse pronto per essere implementato. Il linguaggio decisionale cela una catena di scelte umane dietro un'unica parola che sembra indicare che la decisione sia stata presa dalla macchina.

Non si tratta di una sottigliezza semantica. L'articolo 22 del GDPR concede gli individui hanno il diritto di ricevere una spiegazione quando viene presa una decisione “esclusivamente tramite mezzi automatizzati”. Tale linguaggio normativo considera l'algoritmo come colui che prende le decisioni, influenzando così a chi le aziende ritengono di dover fornire spiegazioni e come queste vengono formulate.

I sistemi di intelligenza artificiale sono davvero in grado di spiegare i propri risultati?

Nella maggior parte dei casi no, e le ricerche in merito sono più allarmanti di quanto la maggior parte degli articoli lasci intendere.

UN Indagine del 2023 sui ricercatori di intelligenza artificiale È stato chiesto se i tipici sistemi di intelligenza artificiale all'avanguardia del 2028 sarebbero stati in grado di spiegare in modo veritiero e comprensibile le vere ragioni alla base dei loro risultati. Solo il 20% ha risposto con una probabilità superiore al 50%. Le tecniche attualmente esistenti, come i punteggi di importanza delle caratteristiche, le visualizzazioni dell'attenzione e le spiegazioni controfattuali, descrivono le correlazioni su cui si basa il modello. Non rivelano nulla che assomigli a una ragione nel modo in cui un essere umano, nel motivare una scelta, potrebbe fornirne una.

È proprio in questo divario tra le tecniche di interpretabilità e la vera spiegazione che si bloccano la maggior parte degli sforzi per rendere l'IA più responsabile. Si può generare una descrizione apparentemente plausibile di quali caratteristiche di input siano state più importanti. Se tale descrizione rifletta ciò che è realmente accaduto all'interno del modello, o se sia essa stessa un'approssimazione sovrapposta, è una questione tecnica ancora aperta.

Dove è effettivamente importante?

La posta in gioco aumenta notevolmente una volta che “Decisioni basate sull’IA” cominciano a influenzare la vita delle persone in modi contro i quali non possono appellarsi.

Valutazione del credito, screening dei candidati, determinazione dei prezzi assicurativi e moderazione dei contenuti: tutti questi sistemi si basano sempre più sulla cui logica interna nemmeno i loro creatori riescono a tracciare completamente. Gli enti regolatori hanno iniziato a rispondere direttamente a questa lacuna. La legge UE sull'IA richiede Documentazione sulla trasparenza per i sistemi ad alto rischio, con obblighi specifici per i sistemi ad alto rischio che dovrebbero applicarsi entro il 2 dicembre 2027, in attesa dell'adozione formale. La legge SB 26-189 del Colorado richiede a chi implementa tecnologie di decisione automatizzata di divulgare come queste influenzano le decisioni, con obbligo di conformità a partire dal 1° gennaio 2027.

Queste regole presuppongono un decisore che può essere ritenuto responsabile. Ciò che effettivamente regolano è una funzione di punteggio e gli esseri umani che l'hanno configurata, che è una cosa più difficile da legiferare chiaramente rispetto alla “"decisione"” l'inquadratura suggerisce.

Chi è effettivamente responsabile quando “"Decisione"” Qualcosa va storto?

Non l'algoritmo, perché l'algoritmo non è stato progettato per scegliere nulla nel senso umano del termine.

La responsabilità ricade su coloro che hanno selezionato i dati di addestramento, impostato la soglia, deciso il tasso di errore accettabile e approvato l'implementazione del sistema. Quando un algoritmo di assunzione esclude sistematicamente candidati qualificati in base a un determinato profilo, la soluzione non è chiedere all'algoritmo di riconsiderare la sua decisione, bensì esaminare i dati di addestramento, la soglia e le persone che li hanno approvati.

Alcuni informatici potrebbero obiettare, e a ragione: in senso tecnico, un classificatore seleziona una classe rispetto a un'altra, e un agente RL seleziona un'azione rispetto a un'altra. Questi sono usi legittimi di “"decisione"” nell'informatica. Ciò che quel senso operativo non coglie è il peso morale e deliberativo che la parola porta con sé nell'uso ordinario, il senso che conta quando ci chiediamo chi è responsabile del risultato. La scala e la complessità architetturale non colmano questa lacuna. Un calcolo più intricato rimane pur sempre un calcolo, non una decisione discrezionale.

FAQ

D: L'intelligenza artificiale pensa davvero prima di prendere una decisione?

Non nel senso umano del termine. La maggior parte dei sistemi di intelligenza artificiale calcola un output a partire da una funzione fissa appresa durante l'addestramento, senza alcuna riflessione o valutazione delle alternative. Ciò che sembra pensiero è in realtà un riconoscimento di modelli basato su relazioni statistiche presenti nei dati di addestramento, eseguito sempre allo stesso modo.

D: Posso ricevere una spiegazione per una decisione dell'IA che mi riguarda?

Ai sensi dell'articolo 22 del GDPR, nell'UE hai il diritto legale di ricevere una spiegazione per le decisioni prese esclusivamente con mezzi automatizzati. In pratica, la spiegazione che ricevi descrive quali fattori di input sono correlati al risultato, non la vera logica interna del sistema, poiché la maggior parte dei modelli di produzione rimane di difficile interpretazione anche per i loro stessi sviluppatori.

D: Chi è responsabile quando un sistema di intelligenza artificiale prende una decisione sbagliata?

Le persone che hanno costruito, addestrato e implementato il sistema. Hanno scelto i dati di addestramento, stabilito le soglie di errore accettabili e approvato il sistema per l'uso. Il sistema non può essere ritenuto responsabile dal punto di vista morale perché non è stato progettato per valutare le ragioni nello stesso modo in cui lo fa una persona.

D: I sistemi di intelligenza artificiale saranno mai in grado di spiegare veramente le proprie decisioni?

L'incertezza persiste e la comunità degli esperti non è ottimista. Un sondaggio del 2023 condotto tra i ricercatori di intelligenza artificiale ha rilevato che solo il 20% riteneva probabile che entro il 2028 gli utenti avrebbero conosciuto le vere ragioni alla base dei risultati di un sistema di intelligenza artificiale. Le attuali tecniche di interpretabilità approssimano le ragioni, anziché rivelarle direttamente.

L'intelligenza artificiale non prende decisioni come facciamo noi. La maggior parte dei sistemi calcola punteggi e li confronta con soglie definite, testate e approvate da persone. Ogni volta che diciamo che un algoritmo ha "deciso", gli attribuiamo implicitamente una responsabilità che spetta agli esseri umani che lo hanno creato, ed è proprio questo passaggio di consegne che le autorità di regolamentazione stanno cercando disperatamente di colmare.