Cosa succede quando l'intelligenza artificiale legge la mappa troppo alla lettera?

L'intelligenza artificiale guida sempre di più il nostro modo di muoverci, investire, pianificare e decidere. Dalle app di navigazione agli strumenti di pianificazione urbana, l'intelligenza artificiale si affida in larga misura a mappe e dati strutturati per interpretare il mondo. Ma le mappe semplificano la realtà. Riducono ambienti disordinati e mutevoli in etichette, confini e medie ordinate. Quando l'intelligenza artificiale interpreta queste versioni semplificate in modo troppo letterale, possono emergere problemi. Il problema non è l'intelligenza, ma il contesto.

In questo articolo scoprirai cosa succede quando l'intelligenza artificiale interpreta le mappe senza buon senso e perché ciò crea rischi nascosti.

Quando l'intelligenza artificiale prende la mappa per quello che è

Probabilmente chiedi sempre indicazioni stradali al tuo telefono.

Forse l'hai persino usata per trovare un bar vicino a te. E ti fidi perché la mappa sa cosa è meglio, giusto? Cosa pensi che succeda quando l'intelligenza artificiale usa la stessa mappa che usi tu? Il nostro mondo è così complicato e disordinato, e ne tieni conto quando usi il GPS o qualcos'altro, ma l'intelligenza artificiale? È davvero così avanzata?

L'intelligenza artificiale non ha il tuo buon senso, quindi, anche se riesce a leggere la mappa alla perfezione, prenderà alla lettera tutto ciò che vede.

Supponiamo che la mappa indichi che un particolare edificio è una biblioteca. L'intelligenza artificiale presumerà che l'edificio sia destinato esclusivamente alla lettura silenziosa, anche se in realtà è un centro comunitario e lo è da un decennio. L'intelligenza artificiale si fida di linee pulite ed etichette perfette; non mette in discussione il contesto.

Si potrebbe dire che l'intelligenza artificiale si fida ciecamente di ciò che vede, il che rappresenta un rischio enorme.

Certo, una mappa pulita può rendere l'IA sicura di sé, ma può davvero farle capire veramente ciò che vede? No. Ora pensate a cosa succederebbe se un'IA eccessivamente sicura di sé iniziasse a prendere decisioni in settori come la sanità e la pianificazione urbana.

Quindi, in sostanza, qualcosa di strano e (probabilmente) molto costoso.

Le mappe possono essere fuorvianti

Siamo diventati così abituati all'uso della tecnologia (soprattutto dei nostri telefoni) che quando apri una mappa e la guardi, non la metti in dubbio. La prendi così com'è e sei sicuro che sia accurata. E perché dovresti metterla in dubbio? Sembra così convincente, come se avesse tutto sotto controllo, e non ti delude mai... almeno per ora.

Ed è proprio lì che sta la trappola.

Quando guardi una mappa, puoi vedere una posizione perfettamente precisa, ma l'app non ha la minima idea di cosa accada lì.
Quindi, in sostanza, ricevi indicazioni stradali incredibilmente dettagliate per raggiungere un luogo, ma nessuno ti dice che, ad esempio, l'intera strada è in costruzione. È così preciso che ti fidi di ciò che dice, ma in realtà non sono altro che coordinate.

L'intelligenza artificiale peggiora ulteriormente la situazione.

Sta indovinando, ma non è progettato per dirti che sta indovinando, quindi pensi che sappia tutto di cui parla. I modelli di intelligenza artificiale possono coprire ogni centimetro della mappa con un colore e un punteggio, e non ci sono "Non lo so" zone su di esso. Di conseguenza, ottieni un'immagine completa che ti induce a pensare che il mondo sia pulito e semplice come la mappa che hai davanti.

Il problema più grande riguarda tutto ciò che la mappa non riesce a vedere.

Il meteo ne è un esempio perfetto:

Un'intelligenza artificiale che osserva una posizione su una mappa può dire che si tratta di un'area a basso rischio perché lavora con dati obsoleti, ma cosa succede se il clima locale è cambiato? E se non dispone dei pannelli meteorologici più recenti? A meno che il sistema non disponga di dati affidabili, API dati meteo all-in-one lavorando in background, alimenta il sistema con dati accurati e in tempo reale. In caso contrario, ha solo metà dei dati, ma sta prendendo decisioni importanti.

Ed è così che accadono gli errori.

Il mondo sulla mappa è predefinito e prevedibile, mentre il mondo in cui viviamo realmente è esattamente l'opposto.

Come le buone mappe causano ancora cattive chiamate

L'idea che una buona mappa possa indurre qualcuno o qualcosa a prendere una decisione sbagliata può sembrare strana. Tuttavia, una mappa può essere tecnicamente corretta e, allo stesso tempo, totalmente inutile ai fini di una scelta concreta.

Supponiamo che una mappa mostri correttamente il traffico medio pomeridiano e indichi che la velocità in autostrada è di 105 km/h. Spatially, quei dati sono impeccabili. Ma se usi le informazioni di quella mappa per programmare una consegna super importante per le 17:00 di venerdì, beh... preparati a un disastro. La mappa ha commesso un errore? No, era corretta.

Ma ti è stato utile? Assolutamente no.

Ti ha mostrato una media, e siamo onesti. Quando mai quel numero è stato utile? Il mondo reale è fatto di eccezioni.

Questo accade continuamente con le mappe AI.

Si ottiene questo splendido output che sembra autorevole, quindi come si può non iniziare a trattare tutte quelle zone colorate e quei percorsi ottimali come istruzioni?

La mappa indica che questo percorso è il più efficiente, quindi un fattorino lo usa senza esitazione. L'algoritmo indica che questa particolare area ha il più alto potenziale economico, quindi un investitore sceglie di staccare la spina. In realtà, una realtà instabile e complicata viene trasformata in un quadro fluido, apparentemente semplice, ma che non lo è.

Tutti i piani sono fatti per una giornata normale, mentre una vera giornata potrebbe prevedere un'improvvisa tempesta di neve o un intoppo nella catena di approvvigionamento.

Dove le cose cominciano a crollare

Quindi, dove sbagliamo davvero?

1. I dati non riescono a tenere il passo con la velocità con cui cambia il mondo

Utilizzeresti la mappa dell'anno scorso per guidare? Perché è fondamentalmente quello che succede. Le informazioni che ottieni dall'IA sono quasi sempre obsoleto. Quindi le cose che ne ricavi erano rilevanti forse 6 mesi fa.

Nel periodo successivo, potrebbe essere stato inaugurato un centro commerciale o una strada principale ha avviato un enorme progetto di ristrutturazione. L'IA non ha idea di cosa sia successo, ma non preoccuparti, è assolutamente sicura di darti indicazioni stradali per un posto che non assomiglia per niente a 6 mesi fa.

2. Modelli che sembrano reali ma non lo sono

Una cosa che l'intelligenza artificiale fa davvero bene è vedere gli oggetti vicini tra loro su una mappa e stabilire se sono collegati.
Ad esempio, ci sono un sacco di pizzerie di successo nei pressi di un parco. Per l'intelligenza artificiale, questo significa che il parco è un ottimo posto per mangiare una pizza e inizierà a consigliarla a destra e a manca. Pazzesco, eh?

Per te è ovvio che non ha senso, ma per l'IA, vedere dei punti su una mappa, collegarli e inventare una storia. Si è imbattuta in una coincidenza e l'ha trattata come una regola.

Ma non ha preso in considerazione le vere questioni, come la reputazione o la storia.

3. Addestrato troppo bene sul passato

Vuoi sentire qualcosa di divertente?

Rendiamo queste IA incredibilmente intelligenti insegnando loro tutto e qualsiasi cosa riguardasse il passato.

Quindi, si può davvero biasimarli per aver combinato qualche pasticcio quando si tratta di cose che riguardano il futuro? Sono esperti, certo, ma in un mondo che è già finito. Questo significa che, quando succede qualcosa di nuovo (tendenze, tempeste, ecc.), l'intelligenza artificiale è completamente persa.

Le domande sono cambiate, ma l'intelligenza artificiale continua a fornire le stesse vecchie risposte.

E lo fa con assoluta sicurezza.

Utilizzare l'intelligenza artificiale come guida, non come parola finale

Quindi, qual è la lezione? Dovremmo eliminare tutti i lettori di mappe basati sull'intelligenza artificiale?

No, non è quello che dovresti fare, ma non dovresti nemmeno fidarti ciecamente di loro. È un sistema geniale, non c'è dubbio, ma è tanto letterale quanto geniale. Trattalo come tale.

Strumenti come questi sono più adatti come punto di partenza per la propria curiosità, non come risposta definitiva. Poniti domande anche se sembrano stupide, come "perché quell'area è rossa?" o "ha senso?".

In questo modo non solo otterrai informazioni accurate, ma anche buon senso.

L'intelligenza artificiale può elaborare mappe con una precisione notevole, ma precisione non è sinonimo di comprensione. Quando i sistemi si basano su dati obsoleti, medie o modelli di superficie, si verificano errori di affidabilità. L'approccio più intelligente combina l'efficienza dell'intelligenza artificiale con il contesto umano, lo scetticismo e la supervisione.