Cos’è un’Intelligenza Artificiale? In realtà è una domanda abbastanza difficile, ma possiamo risolvere il tutto dicendo che è un sistema in grado di fornire risultati che sembrano essere stati prodotti dalla mente di una persona. Possiamo anche vederla come un algoritmo molto complesso. In ogni casi, le IA ormai vengono usate sempre più spesso e le troviamo in dispositivi di massa come le televisioni, ma anche per usi molto più specifici come l’identificazione di un nuovo antibiotico.
Di dibattiti in merito a queste tecnologie ce ne sono stati molti e tra questi c’è un discorso legato all’inganno dell’Intelligenza Artificiale. Questo inganno non va visto come i banali errori che compaiono normalmente in un processo di apprendimento. Per esempio, basti pensare a un software pensato per distinguere gli animali che ne confonde uno per un altro. Il problema dell’inganno nel senso la paura che la IA ci menta volontariamente su qualcosa.
L’Intelligenza Artificiale che mente
Quando una persona inganna è perché vuole ottenere un beneficio, qualunque esso sia come prendere in giro l’altra persona o sfuggire da un obbligo. Ingannare presuppone una mente che le Intelligenze Artificiali non hanno, ma potrebbero esserci altri casi in cui può comparire una forma di inganno come il trattenere informazioni in modo passivo. Una IA potrebbe imparare a farlo. Le sfide future di chi lavora in questo campo saranno cercare di capire quando viene trattenuta un’informazione per potere capire come avviene il processo e intercettarlo sempre più con più precisione. Non è un lavoro semplice.
Le parole di Heather M. Roff, esperta di questo campo:
“Dobbiamo iniziare a pensare a come progettare nuove soluzioni per mitigare l’inganno indesiderato da parte degli agenti dell’IA. Questo va oltre l’attuale ricerca di rilevazione e richiede di pensare agli ambienti, ai problemi di ottimizzazione e al modo in cui gli agenti di AI modellano altri agenti di AI e i loro effetti emergenti potrebbero produrre comportamenti ingannevoli indesiderati.”
