L'intelligenza artificiale (IA) è una delle tecnologie più promettenti e rivoluzionarie del nostro tempo, ma anche una delle più temute e discusse. Molti esperti e leader del settore hanno lanciato allarmi e appelli sui possibili rischi che l'IA potrebbe comportare per l'umanità, arrivando a parlare di un "rischio di estinzione" se non si adottano misure di sicurezza e regolamentazione adeguate.

Così è quanto è stato dichiarato in una lettera firmata da 350 importanti esponenti del mondo del business e della tecnologia, tra cui Sam Altman l'amministratore delegato di OpenAI e 38 membri dell'unità di intelligenza artificiale di DeepMind di Google, diffusa dal Center for AI Safety:
 
"Mitigare i rischi di estinzione rappresentati dall'Intelligenza artificiale deve essere una priorità globale insieme ad altri rischi di per la società come le pandemie e la guerra nucleare". "Abbiamo bisogno che sia diffusa la consapevolezza di quello che è in gioco prima di aver proficue discussioni", ha detto Dan Hendrycks, presidente del Center for AI Safety, spiegando la scelta di limitare la lettera ad una sola frase per "mostrare che i rischi sono abbastanza gravi da aver bisogno di proposte proporzionate".

Ma quali sono i motivi di questa preoccupazione? L'intelligenza artificiale può presentare dei rischi per la società, in termini di sicurezza, etica, diritti umani e impatto sociale. Alcuni esempi di applicazioni nocive o problematiche dell'IA sono:

La guerra. L'IA può essere usata per scopi militari o bellici, aumentando il potenziale distruttivo delle armi convenzionali o creando nuove forme di armamento autonomo o cibernetico. Ad esempio, l'IA può controllare droni o robot da combattimento, hackerare sistemi informatici sensibili o manipolare informazioni strategiche.

La privacy. L'IA può violare la privacy e la dignità delle persone, raccogliendo ed elaborando dati personali senza il loro consenso e per finalità dannose. Ad esempio, l'IA può monitorare le attività online o offline degli individui, profilare le loro preferenze e i loro comportamenti per influenzarne le decisioni.

La discriminazione. L'IA può generare o amplificare fenomeni di discriminazione o ingiustizia sociale, basandosi su dati sbilanciati o pregiudizievoli. Ad esempio, l'IA può produrre risultati inaccurati o ingannevoli nel selezionare candidati per una deterninata occupazione o un determinato compito...

Insomma, gli esempi possono essere infiniti e per tale motivo persino chi ha creato sistemi di interazione con chatbot basati sull'IA comincia a porsi degli interrogativi su come poterne limitare l'uso.