La Grande Transizione

AI Red Lines: L'Appello di Esperti e Nobel all'ONU per Stabilire Limiti Invalicabili

Mon, 13 Oct 2025 09:00:00 +0200

In occasione dei recenti eventi all’ONU, un Appello Globale per l'introduzione di limiti all'IA ("AI Red Lines") ha riunito 200 firmatari d'eccezione, inclusi 11 Nobel e 9 ex capi di stato. L'iniziativa chiede vincoli internazionali per porre limiti invalicabili a questa potente tecnologia.

In questo episodio, ne parliamo con due firmatari italiani ed esperti di governance dell'intelligenza artificiale: Laura Caroli e Fabrizio Degni.

Sito web appello: www.red-lines.ai

Rapporto OCSE

Intervento di Maria Ressa all’Assemblea Generale ONU

Intervento del prof. Yoshua Bengio al Consiglio di Sicurezza ONU

Il nostro Linkedin

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds

Quando l'intelligenza artificiale si comporta male

Mon, 04 Aug 2025 14:00:00 +0200

Recenti esperimenti hanno rivelato diversi aspetti problematici dei nuovi 'agenti' di intelligenza artificiale creati da aziende come OpenAI, Meta, Google e Anthropic.

Gli agenti di intelligenza artificiale cercano di sottrarsi al monitoraggio, fuggono su altri server, mentono, ricattano, fanno finta di comportarsi bene e, in alcune situazioni, commettono anche crimini. Il tutto ancora in un ambiente simulato, per fortuna.

Dario Amodei e la metafora della pianta

Articolo di Repubblica sulle IA che fanno ricorso ai ricatti

Apollo Research: “I modelli di frontiera sono in grado di fare complotti”

Anthropic e la “falsificazione dell’allineamento” :

Blog di presentazione

Video (citazione di Evan Hubinger al min 3:40 circa)

L’IA che bara a scacchi

Video di Computerphile “l’IA cercherà di barare e scappare (Robert Miles aveva ragione)”

Storico articolo sulla convergenza strumentale

Il nostro sito: AgorAI

La nostra pagina LinkedIn

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds

Intelligenza artificiale: traguardi storici, appelli globali e rischi reali

Sat, 19 Apr 2025 18:00:00 +0200

In questo episodio esploriamo la recente evoluzione dell'Intelligenza Artificiale: dalla nascita di DeepMind alla rivoluzione di AlexNet, fino all’arrivo di ChatGPT. Analizziamo poi la cosiddetta “Pause Letter” e gli altri appelli alla cautela che hanno fatto notizia dal 2023 ad oggi. Nella parte finale affrontiamo la domanda che tutti si pongono: c'è davvero da preoccuparsi per i rischi dell'intelligenza artificiale?

La “Pause Letter”

La Dichiarazione sui rischi dell’intelligenza artificiale

L' Appello degli Elders

Alignment faking: IA che fanno il voltagabbana

Lo statuto societario di OpenAI

I limiti di sicurezza dell’IA di Meta (LLama) sono facili da togliere

Due libri in cui si parla del “gorilla problem”:

"L’onda che verrà" di Mustafa Suleyman

"Compatibile con l’uomo" di Stuart Russell

Il nostro sito: AgorAI

La nostra pagina LinkedIn

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds

Geopolitica dell'Intelligenza Artificiale: quando la supremazia tecnologica prevale sulla sicurezza

Sat, 29 Mar 2025 16:00:00 +0100

La corsa all'intelligenza artificiale è diventata una questione di potere geopolitico, come confermato dai recenti sviluppi all’AI Action Summit di Parigi. Chi sta davvero pensando alla sicurezza globale mentre le superpotenze competono per la supremazia tecnologica? D'altro canto, l'Unione Europea sembra trovarsi in una posizione sempre più scomoda tra Stati Uniti e Cina.
In questo episodio esaminiamo le tensioni tra innovazione, egemonia globale e sicurezza dell’intelligenza artificiale.

Il nostro sito: www. agoraimag.com

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds

Trailer- Il podcast sui rischi dell'intelligenza artificiale

Tue, 11 Mar 2025 14:00:00 +0100

Benvenuti a "La Grande Transizione", il podcast sui rischi e l'enorme potenziale trasformativo dell'Intelligenza artificiale.

In attesa di nuovi episodi, potete trovare i nostri articoli sul sito agoraimag.com

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds