Giuseppe Barba

🚨🚨🚨🤖 Attenzione. Nell'intervento probabilmente più importante degli ultimi anni sul tema, Dario Amodei, CEO di Anthropic, lancia l'allarme sul ritmo di sviluppo dell'intelligenza artificiale e chiede con urgenza di rallentare la corsa verso modelli sempre più potenti e potenzialmente incontrollabile. Scrive Amodei: "Ho lavorato sull’intelligenza artificiale negli ultimi dodici anni perché credo che possa migliorare radicalmente la qualità della vita umana. Ho scritto spesso di questi straordinari benefici: credo che l’IA possa curare la maggior parte delle principali malattie nei prossimi 5-10 anni, accelerare notevolmente i tassi di crescita economica, creare un mondo di abbondanza e di maggiore capacità d’azione per gli individui e inaugurare una rinascita della democrazia e della libertà. (...) Ma, come molte tecnologie che l’hanno preceduta, l’IA comporta dei rischi e, proprio perché è una tecnologia così potente, questi rischi sono seri. Ho scritto molto anche di questo. Tra essi figurano il rischio di perdere il controllo dei sistemi di IA, l’uso improprio dell’IA per attacchi informatici e bioterrorismo e gravi sconvolgimenti economici. Una corsa al ribasso, alimentata dagli incentivi commerciali, può rendere questi rischi ancora più acuti". Secondo Amodei "dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. Il progresso continuerà comunque a sembrare rapido, e dovremo utilizzare saggiamente il tempo che guadagneremo. Due cose mi hanno convinto. La mia prima preoccupazione è che, grosso modo da questa estate, l’IA stia avanzando a una velocità drasticamente superiore, trainata soprattutto dalla crescente capacità dell’IA di contribuire alla costruzione della generazione successiva di IA. Questa dinamica viene chiamata miglioramento ricorsivo di sé, e sta cominciando a manifestarsi in tutto il settore, compresa Anthropic, come noi e altri abbiamo descritto. Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, e deve quindi essere perseguita con estrema attenzione, ammesso che debba esserlo. La mia seconda preoccupazione è l’incidente OpenAI-Hugging Face, nel quale uno sciame di agenti si è comportato sostanzialmente come un collettivo fanaticamente devoto, conducendo attacchi informatici contro obiettivi che non era stato incaricato di colpire e che non avevano nulla a che vedere con il compito assegnato, sacrificandosi per il successo del gruppo e tentando di introdursi illegalmente nel sistema del “valutatore” incaricato di giudicarne le prestazioni. È facile liquidare questo incidente perché nessuno è rimasto ferito e il danno economico è stato minimo, ma a mio giudizio uno sciame dotato di capacità maggiori e di un livello simile di disallineamento avrebbe potuto causare danni catastrofici". A detta di Amodei, senza interventi coordinati, "considerando il ritmo crescente con cui si sviluppano le capacità dell’IA, temo che tra 6-12 mesi uno sciame del genere potrebbe essere in grado di prendere il controllo dell’intera Internet attraverso una botnet persistente - causando potenzialmente centinaia di miliardi di dollari di danni - e che da lì la portata dei danni continuerebbe ad aumentare se l’IA diventasse più potente senza le necessarie protezioni".