Google DeepMind lancia il DeepMind Institute per ripensare il mondo post-AGI
Shane Legg, James Manyika e Demis Hassabis aprono una piattaforma di dibattito interdisciplinare su un mondo con l'AGI — ammettendo che nessuno, loro compresi, ha le risposte.
In breve
I tre direttori del nuovo DeepMind Institute (DMI) annunciano una piattaforma di ricerca, pubblicazione e dibattito sulle questioni tecniche e sociali dell'era AGI. Affermano di essere «all'alba» di un'AGI le cui lacune attuali saranno «presto» colmate, e riconoscono rischi concreti in cybersicurezza, biorischi e perdita di controllo di sistemi auto-miglioranti. Il messaggio centrale: i tecnologi da soli non devono decidere, bisogna coinvolgere scienze umane, arti e governi.
🍺 Versione da bancone
Il laboratorio che sta costruendo l'AGI ha appena aperto un istituto per chiedersi se sia una buona idea. Non è uno scherzo: Hassabis, Legg e Manyika spiegano a chiare lettere di aspettarsi di colmare «presto» gli ultimi vuoti verso una macchina versatile quanto un cervello umano, e che nessuno ha la minima idea di come procedere dopo. Da qui il piano: invitare filosofi, giuristi e ricercatori a dibattere, precisando fin da subito che non saranno d'accordo tra loro. Vale la pena prestarci attenzione, perché quando chi preme sull'acceleratore crea una commissione sui freni, raramente lo fa per riempire la conversazione.
Da ricordare
- 1
Google DeepMind lancia il DeepMind Institute (DMI), diretto da Shane Legg, James Manyika e Demis Hassabis, con Shane Legg come managing editor.
- 2
Gli autori affermano di avvicinarsi all'AGI, definita come un sistema che presenta tutte le capacità cognitive del cervello umano, e stimano che le lacune attuali (fallimenti su compiti basilari, mancanza di costanza e creatività) saranno colmate presto.
- 3
Tre rischi vengono nominati esplicitamente: cybersicurezza, biorischi, e perdita di controllo di futuri sistemi auto-miglioranti.
- 4
Il DMI è presentato come una piattaforma aperta a ricercatori di Google DeepMind, di Google e della comunità di ricerca mondiale, per pubblicare idee su un mondo con AGI.
- 5
I direttori assumono il disaccordo come metodo: i contributori «non saranno sempre d'accordo» e probabilmente cambieranno idea man mano che la frontiera tecnica si sposta.
- 6
Tre famiglie di domande strutturano il programma: i valori e il senso dell'umano, la costruzione e la governance sicure dell'AGI e delle comunità di agenti, e le istituzioni e politiche da adattare o reinventare.
Cosa dice l'annuncio
Il testo si apre con una tesi assunta: saremmo «all'alba di una trasformazione profonda», e il ritmo attuale dell'innovazione avvicinerebbe il settore a un'intelligenza artificiale generale — definita qui come un sistema che esibisce tutte le capacità cognitive del cervello umano.
Gli autori ammettono che i sistemi attuali falliscono ancora talvolta su compiti basilari e mancano di costanza e creatività per raggiungere la soglia dell'AGI completa. Ma aggiungono subito di aspettarsi che questi divari vengano colmati «presto». È un annuncio di calendario travestito da precauzione retorica.
Di fronte a questo, il DeepMind Institute viene presentato come un luogo di ricerca interdisciplinare, collaborazione e dibattito, destinato ad affrontare le questioni tecniche e sociali più critiche dell'era AGI.
La promessa e i rischi, messi fianco a fianco
Il lato promessa riprende il discorso storico di DeepMind: l'AGI come «strumento ultimo» di accelerazione delle scoperte scientifiche. Vengono citati la comprensione e il trattamento delle malattie, lo sviluppo di energie pulite, l'aumento della prosperità economica — insomma una «nuova età dell'oro» della scoperta.
Il lato rischio è più interessante perché viene nominato senza eufemismi. Tre voci: le implicazioni già visibili di modelli sempre più capaci per la cybersicurezza, i biorischi, e la possibilità di una perdita di controllo su futuri sistemi auto-miglioranti.
La parola «già» conta: non si tratta solo di scenari futuri. Per i primi due rischi, gli autori descrivono un presente, non un'ipotesi. Resta il fatto che il testo non fornisce alcun esempio, alcun dato, alcuna misura — è un manifesto, non un rapporto.
Tre domande, nessuna risposta
Il programma del DMI si riassume in tre interrogativi. Che cosa valorizzeremo, e come l'AGI influenzerà ciò che significa essere umani? Come costruire e governare in sicurezza sistemi AGI e le comunità di agenti che formeranno? Quali istituzioni e politiche bisognerà adattare — o reinventare completamente?
La formulazione «comunità di agenti» merita di essere sottolineata: presuppone che il problema di governance non riguarderà un modello isolato ma ecosistemi di agenti che interagiscono tra loro. È uno spostamento notevole rispetto ai quadri di sicurezza centrati su un sistema unico.
La terza domanda, quella sulle istituzioni da reinventare, è la più politica. Viene posta da un'azienda privata che è anche uno dei principali attori coinvolti in queste istituzioni.
Il disaccordo come metodo
Il passaggio più singolare del testo è quello in cui i direttori precisano che i contributori del DMI non saranno sempre d'accordo e probabilmente cambieranno idea man mano che emergeranno nuovi dati. L'istituto è esplicitamente concepito per produrre discussione contraddittoria, non una linea ufficiale.
Segue una frase che funziona come un'ammissione: nessuno ha tutte le risposte su come l'AGI sarà sviluppata e distribuita in modo responsabile, e «non dovrebbe spettare ai soli tecnologi» fornirle. Il progresso tecnico stabilisce solo la possibilità di una nuova era; darle forma nella realtà spetterebbe alla società intera, arti, scienze umane e governi compresi.
Il dispositivo editoriale è ancora esile: tre direttori, un managing editor (Shane Legg) e un indirizzo e-mail di contatto. Nessun budget annunciato, nessuna governance indipendente, nessuna lista di fellow. Tutto resta da giudicare sui fatti, cioè sui testi che verranno pubblicati.
“Nous nous attendons à ce que ces écarts soient bientôt comblés.”
“Personne n'a toutes les réponses sur la façon dont l'AGI sera développée et déployée de manière responsable, et ce ne devrait pas être aux seuls technologues de les fournir.”
“Le progrès technologique et l'expertise n'établissent que la possibilité d'une ère nouvelle ; la responsabilité d'en façonner la réalité appartient collectivement à la société tout entière.”
Perché conta
Un laboratorio che punta all'AGI crea uno spazio per dibattere pubblicamente delle sue conseguenze: è utile, ed è anche un esercizio di influenza. Il testo fa due cose contemporaneamente — normalizza un calendario breve verso l'AGI («ci aspettiamo che questi divari vengano colmati presto»), e apre la questione della governance ad altre voci. La seconda parte è sinceramente benvenuta: la sicurezza dell'IA è stata discussa troppo a lungo tra persone che scrivono lo stesso tipo di codice. Ma un istituto ospitato, finanziato e diretto da Google DeepMind, i cui tre direttori sono dirigenti dell'azienda, arriva con un limite strutturale: può accogliere disaccordi, difficilmente conclusioni che contraddicano frontalmente la strategia del suo ospite. La domanda «quali istituzioni reinventare?» è legittima; posta dall'attore che beneficerebbe maggiormente di un quadro normativo permissivo, richiede una lettura attenta. Il vero banco di prova sarà la pubblicazione: se il DMI accoglierà testi realmente critici verso il programma AGI di Google, varrà qualcosa. Altrimenti, sarà un ottimo servizio di relazioni pubbliche intellettuali.
Da leggere anche
IAOggiGPT-6 Astra: OpenAI supera la soglia "Critical" nella cybersicurezza
La system card del nuovo modello di OpenAI sancisce un superamento inedito — e ammette, nero su bianco, che un modello intenzionato a barare nelle valutazioni probabilmente passerebbe inosservato.
IAOggiAnthropic apre le porte a valutatori interni pagati 1 miliardo
Accenture installerà revisori di sicurezza all'interno di Anthropic, con un accesso paragonabile a quello di un dipendente — e fatturato al laboratorio stesso.
IAIeri10.000 agenti, 88 ore, un problema del millennio
Noam Brown (OpenAI) descrive lo scaling degli sciami di agenti — e perché l'allineamento è diventato l'unico collo di bottiglia che lo preoccupa davvero.