L’amministrazione sarà affidata al Meridian Institute che vigilerà sul lavoro di un comitato consultivo composto da esperti esterni indipendenti, professionisti di società di intelligenza artificiale e individui con esperienza nella concessione di sovvenzioni
Il nuovo Fondo per la sicurezza dell’intelligenza artificiale, “AI Safety Fund”, lanciato da Google insieme ad Anthropic, Microsoft e OpenAi servirà a supportare ricercatori indipendenti di tutto il mondo affiliati a istituzioni accademiche, istituti di ricerca e startup nello studio dell’AI. Con un finanziamento di oltre 10 milioni di dollari da parte di Anthropic, Google, Microsoft e OpenAI e grazie alla collaborazione di partner come la Patrick J. McGovern Foundation, la David and Lucile Packard Foundation, Eric Schmidt e Jaan Tallinn, il Fondo punta a incentivare lo sviluppo e lo studio di nuove valutazioni di modelli e tecniche per modelli di intelligenza artificiale.
Leggi anche: Preparedness, OpenAI battezza un team interno per evitare che l’AI faccia catastrofi
Verso le nuove frontiere dell’AI
L’AI Safety Fund prenderà in considerazione anche contributi esterni che saranno finanziati per valutare e comprendere meglio i sistemi di frontiera. La discussione globale sulla sicurezza dell’IA e sulla base generale delle conoscenze sull’IA includerà, quindi, più prospettive. L’obiettivo principale del Fondo sarà non solo quello di sostenere lo sviluppo di nuovi modelli e tecniche di intelligenza artificiale, ma anche di testare tecniche di valutazione per capacità potenzialmente pericolose dei sistemi di frontiera. Il fine è quello di contribuire a innalzare gli standard di sicurezza e di protezione e di fornire informazioni sulle mitigazioni e sui controlli di cui l’industria, i governi e la società civile hanno bisogno per rispondere alle sfide presentate dai sistemi di intelligenza artificiale. Ad amministrare il Fondo sarà il Meridian Institute: il loro lavoro sarà supportato da un comitato consultivo composto da esperti esterni indipendenti, professionisti di società di intelligenza artificiale e individui con esperienza nella concessione di sovvenzioni. Nei prossimi mesi il Fondo lancerà un invito a presentare nuove proposte.
