Titãs de IA jogam um (minúsculo) osso para pesquisadores de segurança de IA

Advertising


O Frontier Model Forum, um órgão da indústria focado no estudo de modelos de IA de “fronteira” nos moldes de GPT-4 e ChatGPT, anunciou hoje que prometerá US$ 10 milhões para um novo fundo para prosseguir na pesquisa de ferramentas para “testar e determinar o modelos de IA mais capazes.”

Advertising

O fundo, diz o Frontier Model Forum – cujos membros incluem Anthropic, Google, Microsoft e OpenAI – apoiará pesquisadores afiliados a instituições acadêmicas, instituições de pesquisa e startups, com financiamento inicial vindo do Frontier Model Forum e de seus parceiros filantrópicos, o Instauração Patrick J. McGovern, Instauração David e Lucile Packard, o ex-CEO do Google Eric Schmidt e o bilionário estoniano Jaan Tallinn.

O fundo será governado pelo Meridian Institute, uma organização sem fins lucrativos com sede em Washington, DC, que lançará um invitação para um número indeterminado de propostas “nos próximos meses”, afirma o Frontier Model Forum. O trabalho do Instituto será bravo por um comitê consultivo de especialistas externos, especialistas de empresas de IA e “indivíduos com experiência em doações”, acrescentou o Frontier Model Forum – sem especificar quem são exatamente esses especialistas e indivíduos ou o tamanho do comitê consultivo em pergunta.

Advertising

“Esperamos contribuições adicionais de outros parceiros”, diz um transmitido de prensa divulgado pelo Frontier Model Forum em vários blogs oficiais. “O foco principal do fundo será estribar o desenvolvimento de novas avaliações e técnicas de modelos… para ajudar a desenvolver e testar técnicas de avaliação para capacidades potencialmente perigosas de sistemas fronteiriços.”

Na verdade, US$ 10 milhões não são trocos. (Mais precisamente, são US$ 10 milhões em promessas — A Instauração David e Lucile Packard ainda não se comprometeu formalmente com financiamento.) Mas no contexto da pesquisa de segurança de IA, parece bastante, muito, conservador – pelo menos em verificação com o que os membros do The Frontier Model Forum gastaram em seus empreendimentos comerciais.

Só neste ano, a Anthropic arrecadou bilhões de dólares da Amazon para desenvolver um assistente de IA de última geração, posteriormente um investimento de US$ 300 do Google. A Microsoft prometeu US$ 10 bilhões para a OpenAI, e a OpenAI – cuja receita anual é muito superior a US$ 1 bilhão – está supostamente em negociações para vender ações em um movimento que aumentaria sua avaliação para até US$ 90 bilhões.

O fundo também é pequeno em verificação com outras subvenções para segurança de IA.

A Open Philanthropy, instalação de pesquisa e licença de subsídios cofundada pelo fundador do Facebook, Dustin Moskovitz, doou muro de US$ 307 milhões para segurança de IA, de negócio com uma estudo do blog Less Wrong. A empresa de utilidade pública The Survival and Flourishing Fund – fornecida principalmente por Tallinn – doou muro de 30 milhões de dólares para projetos de segurança de IA. E a Instauração Pátrio de Ciência dos EUA disse que gastará 20 milhões de dólares em investigação de segurança da IA ​​ao longo dos próximos dois anos, apoiada em secção por subvenções da Filantropia Ensejo.

Os pesquisadores de segurança de IA não treinarão necessariamente modelos de nível GPT-4 do zero. Mas mesmo modelos menores e menos capazes que eles desejassem testar seriam caros para desenvolver com o hardware atual, variando em dispêndio de centenas de milhares de dólares a milhões. Isso não leva em consideração outras despesas gerais, uma vez que os salários a serem pagos aos pesquisadores. (Cientistas de dados não são baratos.)

O Frontier Model Forum avalancha a um fundo maior no porvir. Se isso se concretizar, será pode somente temos a chance de mudar o rumo da pesquisa de segurança de IA – se quisermos encarregar que os financiadores decididamente com fins lucrativos do fundo se absterão de treinar influência indevida sobre a pesquisa. Mas não importa uma vez que você a divida, a parcela inicial parece limitada demais para realizar muito.

Pablo Oliveira
Pablo Oliveirahttp://pcextreme.com.br
Sou diretamente responsável pela manutenção, otimização, configuração e SEO de todos os sites de minha propriedade. Além disso, atuo como colunista, editor e programador.

Artigos relacionados

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

Artigos recentes