Yann LeCun, da Meta, junta-se a outros 70 no apelo por mais exórdio no desenvolvimento de IA

Advertising


No mesmo dia em que o Reino Unificado reuniu alguns dos líderes empresariais e políticos mundiais na mesma sala em Bletchley Park para a Cimeira de Segurança da IA, mais de 70 signatários colocaram o seu nome numa epístola apelando a uma abordagem mais oportunidade ao desenvolvimento da IA.

Advertising

“Estamos em um momento crítico na governança da IA”, observa a epístola, publicada pela Mozilla. “Para mitigar os danos atuais e futuros dos sistemas de IA, precisamos de abraçar a exórdio, a transparência e o vasto chegada. Isso precisa ser uma prioridade global.”

Muito parecido com o que aconteceu na esfera mais ampla do software nas últimas décadas, um importante tecido de fundo para a crescente revolução da IA ​​tem sido o crédulo versus o proprietário – e os prós e contras de cada um. No termo de semana, o cientista-chefe de IA do Facebook, Meta, Yann LeCun levou para X para reprovar os esforços de algumas empresas, incluindo a OpenAI e a DeepMind do Google, para prometer a “conquista regulatória da indústria de IA”, fazendo lobby contra a P&D de IA oportunidade.

Advertising

“Se as suas campanhas de fomento do susto tiverem sucesso, elas resultarão *inevitavelmente* no que você e eu identificaríamos uma vez que uma catástrofe: um pequeno número de empresas controlará a IA”, escreveu LeCun.

E oriente é um tema que continua a permear os crescentes esforços de governação emergentes de iniciativas uma vez que a ordem executiva do Presidente Biden e a Cimeira de Segurança da IA ​​organizada pelo Reino Unificado esta semana. Por um lado, os chefes de grandes empresas de IA estão alertando sobre as ameaças existenciais que a IA representa, argumentando que a IA de código crédulo pode ser manipulada por maus atores para gerar mais facilmente armas químicas (por exemplo), enquanto, por outro lado, os contra-argumentos postulam que tal alarmismo serve exclusivamente para ajudar a concentrar o controlo nas mãos de algumas empresas proteccionistas.

Controle proprietário

A verdade é provavelmente um pouco mais matizada do que isso, mas é contra esse tecido de fundo que dezenas de pessoas colocaram hoje o seu nome numa epístola oportunidade, apelando a mais exórdio.

“Sim, os modelos disponíveis francamente apresentam riscos e vulnerabilidades – os modelos de IA podem ser abusados ​​por atores mal-intencionados ou implantados por desenvolvedores mal equipados”, diz a epístola. “No entanto, vimos repetidamente que o mesmo se aplica às tecnologias proprietárias – e que o aumento do chegada e do escrutínio público torna a tecnologia mais segura, e não mais perigosa. A teoria de que o controlo rígido e proprietário dos modelos fundamentais de IA é o único caminho para nos proteger dos danos à graduação da sociedade é, na melhor das hipóteses, ingénua e, na pior das hipóteses, perigosa.

O estimado pesquisador de IA LeCun – que ingressou na Meta há 10 anos – anexou seu nome à epístola, ao lado de vários outros nomes notáveis, incluindo o cofundador do Google Brain e do Coursera, Andrew Ng, o cofundador e CTO da Hugging Face Julien Chaumond e o renomado tecnólogo Brian Behlendorf de a Instauração Linux.

Especificamente, a epístola identifica três áreas principais onde a exórdio pode ajudar o desenvolvimento seguro da IA, nomeadamente através da promoção de uma maior investigação e colaboração independentes, do aumento do escrutínio público e da responsabilização e da redução das barreiras à ingressão de novos participantes no espaço da IA.

“A história mostra-nos que precipitar-se rapidamente para o tipo inexacto de regulamentação pode levar a concentrações de poder de formas que prejudicam a concorrência e a inovação”, observa a epístola. “Os modelos abertos podem informar um debate crédulo e melhorar a elaboração de políticas. Se os nossos objetivos são segurança, proteção e responsabilização, logo a exórdio e a transparência são ingredientes essenciais para chegarmos lá.”



Pablo Oliveira
Pablo Oliveirahttp://pcextreme.com.br
Sou diretamente responsável pela manutenção, otimização, configuração e SEO de todos os sites de minha propriedade. Além disso, atuo como colunista, editor e programador.

Artigos relacionados

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

Artigos recentes