O cofundador da DeepMind está cansado de ‘percepções instintivas’ sobre IA

PUBLICIDADE


PUBLICIDADE

VentureBeat apresenta: AI Unleashed – Um evento executivo restrito para líderes de dados corporativos. Faça networking e aprenda com colegas do setor. Saber mais


No mês pretérito, Mustafa Suleyman tem feito rondas para promover seu recente livro A vaga que se aproxima: tecnologia, poder e o maior dilema do século XXI.

PUBLICIDADE

Suleyman, o cofundador da DeepMind que agora é cofundador e CEO da Inflection AI (que disparou fogos de artifício em junho por seu financiamento de US$ 1,3 bilhão), pode razoavelmente ter falado tudo depois de uma série de entrevistas sobre seus avisos sobre riscos “sem precedentes” de IA e porquê eles podem ser contidos. Ainda assim, ele respondeu recentemente a uma série de perguntas do VentureBeat sobre tudo, desde o que ele realmente se preocupa quando se trata de IA e suas ferramentas de IA favoritas. Notavelmente, ele criticou o que considera “atitudes instintivas em torno da IA” e a vibração de “enviado à prelo hiperventilante” da IA ​​Twitter/X.

Esta entrevista foi editada e condensada para maior transparência.

VentureBeat: Você fala muito sobre os riscos potenciais da IA, incluindo aqueles que podem ser catastróficos. Mas quais são os cenários mais idiotas que você já ouviu as pessoas inventarem sobre os riscos da IA? Aquelas que você simplesmente não acha que são preocupantes ou que são simplesmente falsas ou improváveis?

PUBLICIDADE

Evento

IA liberada

Uma noite exclusiva de insights e networking, somente para convidados, projetada para executivos corporativos seniores que supervisionam estratégias e pilhas de dados.

Saber mais

Mustafá Suleiman: A IA é genuinamente transformadora, uma tecnologia histórica que está a evoluir tão rapidamente, com implicações tão amplas que gera naturalmente um manifesto nível de especulação, principalmente em alguns dos cenários mais sombrios em torno da “superinteligência”. Mal você começa a falar nesses termos, você entra em áreas inerentemente extremas e incertas. Embora eu não ache que essas sejam as preocupações mais urgentes e possam ser exageradas, hesitaria em invocar alguém de truão quando tanta coisa é tão desconhecida. Alguns destes riscos podem estar distantes, podem ser pequenos, talvez até improváveis, mas é melhor tratar tecnologias poderosas e ainda exclusivamente parcialmente compreendidas com um manifesto intensidade de sobreaviso do que descartar completamente os seus riscos. Minha abordagem é ter desvelo ao concordar qualquer narrativa sobre IA, mas também manter incessantemente a mente oportunidade.

VentureBeat: Por outro lado, qual é o maior risco de IA que você acha que as pessoas subestimam? E porque?

Suleiman: Muitas pessoas estão pensando sobre os riscos extremos que você mencionou supra, e muitas estão abordando os danos atuais, porquê o viés algorítmico. O que falta é toda uma estrato intermediária de risco que surgirá nos próximos anos. Todo mundo perdeu isso, mas é absolutamente crítico. Pense assim. A IA é provavelmente o maior amplificador de força da história. Isso ajudará qualquer pessoa a atingir seus objetivos. Na maior segmento, isso será ótimo; esteja você lançando um negócio ou exclusivamente tentando controlar sua caixa de ingresso, fazer isso será muito, muito mais fácil. A desvantagem é que isto se estende aos maus actores… Uma vez que a IA irá proliferar em todo o lado, eles também serão capacitados, capazes de inferir tudo o que quiserem. Não é preciso muita imaginação para ver porquê isso pode dar falso. Impedir que isto aconteça, contendo a IA, é um dos maiores desafios da tecnologia.

VentureBeat: Você acha que se não morasse em Palo Supino, no meio de tantas pessoas no Vale do Silício preocupadas com as mesmas coisas, estaria tão preocupado com os riscos da IA ​​quanto está agora?

Suleiman: Sim absolutamente. Eu estava preocupado com essas coisas em Londres há quase 15 anos, quando elas eram, na melhor das hipóteses, tópicos marginais para um pequeno grupo de acadêmicos!

VentureBeat: Você foi cofundador da DeepMind em 2010. O que você pensava naquela estação sobre os riscos da IA, muito porquê sobre as possibilidades emocionantes?

Suleiman: Para mim os riscos e as oportunidades sempre existiram lado a lado, desde o início do meu trabalho em IA. Ver um paisagem sem ver o outro significa ter uma perspectiva errada. Compreender a tecnologia significa mourejar com os seus impactos contraditórios. Ao longo da história, as tecnologias sempre trouxeram aspectos positivos e negativos e é estreito e míope exclusivamente enfatizar um ou outro. Embora, no conjunto, eu pense que tenham sido um resultado positivo para a humanidade, sempre houve desvantagens, desde a perda de empregos na sequência da revolução industrial até às guerras religiosas na sequência da prelo. Tecnologias são ferramentas e armas. Provavelmente melhoramos muito, porquê sociedade, ao pensar sobre essas desvantagens nos últimos dez anos ou mais. A tecnologia não é mais vista porquê um caminho automático para um horizonte luminoso e luminoso, e isso é manifesto. O outro lado é que podemos estar a perder de vista os benefícios, concentrando-nos tanto nos danos que não percebemos o quanto isso nos poderia ajudar. No universal, acredito piamente em ser precatado e priorizar a segurança e, portanto, acolho uma visão mais completa e sátira. Mas é definitivamente vital manter ambos em mente.

VentureBeat: Tem havido um excitação aparentemente interminável em torno da IA ​​generativa desde o lançamento do ChatGPT em novembro de 2022. Se houvesse um concepção exagerado que você ficaria feliz em nunca mais ouvir, qual seria?

Suleiman: Não vou perder muitas das cenas ruins em torno da IA. Uma das desvantagens de todo esse hype é que as pessoas assumem que é exclusivamente excesso, que não há substância por ordinário. Passe o dia todo no Twitter/X e o mundo parecerá um enviado de prelo hiperventilante. A espuma infinita obscurece o que realmente está acontecendo, por mais significativo que seja. Mal ultrapassarmos a período de hype, penso que o verdadeiro feitio revolucionário desta tecnologia será mais aparente, e não menos.

VentureBeat: Estamos todos cativados pelas conversas que acontecem no Capitólio sobre IA. Uma vez que é realmente discutir esses temas com os legisladores? Quem você considera mais muito informado? Uma vez que você preenche a vazio entre os formuladores de políticas e o pessoal da tecnologia?

Suleiman: Com o tempo, tornou-se muito, muito mais fácil. Embora há alguns anos detrás fosse uma tarefa difícil conseguir que os legisladores levassem isto a sério, agora eles estão a agir rapidamente para se envolverem. Tornou-se tão evidente para eles, porquê para todos os outros, que isso está acontecendo, a IA é inevitável, está se movendo rapidamente e há enormes lacunas regulatórias. Em DC e em outros lugares, há um libido real de aprender sobre IA, de permanecer recluso e tentar fazê-la funcionar. Assim, em universal, a conversa regulamentar está muito mais avançada do que alguma vez esteve no pretérito. A vazio sempre ocorre devido à incompatibilidade de prazos. A IA está melhorando a um ritmo nunca visto antes com qualquer tecnologia anterior. Os modelos atuais são nove ordens de magnitude maiores do que os de uma dez detrás – isso está além até mesmo da Lei de Moore. A política necessariamente avança no mesmo ritmo de sempre, sujeita, porquê sempre, aos incentivos quebrados do ciclo mediático. É impossível que a legislação em instituições geralmente lentas acompanhe a evolução e, até à data, ninguém conseguiu contornar esta situação de forma eficiente. Estou extremamente interessado em formas ou instituições que possam colmatar isto. Assista esse espaço!

VentureBeat: Além do Pi, qual é a sua utensílio de IA favorita no momento? Você usa qualquer dos geradores de imagens?

Suleiman: Eu uso praticamente todas as ferramentas de IA populares que existem, principalmente para pesquisa… O que eu destacaria não são necessariamente produtos de consumo individuais, mas a IA que você não vê, a forma porquê a IA está se incorporando em todos os lugares: na digitalização de imagens médicas, rotear a pujança de forma mais eficiente em data centers e em redes, na organização de armazéns e em uma infinidade de outros usos que funcionam nos bastidores. A IA é mais do que exclusivamente geradores de imagens e chatbots, por mais extraordinários que possam ser.

VentureBeat: Você fala sobre a Coming Wave, mas você já surfou?

Suleiman: Eu tenho! Não que eu possa declarar que sou bom… Sou mais um surfista metafórico!

VentureBeat: Você atua na política de IA há anos e obviamente passa muito tempo pensando em porquê as empresas e os governos podem aproveitar a vaga que está por vir. Mas obviamente para todos nós isso traz alguma sofreguidão. Quais são suas estratégias pessoais para mourejar com o estresse e a sofreguidão relacionados à IA ou à tecnologia em relação ao horizonte?

Suleiman: É uma pergunta muito boa e um ponto importante. Pode parecer completamente opressor, até paralisante. Há duas coisas que eu diria a alguém cá. A primeira é que, embora a IA possa suscitar problemas, ela também ajudará a resolver muitos deles. As alterações climáticas, a paralisação da esperança de vida, o abrandecimento do desenvolvimento parcimonioso, as pressões de um abrandecimento demográfico… O século XXI tem a sua quota-parte de desafios de estação e precisamos de novas ferramentas para os enfrentar. Eu nunca diria que a IA sozinha pode fazer isso. É tão eficiente quanto o seu contexto e uso, mas também acho que enfrentá-los sem um pouco porquê IA é muito, muito mais difícil. Mais uma vez, vamos lembrar os dois lados cá, as preocupações, mas também os benefícios.

Em segundo lugar, muitas pessoas estão inclinadas ao que chamo de aversão ao pessimismo, a reacção dominante das elites a cenários porquê a IA. Eles levam em conta as desvantagens, mas rapidamente as ignoram, desviam o olhar de onde isso pode levar e continuam porquê se tudo estivesse muito. Não é doomerismo, mas uma espécie de ignorância premeditado ou mundo de sonho. Esta é uma base terrível para o horizonte! Precisamos enfrentar questões difíceis. A sofreguidão pode ser um sinal importante cá. A única maneira de fazer tudo isso funcionar é seguindo as implicações onde quer que elas nos levem. Não é um lugar fácil de se estar, mas é melhor ver com transparência e ter a chance de fazer a diferença do que olhar para o outro lado. Acho que a melhor trato para isso é trabalhar para edificar ativamente uma tecnologia contida e não permanecer à margem.

A missão da VentureBeat é ser uma rossio do dedo para os tomadores de decisões técnicas obterem conhecimento sobre tecnologia empresarial transformadora e realizarem transações. Conheça nossos Briefings.

Pablo Oliveira
Pablo Oliveirahttp://pcextreme.com.br
Sou diretamente responsável pela manutenção, otimização, configuração e SEO de todos os sites de minha propriedade. Além disso, atuo como colunista, editor e programador.

Artigos relacionados

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

Artigos recentes