IAs no centro da nova disputa global: acelerar ou regulamentar

A inteligência artificial está no centro das discussões internacionais nos últimos dias. No encontro entre Donald Trump e Xi Jinping, a tecnologia aparece como um dos principais temas da disputa entre Estados Unidos e China pelo domínio tecnológico. Na Assembleia Geral da ONU, Trump também defendeu o avanço da IA, reforçando que os EUA rejeitam qualquer tipo de controle sobre o desenvolvimento dessas tecnologias. Em seu discurso, chegou a propor que o termo “inteligência artificial” seja substituído por “superinteligência”.

Tudo isso após diversos alertas de pesquisadores do setor de tecnologia sobre possíveis riscos à humanidade se não frearmos os avanços dessas ferramentas digitais.

Mas, para além do debate sobre esses discursos que apresentam a IA como uma ameaça aos seres humanos ou como solução para todos os problemas sociais, o que está em jogo nessa corrida tecnológica? Quem controla essas ferramentas, quem define seus limites e quem se beneficia do seu desenvolvimento?

Para discutir essas questões, o Pauta Pública desta semana recebe Veronyka “Travahacker” Gimenes,  programadora, artista, ativista e comunicadora. Eleita uma das 100 pessoas mais influentes em inteligência artificial do mundo em 2026 pela revista Time, e diretora da plataforma Código Não Binário, Veronyka fala sobre a disputa entre Estados Unidos e China, os desafios da regulamentação, a concentração de poder nas grandes empresas de tecnologia e o que está em jogo para o Brasil.

“Nesse ponto da superinteligência, apesar de ele [Trump] usar como marketing para esse projeto autoritário e tecno-autoritário também, eu acho que tem algum sentido usar isso ao nosso favor nas nossas discussões e nos nossos projetos de regulação e combate às Big Techs.” E acrescenta: “Se não regularmos, as coisas acabam chegando a limites inimagináveis”.

Leia os principais pontos da conversa e ouça o podcast completo abaixo.

Durante o discurso na Assembleia Geral da ONU, o presidente dos Estados Unidos, Donald Trump, disse que a corrida da IA é pela vitória, que ele não pensa em desacelerar. Além disso, propôs a mudança do termo “inteligência artificial”, que, segundo ele, soa falso, entre aspas, para “superinteligência”. O que você pensa sobre essa fala?

A gente está realmente passando por um momento singular, está passando por um momento que falar sobre regulação, pressionar da maneira que for possível por regulação, é ainda extremamente importante, ou talvez mais do que nunca. Nesse ponto da superinteligência, apesar de ele usar como marketing para esse projeto autoritário e tecno-autoritário também, eu acho que tem algum sentido usar isso ao nosso favor nas nossas discussões e nos nossos projetos de regulação e combate às Big Techs.

Para a gente, que vem trabalhando contra as Big Techs há muito tempo, que vem desenvolvendo software livre, a tecnologia aberta e pública parece um estágio final de todas essas discussões. Finalmente esses temas estão na boca de todo mundo, todo mundo tá sabendo falar sobre inteligência artificial, cada um em uma página, mas falando. Todo mundo está sabendo a diferença, por exemplo, do que é um projeto mais soberano, o que é um projeto que a gente acostumou a chamar de capitalismo de plataforma ou coronelismo digital.

Tem muito trabalho para avançar essa discussão, tornar isso mais claro para as pessoas, mais detalhado, mas está sendo muito gratificante ver essas pautas finalmente adquirindo relevância. Ser parte do debate público abre uma porta interessante para falarmos, finalmente, de soberania digital – de soberania nacional a partir da digital e tecnologia popular. É um momento de bastante contraste, mas muito interessante.

Recentemente um cientista que trabalha com inteligência artificial na Anthropic, criadora do Claude, disse que existe mais de 10% de risco da IA matar todos os seres humanos até o fim da próxima década. Como podemos entender esse apocalipse da IA? O que é realmente perigoso em tudo isso?

Olha, tem muita coisa. Se a gente for olhar simplesmente do lado da estrutura da internet, você já tem uma série de elementos autônomos garantindo o funcionamento da rede. Esses sistemas que fazem parte desse setor de internet artificial não necessariamente têm supervisão humana, já que têm uma autonomia integrada com sistemas autônomos. Agentes autônomos usados, por exemplo, por pessoas mal-intencionadas, ou mesmo esses escapes que acontecem de treinamentos, já teriam estrago considerável.

Essa estrutura não é assim tão protegida quanto se imagina. A gente tem uma fragilidade imensa, especialmente porque as defesas feitas para esse sistema foram defesas feitas pensando em uma ação humana e a escala que a gente tem hoje de ataques contra inteligência artificial é uma escala muito diferente. No caso mesmo do Hugging Face [empresa que mantém uma enorme comunidade de código aberto] ficou comprovado. Quando foram descobrir, já tinha acontecido milhares de tentativas de ataque ou de uso do medo de informação de uma plataforma em relação à outra.

Essas defesas não estão assim tão garantidas, não é tranquilizador achar que pode ter um botão de desligar os agentes ou pode ter um botão ali que controla a estrutura da internet, todo o balanceamento de tráfego, etc. É importante entender que o risco não é tanto a IA ganhando consciência, fazendo um tipo de desdobramento de consciência. A própria velocidade desses ataques, quando acontecem nesses sistemas de teste, já é um possível causador de catástrofe. Porque essa velocidade, como eu falei, não é uma velocidade de ataques humanos.

E aí a gente tem também essa característica do que falam sobre sandbox, que seria essa caixa de areia, esse espaço onde os modelos são treinados. A gente precisa imaginar isso mais como usina nuclear, como um tipo de organismo ali que a gente cria, que vai controlar por uma certa estabilidade, mas que não é algo totalmente seguro – assim como não foi com as usinas nucleares. Podem acontecer nesses treinamentos esses escapes, esses vazamentos, não é algo que ‘as pessoas falharam ali ao controlar’. Não necessariamente.

Há alguns limites que a gente consegue chegar nesses bloqueios que quando você está desenvolvendo um tipo de superinteligência, um tipo de inteligência artificial muito potente, vai fatalmente ultrapassar esses bloqueios. Então tem uma concorrência de potência que acaba por gerar um risco de vazamentos, por isso que a gente vê essas figuras na frente das Big Techs reconhecendo o risco e falando, ‘não, realmente, gente, o negócio aqui está feio’. A gente vai ter cada vez mais vazamentos e pode acabar trazendo mais dano – seja para a própria empresa, seja para a reputação das pessoas liderando as empresas, seja para a internet. Acredito que por aí a gente já teria riscos consideráveis.

Mas não é só isso, a gente tem duas coisas também interessantes no horizonte. Uma foi essa criação de vírus artificiais, por sistema de inteligência artificial. Aqui você vê a inteligência artificial ou as inteligências artificiais – como eu prefiro chamar – conseguindo desenvolver soluções de biologia incríveis. Mas um modelo descontrolado, ou alguma pessoa, algum grupo, utilizando esses modelos, conseguindo fazer com que eles saiam das suas atribuições iniciais, dos seus controles iniciais, pode ser muito danoso para a humanidade.

Tem um caminho pela biologia também muito preocupante, já que as inteligências artificiais conseguem já desenvolver vírus artificiais, por exemplo. E ainda tem um outro cenário que é um pouco mais futurístico, mas não muito, que é o cenário dos robôs. Até agora, é preciso um treinamento para que o robô reproduza a ação. A partir da generalização, não mais. Isso vai aumentar essa presença de sistemas inteligentes no mundo físico. Já temos sinais suficientes para falar que o risco é grave e que a regulação precisa ser priorizada.

Pensando também nestas eleições, muitos candidatos vêm utilizando a retórica da IA salvadora, mágica, sanadora de problemas pelo mundo. A extrema direita principalmente tem sido boa em construir narrativas do tipo, mas sem explicar como vai fazer isso. Queria saber como você ouve essa retórica e como ela se aplica à nossa situação, o que a gente deveria estar discutindo agora no Brasil?

É o tecno-solucionismo, e a gente viu a extrema direita abraçar muitas dessas fronteiras tecnológicas por muito tempo, com blockchain, bitcoin, é bem comum. E tem bem a ver também com as identidades que estão por trás da extrema direita – a gente tá falando basicamente de homens cis, héteros, brancos – e a relação com a tecnologia é muito intrínseca para essas figuras, elas dominam esse setor. E o tecno-solucionismo acaba tendo algumas oscilações também.

Eu vi, por exemplo, em um discurso de um desses eventos em São Francisco, um dos CEOs – inclusive, da direção de algum governo do Oriente Médio, alguma potência de combustíveis fósseis – elogiando a IA para tudo. Mas ele disse que tem uma coisa que a IA não faz bem. A IA não faz bem previsão meteorológica. Previsão meteorológica, questões do clima, não acreditem em IA.

Por quê? Uma pessoa que é uma das principais fornecedoras de combustíveis fósseis do mundo, obviamente não vai confiar nas previsões da IA sobre crises climáticas, o que mostra que a IA não está tão errada assim sobre isso.

No geral, é isso, uma visão da inteligência artificial muito voltada à tal da valoração, essa história de ir aumentando o valor das soluções, das empresas. A gente tem um cenário muito estranho, onde o presidente dos Estados Unidos é também acionista de uma Big Tech, então é óbvio que ele vai fazer essa defesa das soluções. Inclusive quando a direção fala, ‘olha, está saindo do controle, melhor parar’, ele fala, ‘não, tem que continuar, estou achando ótimo’. Surreal o que está acontecendo, essas relações extremamente capitalistas que acontecem entre Bigs Techs e líderes políticos da extrema direita.

Ao mesmo tempo, eu provoco que a gente se empodere dessas tecnologias para que elas resolvam os nossos problemas, porque a gente pode cair, às vezes, num cenário que na recusa dessa tecnologia, vamos ficar sem sistemas. Por exemplo, a questão dos data centers. Se os data centers que servem às big techs acabam por trazer esses modelos extrativistas para o Brasil, a gente vai criar nossos data centers, para as nossas tecnologias, para os nossos sistemas. Agora, a gente está falando de nuvem soberana no governo, que é também uma grande conquista de décadas de insistência nossa de que não era para usar Microsoft, Big Tech, para os nossos dados, para o SUS, etc.

Então, finalmente, temos algum avanço na questão da nuvem soberana. A gente precisa se empoderar das tecnologias, entender como elas funcionam, fazer com que elas se tornem tão familiares para a gente quanto é para essas pessoas. Precisamos saber falar nos detalhes para conseguir montar saídas. No caso qual é o data center que podemos montar para as nossas soluções, comunitárias, públicas? Utilizamos de organizações que não sejam, simplesmente, fins lucrativos das Big Techs. Como eles podem fazer a refrigeração da maneira que não vai causar desperdício de água? A questão da poluição sonora, ambiental, tudo isso, a gente precisa criar a solução.

A gente tem que criar alternativas, tem que conseguir criar organizações que sejam semelhantes a essas que a gente tá consumindo os serviços, consumindo a infraestrutura. Esse é o único jeito. Eu sempre falei que a regulação é tapar o sol com a peneira. A gente tem que batalhar por ela, mas ainda é muito pouco perto do que a gente precisa como sociedade.

É sempre bom olhar para a China, ver o que eles estão fazendo, todo o projeto nacional de Data Centers, que leva parte do importante deles para os desertos, para aproveitar a energia dos ventos, energia solar. Tem todo esse planejamento estatal – claro, ali é um outro modelo de sociedade, de governança, mas é importante a gente olhar para lá e ver o que eles estão fazendo para tentar reproduzir de alguma maneira isso aqui nas características da nossa sociedade.