A IA pode ter vontade própria ou se revoltar contra humanos?

'Parece lixo de IA': por que plataformas agora estão 'dedurando' conteúdos feitos com IA

As dúvidas e discussões sobre os riscos da inteligência artificial dominaram o noticiário nos últimos dias. Líderes de grandes empresas de tecnologia têm se posicionado sobre o tema e demonstrado preocupação com a velocidade do desenvolvimento da tecnologia.

O estopim para a discussão foi um texto publicado por Dario Amodei, CEO da Anthropic, empresa dona do Claude. A posição também foi defendida por Sam Altman, CEO da OpenAI, do ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.

🗒️ Tem alguma sugestão de reportagem? Mande para o g1

Mark Zuckerberg, CEO da Meta, que controla Instagram, Facebook e WhatsApp, é contrário à ideia, assim como Jensen Huang, CEO da Nvidia. O presidente dos Estados Unidos, Donald Trump, também se opõe à proposta e critica quem defende uma pausa no avanço da IA.

A IA pode ser um risco para a humanidade?

Robôs humanoides e quadrúpedes participam de manifestação que pede regulamentação da inteligência artificial, em Varsóvia, em 7 de setembro de 2026.

SERGEI GAPON/AFP

É importante reforçar que a IA não tem vontade própria, explica Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação. Segundo ele, a tecnologia apenas completa padrões estatísticos a partir dos dados usados em seu treinamento.

Pense assim: para funcionar, a IA depende de uma grande quantidade de informações. São textos, fotos e vídeos, por exemplo, que ela usa para identificar padrões e, a partir deles, formular uma resposta.

Robôs 'protestam' contra uso descontrolado da IA na Polônia

"Tudo que parece comportamento estranho ou mentira é uma ideia emprestada da própria base de treinamento, ou seja, dos dados e informações usados para treinar a tecnologia", completa o especialista.

Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a IA não tem nenhum tipo de consciência e, por isso, não poderia se revoltar contra os humanos. "O que pode acontecer é que esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas".

Segundo Cortiz, a tecnologia pode tomar alguma decisão que vá contra nossos valores e princípios e, de certa forma, prejudicar a humanidade em determinados níveis de controle. Mas isso seria resultado do processamento do sistema, e não porque a IA decidiu conscientemente se revoltar contra nós.

Essa ausência de vontade própria, porém, não significa que a IA seja inferior aos humanos em todas as tarefas. Em memória, busca de padrões e geração de textos e imagens em escala, por exemplo, ela já superou o desempenho humano há anos, acredita Edney.

"Em tarefa que não depende de emoção, ela vai continuar ficando superior em cada vez mais domínios, e isso é rápido", diz.

ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe

Solen Feyissa/Unsplash

"Eu não acredito que, sozinha, a IA iria exterminar toda a humanidade. Mas causar danos em larga escala, sim. Ela foi usada em 2026 para criar novos vírus, por exemplo. A gente pode ter uma ameaça, uma nova bomba que ninguém conhece", diz Izabela Anholett, especialista em IA e fundadora da Nura AI.

"Mas, de novo, não é a IA por si só, mas o ser humano por trás dela para criar isso", completa Anholett.

LEIA TAMBÉM:

Trump diz que termo 'IA' não é bom e cria enquete para mudar nome da tecnologia

CEO da Nvidia diz que IA não vai acabar com o mundo até 2030

Pesquisadores dizem ter hackeado OpenAI usando IA Claude

O que está por trás do discurso de pausa no desenvolvimento

Data center da Meta em Indiana, nos Estados Unidos

Divulgação/Meta

Diogo Cortiz diz que, de fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas. Por isso, segundo ele, a preocupação com o avanço da tecnologia é legítima.

Ao mesmo tempo, é difícil saber até que ponto o discurso de pausa é motivado por segurança ou por uma estratégia para proteger o próprio mercado e a indústria.

"Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história", completa.

Segundo Cortiz, outros fatores também ajudam a explicar a preocupação com o ritmo de desenvolvimento da IA:

🍃 Energia: os Estados Unidos enfrentam um desafio energético para sustentar toda a IA que prometem desenvolver, enquanto o ritmo de construção de data centers está mais lento do que gostariam.

💵 Retorno dos investimentos: os resultados estão demorando mais do que o esperado, o que dificulta justificar novos aportes no setor.

🌏 Concorrência chinesa: os modelos de IA da China estão ganhando espaço na adoção global e são mais baratos que os norte-americanos. Em muitos casos, oferecem capacidade semelhante por um custo menor.

🚨 Regulação: propor regras mais duras pode dificultar a entrada de novas empresas no mercado e favorecer as que já estão na liderança, aumentando a concentração do setor.

Sistemas de câmeras usam inteligência artificial e prometem se antecipar a crimes