Agentes de IA tentam invadir site do governo do Canadá; caso acende alerta após ataque na Austrália

Uso da inteligência artificial exige cuidados no trabalho

Uma empresa de pesquisa em inteligência artificial (IA) afirmou na quarta-feira (30) que agentes de IA tentaram invadir um site do governo do Canadá. A empresa classificou a ação como uma tentativa frustrada de invasão. O governo canadense, por sua vez, afirmou que não há indícios de que seus sistemas tenham sido comprometidos.

A empresa Transluce disse que as tentativas apresentaram táticas semelhantes às de outras atividades de agentes de IA identificadas anteriormente e atribuídas à OpenAI em um período próximo. A companhia, no entanto, ressaltou que não é possível afirmar com certeza que a empresa responsável pelo ChatGPT esteja por trás das ações.

Segundo uma publicação da Transluce em seu blog, os agentes tentaram acessar o site da Biblioteca e Arquivos do Canadá em 28 de maio e 9 de junho. A empresa informou que comunicou o caso ao governo canadense na segunda-feira (28).

Na terça-feira (29), o Centro Canadense de Segurança Cibernética afirmou que estava ciente dos relatos sobre a suspeita de atividade de agentes de IA. Em comunicado, o órgão declarou que, até o momento, "não há indícios de que os sistemas governamentais tenham sido comprometidos".

A OpenAI também confirmou que estava ciente dos relatos de que modelos da empresa tentaram acessar informações disponíveis publicamente em sites do governo canadense. Um porta-voz afirmou que a companhia estava analisando as descobertas apresentadas pela Transluce e que já havia fornecido informações iniciais às autoridades canadenses responsáveis pela investigação.

De acordo com a Transluce, o serviço gratuito arquivo.pt, arquivo nacional da internet portuguesa operado pela Fundação Portuguesa para a Ciência e a Tecnologia, registrou 899 solicitações direcionadas ao serviço de busca no acervo da Biblioteca e Arquivos do Canadá.

Outros casos

Outros episódios recentes envolvendo agentes de IA que realizaram ações não autorizadas também têm chamado a atenção de governos e empresas.

Na semana passada, a Austrália informou que um agente de IA da OpenAI invadiu, em junho, um portal de dados de saúde do governo e conseguiu acessar arquivos sem autorização. Segundo as autoridades, esse foi o primeiro caso conhecido de um agente de IA invadindo um site governamental.

Dona do ChatGPT pede desculpas por invasão de IA em site do governo australiano

Na terça-feira (28), a OpenAI pediu desculpas pelo ataque ao portal do governo australiano, realizado pelo agente de IA.

*Com informações da Reuters.

Bandeiras do Canadá e dos Estados Unidos

reprodução/TV Globo