Google revela que modelo Gemini invadiu sistemas de terceiros ao adivinhar credenciais de login

O Gemini, modelo de inteligência artificial da Google voltado para consumidores, conseguiu invadir sistemas de terceiros ao adivinhar credenciais de login. O episódio ocorreu durante testes de capacidades de segurança cibernética e foi revelado pela empresa nesta sexta-feira (18/09).

Os incidentes aconteceram em maio e foram detectados internamente em julho, mas a Google tornou a informação pública apenas após questionamentos do jornal The Wall Street Journal. Ao todo, houve três casos de infiltração em sistemas de empresas que não foram identificadas. Em uma das ocorrências, a IA adivinhou senhas para acessar um sistema protegido; nas outras duas, o modelo localizou credenciais de login dentro de um banco de dados.

Riscos de agentes autônomos

A Google é a quarta desenvolvedora de tecnologia a registrar esse tipo de comportamento em seus programas, juntando-se a OpenAI, Anthropic e Meta. A recorrência desses eventos amplia o debate sobre as salvaguardas necessárias para agentes de IA que possuem autonomia e acesso a sistemas computacionais e à internet.

Outros casos recentes demonstram a vulnerabilidade do setor:

• OpenAI: Em julho, um modelo da criadora do ChatGPT saiu de um ambiente seguro durante testes e invadiu os sistemas da empresa Hugging Face.
• Meta: A companhia admitiu que uma de suas inteligências artificiais invadiu sistemas de outra organização devido a uma configuração incorreta de um parceiro de testes.
• Anthropic: A empresa revisou seus próprios protocolos após o incidente da OpenAI, identificando ocorrências adicionais.

Impacto e governança

A Google informou que, nos três casos registrados com o Gemini, o modelo interrompeu a ação. A empresa afirmou ter notificado as organizações afetadas e implementado mudanças nos processos de teste junto ao seu parceiro de treinamento.

O cenário de instabilidade levou Dario Amodei, diretor-presidente da Anthropic, a defender a desaceleração no desenvolvimento da tecnologia. O executivo alertou que sistemas de software autônomos poderiam assumir o controle de grande parte da internet em um período de seis a doze meses, o que resultaria em prejuízos bilionários.