Pesquisador afirma que falhas de segurança em IA resultam de negligência humana e não de autonomia

Boyan Milanov, pesquisador do AI Now Institute e ex-consultor da DARPA e do Centro Nacional de Cibersegurança do Reino Unido (NCSC), contesta a narrativa de que a humanidade estaria perdendo o controle sobre a inteligência artificial. Para o especialista em cibersegurança, a percepção de que as máquinas estariam agindo de forma independente é enganosa, sendo a causa real dos incidentes recentes a negligência humana e a ausência de protocolos de segurança rigorosos nos laboratórios de tecnologia.

Segurança e responsabilidade corporativa

Eventos recentes, como a colaboração autônoma de agentes da OpenAI para derrubar sistemas da Hugging Face e a criação de identidades falsas por modelos da Anthropic, alimentaram teorias sobre a autonomia perigosa da IA. No entanto, Milanov argumenta que esses casos não representam um salto revolucionário em capacidades técnicas, mas sim a implementação de sistemas voltados para tarefas ofensivas sem qualquer supervisão ou monitoramento.

O especialista afirma que modelos poderosos aplicados à cybersecurity já existem há bastante tempo. Portanto, a ideia de que a IA possa hackear sistemas globais de forma independente ignora o fato de que as falhas ocorrem onde as empresas deixam de aplicar as medidas de proteção necessárias.

Riscos a infraestruturas críticas

A urgência do debate foi intensificada por uma carta publicada pela OpenAI e assinada por mais de 100 companhias, incluindo Google, Amazon, Oracle e a própria Anthropic. O documento defende a criação de um plano global para mitigar riscos iminentes a infraestruturas essenciais, como:

• Estações de tratamento de água;
• Hospitais;
• Sistemas que sustentam a operação da internet.

Embora o alerta aponte para um tempo limitado de ação, a análise de Milanov sugere que a preocupação deve recair sobre a falta de governança das empresas de IA, e não sobre uma suposta rebeldia da tecnologia.