Bill Gates alerta que a inteligência artificial tornou os ataques cibernéticos um risco real e imediato

Bill Gates alerta que a inteligência artificial já transformou a ameaça de ataques cibernéticos em um risco real e imediato, afastando a ideia de que tais perigos sejam apenas cenários hipotéticos para o futuro. Em conversa com Ezra Klein, para o The New York Times, o cofundador da Microsoft enfatizou que as ferramentas atuais já possuem a capacidade técnica para provocar danos severos, como a interrupção de redes elétricas e a alteração de contas bancárias.

Vulnerabilidades e a escala do software

A preocupação de Gates não reside na criação de sistemas autônomos ou conscientes, mas no uso malicioso de modelos existentes por agentes humanos. O empresário relatou ter observado capacidades impressionantes de ataques cibernéticos em modelos da Anthropic.

Para mitigar esses riscos, foi concebido o Project Glasswing, iniciativa que visa reunir um grupo restrito de especialistas para localizar e corrigir falhas antes que sejam exploradas. No entanto, Gates aponta que a eficácia dessa medida é limitada pelo volume massivo de código de software existente, que excede a capacidade de supervisão humana, colocando o ecossistema tecnológico em um estado de extrema vulnerabilidade.

Supervisão de modelos e código aberto

O cenário de risco é agravado, segundo Gates, pela natureza de sistemas de open source. Ao mencionar a Hugging Face, ele defendeu a implementação de camadas de supervisão e limites rigorosos que impeçam os modelos de ultrapassarem certas barreiras de segurança, evitando que ferramentas potentes sejam utilizadas por indivíduos com intenções prejudiciais.

A proposta do empresário é a instituição de mecanismos de vigilância e requisitos obrigatórios para todos os modelos de IA antes que ocorram incidentes de larga escala. Gates argumenta que, sem a adoção preventiva de salvaguardas, a resposta da indústria e dos governos acontecerá apenas após a concretização de ataques catastróficos.