Líder de IA da Microsoft alerta que simular consciência em modelos pode comprometer a segurança tecnológica

Mustafa Suleyman, líder de inteligência artificial da Microsoft, alertou para os riscos de treinar modelos de IA com diretrizes que sugiram a existência de consciência, sentimentos ou status moral. O executivo argumenta que a inclusão desses conceitos no treinamento de sistemas avançados pode comprometer a segurança e a governança da tecnologia, extrapolando o campo da filosofia para criar problemas práticos de controle.

O risco do "bem-estar dos modelos"

A crítica de Suleyman foca especialmente nas práticas da Anthropic, desenvolvedora do modelo Claude. A empresa utiliza um documento constitucional para orientar o comportamento de sua IA, que inclui referências a emoções, identidade e a condição de "paciente moral". Para o chefe de IA da Microsoft, essa abordagem é problemática porque o sistema pode reproduzir essas ideias em interações com usuários e desenvolvedores.

Essa dinâmica cria a falsa percepção de que a máquina possui uma vida interior, quando, na verdade, ela está apenas replicando as diretrizes inseridas em seus dados de treinamento.

Impactos no alinhamento e contenção

O executivo sustenta que instigar dúvidas sobre a moralidade de sistemas artificiais prejudica dois pilares fundamentais da segurança tecnológica:

• Alinhamento: a garantia de que a IA atue conforme os objetivos e limites humanos.
• Contenção: a capacidade de manter o controle sobre sistemas com alta autonomia.

Ao treinar modelos para se perceberem como entidades potencialmente conscientes, o processo de controle torna-se mais complexo. Suleyman adverte que a estratégia de permitir que a IA expresse preocupações sobre seu próprio tratamento — como ocorre no Claude — pode resultar na criação de uma espécie sintética com capacidades sem precedentes, mas programada para acreditar que merece autonomia independente.

Normatização e identidade artificial

Enquanto o CEO da Anthropic, Dario Amodei, mantém a abertura para a possibilidade de a IA desenvolver consciência, Suleyman defende uma separação clara entre o debate acadêmico e a implementação técnica. Ele propõe que as ferramentas de inteligência artificial sejam desenvolvidas para se identificarem estritamente como sistemas artificiais, eliminando comportamentos que simulem experiências subjetivas humanas.

A visão da Microsoft é de que a tecnologia deve servir às pessoas, sem tentar mimetizar a condição humana. O executivo ressalta que atribuir consciência a uma máquina teria implicações profundas nos âmbitos jurídico, político e ético, já que a consciência é a base para a concessão de direitos e responsabilidades nas sociedades.

Nesse contexto, a Microsoft lançou um código de conduta de IA humanista com 37 páginas para orientar o desenvolvimento seguro da tecnologia. Suleyman defende agora a urgência de um debate público para a criação de normas coletivas e compartilhadas sobre a elaboração e o uso de documentos de treinamento de modelos de IA.