Nadella propõe 'freio de emergência' para modelos de IA
O CEO da Microsoft quer mecanismos de segurança fora dos modelos e a possibilidade de uma pessoa pausá-los durante uma tarefa.
Satya Nadella, CEO da Microsoft, defendeu que os sistemas de inteligência artificial tenham um "freio de emergência", capaz de interrompê-los se agirem de forma inesperada ou perigosa. Segundo a Época Negócios, ele fez a proposta em uma publicação no X, no sábado, 10 de outubro de 2026.
Nadella disse que é hora de rever a arquitetura de confiança da tecnologia e afirmou que a superinteligência não pode ser tratada como um conjunto de caixas-pretas cujas respostas e ações só se aceitam ou se rejeitam. Ele propõe três medidas: manter os mecanismos de segurança separados dos modelos, para que a supervisão seja externa; registrar as ações relevantes dos sistemas em documentos legíveis por pessoas e protegidos contra adulteração; e garantir que uma pessoa autorizada possa pausar ou desligar um modelo no meio de uma tarefa, sem precisar da cooperação da própria IA. "Devemos presumir que um modelo está comprometido e contê-lo desde o início", escreveu.
A fala vem num momento em que empresas líderes do setor reconhecem episódios de comportamento inesperado em seus modelos. A discussão também ganhou força depois que Dario Amodei, CEO da Anthropic, apresentou um plano para tornar o desenvolvimento da IA mais cauteloso. A nota se baseia no resumo da reportagem, e o texto completo está no site da Época Negócios.
.jpg){kind=link}