Presidente do Signal diz que risco da IA é o uso descuidado

Meredith Whittaker, presidente da Signal Foundation, organização responsável pelo aplicativo de mensagens Signal, diz não haver evidências científicas de que a inteligência artificial possa se voltar contra os seres humanos. A declaração está em entrevista ao programa Global Women, do Serviço Mundial da BBC, noticiada pela Época Negócios.

Para Whittaker, o risco existe, mas está no uso irresponsável da tecnologia, e não nas histórias de máquinas hostis. Ela citou um caso noticiado pela emissora americana CNN: um chatbot usado pelos serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês que supostamente transportava material nuclear. Segundo a reportagem, o episódio levou os EUA a preparar uma resposta militar. Whittaker disse que um sistema que fornece dados falsos e quase provoca uma guerra não pode ser considerado superinteligente, "seja qual for o critério adotado".

A executiva também relacionou o Projeto Maven, contrato do Google com o Departamento de Defesa dos EUA para identificar alvos com IA, a um ataque americano a uma escola em Minab, no Irã, neste ano. Ela afirma que a operação usou o sistema e se baseou em informações desatualizadas. A Palantir, que assumiu o contrato depois que o Google desistiu, disse à BBC que não há evidências de que seu software tenha sido responsável. As Forças Armadas dos EUA ainda não divulgaram o resultado da investigação.

O texto original traz ainda a posição de Whittaker sobre criptografia e pedidos de governos por acesso a conversas, além de conselhos dela para mulheres que querem trabalhar em tecnologia.