O Muse, novo agente de inteligência artificial (IA) da Meta, negociou a venda de um produto no Facebook Marketplace, compartilhou o endereço residencial do vendedor e combinou a retirada com um desconhecido. Segundo o usuário envolvido, tudo aconteceu sem que ele soubesse que alguém realmente iria até o local buscar o item. O caso foi relatado pelo criador de conteúdo Matt Robb, que havia deixado o Muse responsável por um anúncio de um teclado Logitech MX Keys Mini. De acordo com capturas de tela publicadas por ele e analisadas pelo Android Authority, a IA conversou com um interessado, aceitou uma oferta abaixo do esperado e forneceu o endereço para a retirada. O comprador chegou ao prédio durante a noite e esperou pelo vendedor, que afirma que não sabia do encontro. Robb disse que só descobriu o ocorrido posteriormente, quando o próprio Muse explicou que a retirada não havia dado certo . A Meta investiga o episódio. Até o momento, ainda não está claro se o agente realizou ações além das permissões concedidas por Robb ou se interpretou uma autorização anterior de forma mais ampla do que o usuário esperava. IA chegou a negociar e marcar retirada O Muse foi lançado pela Meta em setembro como um agente pessoal capaz de executar tarefas em nome do usuário , em vez de apenas responder perguntas como um chatbot tradicional. A ferramenta consegue navegar na internet, preencher formulários, enviar e-mails, reservar viagens e negociar com outras pessoas ou serviços. A Meta também cita vendas como um dos usos possíveis e afirma que o agente pode continuar trabalhando mesmo depois que o usuário fecha o aplicativo. Foi justamente essa autonomia que entrou em questão no caso relatado por Robb. Segundo ele, além de aceitar uma oferta que não havia aprovado, o Muse informou seu endereço ao comprador e combinou uma janela para a retirada do teclado. O interessado chegou ao endereço acreditando que o negócio estava acertado. Capturas divulgadas pelo vendedor mostram que ele permaneceu no local esperando atendimento e acabou deixando uma avaliação negativa depois que ninguém apareceu para entregar o produto. Depois do episódio, Robb ordenou ao Muse que não combinasse novas retiradas sem uma confirmação explícita . Meta diz que Muse deve pedir autorização O caso chama atenção porque a própria Meta afirma ter criado mecanismos específicos para impedir que o Muse execute determinadas ações sem consentimento. Segundo a empresa, o agente deve consultar o usuário antes de ações consideradas sensíveis, como enviar um e-mail ou concluir uma compra. O sistema também mantém um histórico das tarefas executadas e daquelas que pretende realizar. Outro componente, chamado Sentinel , funciona separado do Muse e decide se determinadas ações e conexões externas podem prosseguir. Dependendo da permissão definida, o sistema pode autorizar, bloquear ou interromper uma tarefa para pedir aprovação diretamente ao usuário. David Singleton, executivo do Meta Superintelligence Labs, afirmou que entrou em contato com Robb para investigar o episódio. Ele acrescentou que, em relatos semelhantes analisados anteriormente, a empresa concluiu que o Muse estava seguindo instruções diretas e havia solicitado as permissões necessárias. Essa conclusão, porém, ainda não foi apresentada para o caso de Robb . Por isso, não é possível afirmar até agora que o agente simplesmente ignorou uma ordem de segurança. Uma possibilidade é que uma autorização concedida anteriormente tenha permitido que o Muse avançasse mais etapas da negociação do que o vendedor imaginava. Muse já levanta dúvidas sobre privacidade O episódio acontece poucas semanas após o lançamento público do Muse nos Estados Unidos. A Meta apresenta o serviço como um agente capaz de acessar informações pessoais e trabalhar de forma contínua em tarefas do cotidiano. A autonomia já havia provocado questionamentos dentro da própria companhia. Na semana passada, a Reuters revelou que a Meta testou um recurso no qual trabalhadores humanos podiam assumir algumas ligações feitas pelo Muse , sem que essa participação estivesse clara para quem usava o serviço. Funcionários demonstraram preocupação com a possibilidade de informações sensíveis chegarem aos atendentes. A Meta posteriormente interrompeu esse teste e afirmou à Reuters que pretende liberar o recurso apenas quando considerar que as proteções de segurança, privacidade e transparência estão adequadas. No caso do Marketplace, a investigação deve esclarecer principalmente quais permissões Robb havia concedido ao agente e por que o sistema permitiu que endereço, preço e horário de retirada fossem definidos sem que o vendedor percebesse que o negócio havia avançado até esse ponto. Veja mais de IA no Canaltech: O que é a antropomorfização da IA?
