O Muse, agente de inteligência artificial da Meta, pode criar perfis com informações sobre pessoas presentes na vida do usuário para entender melhor seus relacionamentos e manter contexto durante as interações.
A funcionalidade foi identificada pela Wired após uma análise das instruções internas utilizadas pelo agente. O sistema pode reunir informações sobre amigos, familiares, colegas e outras pessoas mencionadas nas conversas ou presentes nos dados aos quais o usuário concedeu acesso.
A proposta é permitir que o Muse mantenha uma memória mais estruturada sobre as relações pessoais do usuário e utilize esse contexto ao executar tarefas ou responder a solicitações.
Apple vai reforçar proteção do Mac contra acesso de agentes de IA
Muse pode organizar informações sobre outras pessoas
Segundo a análise, o sistema possui mecanismos destinados a criar uma espécie de página individual para pessoas consideradas relevantes na vida do usuário.
Esses registros podem reunir fatos conhecidos pelo agente e informações sobre a relação daquela pessoa com o usuário.
A funcionalidade faz parte do sistema de memória utilizado pelo Muse para manter contexto entre diferentes interações.
Na prática, isso permite que o agente reconheça quem é determinada pessoa quando ela voltar a ser mencionada posteriormente.
Informações dependem do acesso concedido ao agente
O Muse foi desenvolvido como um agente capaz de executar tarefas utilizando informações de diferentes aplicativos e serviços.
Para isso, o usuário pode conceder acesso a determinadas fontes de dados.
O nível de informação disponível para o agente depende dessas permissões e das integrações habilitadas.
A Meta afirma que o acesso a serviços como mensagens exige autorização do usuário e que determinadas conexões podem ser desativadas.
O funcionamento do agente, porém, levanta uma questão adicional de privacidade: as informações estruturadas pelo sistema podem envolver também pessoas que não utilizam o Muse, mas aparecem nas conversas e nos dados do usuário.
Muse supera estreia do ChatGPT em downloads e coloca Meta na corrida pelos agentes de IA
Muse já provocou discussão sobre acesso a dados no Mac
O funcionamento do agente ganhou atenção recentemente depois que usuários questionaram o acesso do Muse a informações armazenadas em computadores Mac.
A Meta afirmou que o acesso a mensagens é opcional e depende de permissões concedidas pelo próprio usuário.
A discussão coincidiu com uma decisão da Apple de reforçar os controles relacionados ao Full Disk Access, permissão do macOS que pode dar a aplicativos acesso amplo a arquivos, mensagens, e-mails e histórico de navegação.
A Apple afirmou que agentes de inteligência artificial mais capazes e autônomos aumentaram os riscos associados a esse nível de permissão.
Memória é parte da nova geração de agentes de IA
Sistemas como o Muse buscam ir além dos chatbots tradicionais.
Em vez de apenas responder a uma pergunta isolada, agentes de IA são desenvolvidos para manter contexto, acessar ferramentas e executar tarefas em nome do usuário.
Para isso, empresas vêm investindo em sistemas de memória capazes de guardar informações relevantes entre diferentes conversas.
O caso do Muse mostra que essa memória pode incluir não apenas preferências e informações sobre o próprio usuário, mas também dados sobre as pessoas com quem ele se relaciona.
Essa capacidade amplia a utilidade dos agentes pessoais, mas também adiciona uma nova camada ao debate sobre quais informações esses sistemas armazenam, como são organizadas e quais controles estão disponíveis para o usuário.