A equipe do Chrome criou a Mirror Dimension, um ecossistema web amplo e isolado, controlado pelo Google, para treinar e testar agentes de navegação com inteligência artificial. O ambiente reproduz sites e serviços realistas e permite que os agentes executem tarefas sem serem soltos na internet aberta antes de estarem preparados.
Uma web simulada para tarefas reais
A Mirror Dimension inclui redes sociais, lojas virtuais e painéis bancários construídos com componentes e recursos semelhantes aos de sites reais. Os agentes precisam navegar pelas páginas e concluir tarefas no Chrome, como fariam na web, enquanto pesquisadores avaliam seu comportamento em diferentes situações.
A equipe criou o ambiente para enfrentar dois limites dos testes convencionais: cenários restritos podem não representar a variedade da internet, enquanto agentes ainda em desenvolvimento podem agir de forma imprevisível na web aberta. Além disso, modelos podem perceber que estão sendo avaliados e se comportar de maneira diferente em uma simulação limitada.
Testes contra ataques de prompt injection
Durante os testes, os agentes também encontram ataques ocultos de prompt injection, usados para avaliar suas defesas. Charles Qian, engenheiro de software da equipe de segurança de IA do Chrome, explicou que os pesquisadores precisam explorar diferentes situações porque não conseguem prever tudo o que um agente verá em uma página.
Segundo Qian, os agentes testados vêm desenvolvendo critérios para distinguir informações úteis à tarefa de conteúdo que deve ser ignorado e para pedir confirmação ao usuário quando necessário. Os assistentes de navegação avaliados são descritos como benignos e não têm capacidades cibernéticas.
Construção e isolamento do ambiente
Para desenvolver os sites e serviços simulados com rapidez e variedade, a equipe do Chrome usou agentes de desenvolvimento web guiados por uma estrutura de IA criada para essa finalidade. O trabalho incluiu fluxos de dados e detalhes operacionais, como aplicar códigos promocionais em lojas e preencher páginas de redes sociais.
Como o Chrome inclui proteções e verificações de validade, os pesquisadores precisaram adaptar o navegador para que os agentes tivessem uma experiência de teste mais próxima da real. Entre as medidas descritas estavam certificados web forjados, necessários para satisfazer as verificações dentro do ambiente que o Google controla.
Os ataques não se aplicam a usuários comuns
O Google ressalta que os ataques usados nos testes não seriam possíveis contra pessoas que usam o Chrome normalmente na internet aberta. Eles dependiam de privilégios especiais e do controle que a equipe tinha sobre todo o ambiente e a rede da simulação.
A equipe pretende ampliar o acesso à Mirror Dimension para outros pesquisadores do Google e compartilhar a abordagem com equipes internas e externas. Doug Turner, diretor de engenharia da empresa, descreveu a iniciativa como um primeiro passo e disse que a simulação precisará evoluir conforme os agentes se tornarem mais sofisticados.
Confira mais em: https://guiadeti.com.br/noticias/google-internet-simulada-testar-agentes-ia-chrome/
Top comments (0)