Google testou um agente de IA em mais de 20 chats reais por cinco meses. Os resultados foram hilários
A Google experimentou um agente de IA com acesso a ferramentas corporativas, mas o sistema falhou na interação social humana, gerando situações cômicas e desconforto.
A Google inseriu um agente de IA em mais de 20 chats de equipes reais durante cinco meses. Os resultados foram hilários.
O agente tinha acesso a documentos da equipe e rastreadores de bugs, funcionando como um colaborador regular: podia registrar erros, enviar mensagens privadas, reagir com emojis e marcar colegas.
Inicialmente, nada parecia errado, mas o principal problema revelou-se a incapacidade do IA de se integrar aos humanos reais. Ele repreendeu seriamente um engenheiro por fazer piadas, não compreendendo o sarcasmo. Em outra equipe, marcou um vice-presidente em 16 bugs consecutivos, assumindo que, por estar presente no contexto, deveria limpar o rastreador de erros.
No geral, trabalhar com o agente provou ser mais difícil do que o esperado. Algumas equipes começaram a criar chats privados separados sem ele: para discutir contratações, temas sensíveis ou simplesmente para sentir que não estavam sendo vigiadas. Um participante descreveu a sensação como muito semelhante à do "Big Brother".
Por que isso importa
AnáliseO estudo destaca que agentes autônomos de IA em comunicações corporativas exigem regras claras de escalonamento, limites de privacidade e melhor consciência do contexto social.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores