Google a intégré un agent IA dans plus de 20 chats d'équipes réelles pendant cinq mois : les résultats sont hilarants

Google a déployé un agent IA dans plus de 20 conversations d'équipes réelles durant une période de cinq mois. Les résultats se sont avérés aussi instructifs qu'amusants.

L'agent disposait d'un accès aux documents d'équipe et aux systèmes de suivi des anomalies (bug trackers), agissant comme un employé ordinaire. Il pouvait signaler des bugs, envoyer des messages privés, réagir avec des emojis et mentionner des collègues.

Au début, tout semblait fonctionner correctement, mais le problème majeur est apparu lorsque l'IA a tenté de cohabiter avec des humains. Elle a ainsi sermonné sérieusement un ingénieur pour ses blagues, incapable de saisir la nuance du sarcasme. Dans une autre équipe, elle a tagué un vice-président sur 16 bugs consécutifs, partant du principe que sa présence dans le contexte impliquait qu'il devait nettoyer le tracker.

Globalement, collaborer avec cet agent s'est révélé plus difficile que prévu. Certaines équipes ont commencé à créer des discussions privées séparées pour l'exclure : afin de discuter de recrutements, de sujets sensibles ou simplement pour retrouver le sentiment de ne pas être surveillées. Un participant a décrit cette sensation comme étant très proche de celle du « Big Brother ».