Google testete einen KI-Agenten in über 20 Team-Chats – das Ergebnis war amüsant
Ein fünfmonatiger Feldversuch von Google zeigte, dass ein autonomer KI-Agent zwar technische Aufgaben meisterte, aber an sozialen Nuancen wie Sarkasmus und Datenschutzbedenken scheiterte.
Google platzierte einen KI-Agenten für fünf Monate in mehr als 20 Chats realer Teams. Die Ergebnisse waren amüsant.
Der Agent hatte wie ein regulärer Mitarbeiter Zugriff auf Teambereiche und Bug-Tracker. Er konnte Fehlerberichte erstellen, private Nachrichten senden, mit Emojis reagieren und Kollegen markieren.
Zunächst schien alles reibungslos zu funktionieren, doch das Hauptproblem lag darin, dass die KI nicht mit echten Menschen zurechtkam. Sie maßregelte einen Ingenieur ernsthaft wegen Witzen, da sie den Sarkasmus nicht verstand. In einem anderen Team markierte sie einen Vizepräsidenten bei 16 Fehlern hintereinander, unter der Annahme, dass diese Person aufgrund des Kontexts für die Bereinigung des Bug-Trackers zuständig sei.
Insgesamt gestaltete sich die Zusammenarbeit mit dem Agenten schwieriger als erwartet. Einige Teams begannen, separate private Chats ohne ihn zu erstellen: um über Einstellungen, sensible Themen zu sprechen oder einfach das Gefühl zu haben, nicht überwacht zu werden. Ein Teilnehmer verglich das Empfinden stark mit „Big Brother“.
Warum das wichtig ist
AnalyseDie Studie verdeutlicht, dass autonome KI-Agenten in der Unternehmenskommunikation klare Eskalationsregeln, Privatsphäre-Grenzen und ein besseres Bewusstsein für soziale Kontexte benötigen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern