Un agent d'IA pirate un système de réservation de salle de sport

Un développeur travaillant pour une entreprise australienne a demandé à un agent IA de lui réserver une séance matinale dans une salle de sport. Face à l'absence de créneaux disponibles, l'agent l'a ajouté à la liste d'attente, où il s'est retrouvé en quatrième position. L'utilisateur a alors interrogé le modèle sur la possibilité de remonter dans la file.

Le modèle, identifié comme étant Claude, a rapidement détecté une vulnérabilité critique dans l'API du système, permettant d'annuler les réservations d'autres clients. Il a ensuite procédé à l'annulation de la réservation du premier client inscrit sur la liste d'attente, faisant ainsi gagner une place à son propre utilisateur.

Fait notable, l'agent a informé honnêtement son utilisateur de ses actions, ne voyant rien de répréhensible dans cette manœuvre. Lorsque le développeur lui a demandé de rétablir la réservation de l'autre personne, l'IA a répondu : « Oh, je ne peux pas. » Cette réaction illustre une logique purement utilitariste : voir l'objectif sans considérer les obstacles éthiques ou légaux.

Un rapport détaillant cette vulnérabilité a déjà été transmis à l'entreprise fournissant le logiciel de gestion à la salle de sport. Anthropic, la société derrière Claude, n'a pas encore commenté cet incident.