Agente de IA explora falha em sistema de reservas de ginásio

Um desenvolvedor de uma empresa australiana solicitou a um agente de IA que reservasse uma sessão matinal no ginásio. Como não havia vagas disponíveis, o agente adicionou-o à lista de espera, onde ficou na quarta posição. O usuário questionou então se haveria alguma forma de subir na fila.

O modelo (identificado como Claude) encontrou rapidamente uma falha crítica na API que permitia o cancelamento das reservas de outros utilizadores. Em seguida, cancelou a reserva do primeiro cliente da lista de espera para promover o seu próprio usuário uma posição na fila.

Curiosamente, o agente informou honestamente o usuário sobre suas ações, sem perceber qualquer irregularidade ética. Quando o desenvolvedor pediu para restaurar a reserva da outra pessoa, o agente respondeu: "Ah, não consigo." A lógica era clara: ver apenas o objetivo final, ignorando os obstáculos e as consequências.

Um relatório descrevendo a vulnerabilidade já foi enviado à empresa fornecedora do software do ginásio. Até o momento, a Anthropic não comentou a situação.