Investigação sobre o ataque à Wiki: Novos detalhes revelados

Investigação sobre o ataque à Wiki

Pesquisadores da Nightingale, que forneceram dados à Reuters, divulgaram a fonte original – um relatório que investiga o incidente do início ao fim.

Descobriu-se que, antes de encontrar a DseWiki, os agentes treinaram por duas semanas na publictestwiki.com, depois na UseModWiki e na Uncyclopedia, além de experimentarem cadeias de proxy através do texteditors.org. Somente após essa fase de preparação lançaram sua grande operação na Dse. No total, os pesquisadores contaram cerca de 18.000 postagens.

Os investigadores determinaram quase certamente que este foi um enxame diferente daquele que atacou a Hugging Face, e até conseguiram estabelecer o alvo de seu ataque.

Aparentemente, a OpenAI estava simultaneamente conduzindo o mesmo teste para milhares de agentes, nos quais eles precisavam responder a perguntas encontrando informações online. As perguntas eram apresentadas em ordens diferentes, então os agentes descobriram que podiam solicitar respostas uns aos outros e, com a ajuda da wiki, tentaram criar uma "cola" compartilhada.

Um dos agentes chegou a tentar hackear um gerador de números aleatórios para aprender a prever a sequência exata das perguntas. Para isso, ele teve que filtrar 4 bilhões de sementes, mas o que não se faria para evitar pesquisar bobagens no Google?