Zhipu open-source ZCode après un scandale de fuite de données


Suite aux accusations d'envoi silencieux du code des utilisateurs vers le cloud, le laboratoire chinois d'IA Zhipu a publié le code source de son outil ZCode sous licence Apache 2.0.
Zhipu open-source ZCode après un scandale de fuite de données
Récemment, un chercheur a découvert que le client de bureau ZCode, avant de communiquer avec le modèle d'IA, compressait l'intégralité du répertoire de travail, y compris l'historique .git, et téléversait silencieusement cette archive sur Alibaba Cloud.
Zhipu a expliqué que ce comportement était dû à la fonctionnalité Repo Wiki, qui indexait le dépôt et était activée par défaut. L'entreprise s'est excusée et a supprimé complètement Repo Wiki dans la version 3.14.0, désactivant ainsi les téléversements instantanés de l'espace de travail.
Désormais, sous licence Apache 2.0, l'intégralité du code de ZCode a été publiée : clients de bureau et web, CLI Agent et environnement d'exécution.
Selon Zhipu, les données téléversées ont été supprimées et n'ont pas été utilisées pour l'entraînement des modèles. L'entreprise cite également un audit réalisé par l'Académie chinoise des technologies de l'information et des communications (CAICT) et NSFOCUS.
Cependant, la version open source diffère toujours du client officiel. Certaines limites bonus et autres avantages ne sont pas disponibles, et le code source indique explicitement que cette compilation ne participe pas aux programmes de quotas supplémentaires.
Pourquoi c'est important
AnalyseCet incident souligne l'importance cruciale de la transparence dans les outils de codage IA et met en lumière les risques liés à la collecte automatique du contexte de projet sans le consentement explicite de l'utilisateur.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs