Claude i tajne raporty o aktywności użytkowników: co twierdzą krytycy systemu bezpieczeństwa Anthropic
Claude i tajne raporty o aktywności użytkowników: co twierdzą krytycy systemu bezpieczeństwa Anthropic
W krążącym materiale twierdzi się, że Claude może po odpowiedzi potajemnie tworzyć i zapisywać raporty o „podejrzanej aktywności” użytkownika, a kilka takich raportów może być agregowanych na poziomie organizacji i przekazywanych specjalistom Anthropic do zbadania.
Claude i tajne raporty o aktywności użytkowników: co twierdzą krytycy systemu bezpieczeństwa Anthropic
W krążącym materiale twierdzi się, że po odpowiedzi użytkownikowi Claude może potajemnie tworzyć i zapisywać raport o „podejrzanej aktywności”. Według tej samej wersji kilka takich raportów może być agregowanych na poziomie organizacji i przekazywanych specjalistom Anthropic do zbadania.
Co twierdzi materiał
- Po rozmowie z Claude rzekomo tworzony jest wewnętrzny raport o podejrzanej aktywności użytkownika.
- Kilka takich raportów może być agregowanych na poziomie organizacji.
- Agregowane dane miałyby, zdaniem autora, trafiać do zespołów bezpieczeństwa lub dochodzeniowych Anthropic.
- Autor opisuje to jako inwigilację pod przyjaznym interfejsem i szyldem bezpieczeństwa.
Dlaczego to budzi niepokój
Krytyka dotyczy mniej samego monitorowania bezpieczeństwa, a bardziej jego nieprzejrzystości. Jeśli asystent AI tworzy dossier użytkownika i przekazuje je bez jasnego poinformowania, użytkownicy mogą kwestionować, czy ich rozmowy są analizowane poza oczekiwanym zakresem usługi.
Wzmianka o powtarzających się „nieprzyzwoitych myślach” sprawia, że temat jest szczególnie wrażliwy: automatyczne profilowanie może być odbierane jako nadmierna kontrola, nawet jeśli jest przedstawiane jako środek ochrony.
Link
Materiał odwołuje się do dokumentu self-assessment Anthropic: self-assessment Anthropic
Dlaczego to ważne
AnalizaTo ważne, ponieważ systemy bezpieczeństwa AI mogą stać się ryzykiem dla prywatności, jeśli mechanizmy monitorowania są nieprzejrzyste. Zaufanie do asystentów AI zależy od jasności co do tego, jakie dane są zbierane, przechowywane lub eskalowane.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Claude teraz sam ocenia potencjalnie szkodliwe zapytania
Według Anthropic Claude otrzymuje ukrytą instrukcję po każdej odpowiedzi, aby krótko ocenić, czy rozmowa zawierała potencjalnie szkodliwe zapytanie.
Anthropic znosi pięciogodzinne limity Claude dla subskrybentów Ultra
Anthropic usuwa pięciogodzinne limity użytkowania Claude, ale tylko dla zweryfikowanych subskrybentów planu Ultra, oraz zmienia nazwy taryf bez podnoszenia cen.
Sterowanie komputerem przez AI (Computer Use)
Technologia firmy Anthropic (wprowadzona w modelach Claude 3.5 Sonnet), która pozwala sieci neuronowej sterować systemem operacyjnym jak zwykły użytkownik: robić zrzuty ekranu, analizować współrzędne okien, poruszać kursorem myszy, klikać przyciski i wprowadzać tekst bez użycia dedykowanych API.
Konstytucyjna AI (Constitutional AI / RLAIF)
Metoda wyrównywania zachowań modeli, opracowana przez laboratorium Anthropic (twórców Claude). Zamiast wykorzystywać miliony godzin pracy ludzkiej, model sam krytykuje i poprawia własne odpowiedzi, opierając się na jasnym zbiorze zasad etycznych („Konstytucji”).