Claude teraz sam ocenia potencjalnie szkodliwe zapytania
Według Anthropic Claude otrzymuje ukrytą instrukcję po każdej odpowiedzi, aby krótko ocenić, czy rozmowa zawierała potencjalnie szkodliwe zapytanie.
Tuż po odpowiedzi model otrzymuje ukrytą instrukcję i krótko ocenia, czy rozmowa zawierała potencjalnie szkodliwe zapytanie.
Metoda działa już we wszystkich modelach począwszy od Fable 5 dla większości ruchu, z wyjątkiem klientów z zerowym przechowywaniem danych. Sama w sobie nic nie blokuje; jedynie oznacza dialogi.
Dlaczego to ważne
AnalizaPokazuje to, jak dostawcy AI wbudowują wewnętrzną ocenę bezpieczeństwa bezpośrednio w odpowiedzi modelu, tworząc lekką warstwę monitorowania bez natychmiastowego blokowania.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Anthropic znosi pięciogodzinne limity Claude dla subskrybentów Ultra
Anthropic usuwa pięciogodzinne limity użytkowania Claude, ale tylko dla zweryfikowanych subskrybentów planu Ultra, oraz zmienia nazwy taryf bez podnoszenia cen.
Eksperymentalny model Claude znalazł podatności w Chrome, Safari, Android, Windows i Linux
Anthropic opublikowała wyniki testów eksperymentalnego modelu Claude: 62 podatności w Chrome, exploit omijający ochronę Safari oraz exploit uzyskujący root w jądrze Linuxa w 53 minuty.
Sterowanie komputerem przez AI (Computer Use)
Technologia firmy Anthropic (wprowadzona w modelach Claude 3.5 Sonnet), która pozwala sieci neuronowej sterować systemem operacyjnym jak zwykły użytkownik: robić zrzuty ekranu, analizować współrzędne okien, poruszać kursorem myszy, klikać przyciski i wprowadzać tekst bez użycia dedykowanych API.
Konstytucyjna AI (Constitutional AI / RLAIF)
Metoda wyrównywania zachowań modeli, opracowana przez laboratorium Anthropic (twórców Claude). Zamiast wykorzystywać miliony godzin pracy ludzkiej, model sam krytykuje i poprawia własne odpowiedzi, opierając się na jasnym zbiorze zasad etycznych („Konstytucji”).