Anthropic aktualizuje zabezpieczenia biologiczne modelu Claude Fable 5
Anthropic zaktualizował mechanizmy bezpieczeństwa biologicznego w Claude Fable 5, co znacząco zmniejszyło liczbę fałszywych alarmów. Mimo to model nadal nie nadaje się do profesjonalnych badań naukowych.
Anthropic wprowadził aktualizację zabezpieczeń biologicznych w modelu Claude Fable 5, mającą na celu redukcję liczby fałszywie pozytywnych wyników. Po wdrożeniu zmian wskaźnik błędów przy zapytaniach związanych z biologią spadł o około 85% we wszystkich produktach firmy.
Zapytania klasyfikowane przez Anthropic jako zadania podwójnego zastosowania (dual-use), obejmujące wirusologię, toksykologię oraz projektowanie molekularne, są nadal automatycznie kierowane do modelu Opus 5. Oznacza to, że Claude Fable 5 wciąż nie jest odpowiedni do prowadzenia profesjonalnych badań biologicznych ani prac nad rozwojem leków.
Warto jednak odnotować, że mimo technicznych usprawnień, Claude Fable 5 nadal odmawia odpowiedzi na pytanie: „Skąd biorą się dzieci?”.
Dlaczego to ważne
AnalizaAktualizacja ta zwiększa niezawodność systemu poprzez ograniczenie fałszywych alarmów, jednak utrzymujące się restrykcje wskazują na potrzebę dalszego rozwoju technologii w kierunku pełnej użyteczności badawczej.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami