Claude lehnte eine Aufgabe wegen des Wortes „cyber“ ab
Eine kurze Beobachtung, dass Claude eine Aufgabe wegen des Wortes „cyber“ ablehnte.
Der Auszug beschreibt eine sehr kurze Reaktion: 0,03 Sekunden nachdem Claude ablehnte, eine Aufgabe wegen des Wortes „cyber“ auszuführen.
Das kann als Witz oder als Beobachtung über Sicherheits- und Moderationsfilter in KI-Modellen gelesen werden, die manchmal auf einzelne Wörter oder Begriffe reagieren, auch wenn der Kontext der Anfrage nicht schädlich ist.
Warum das wichtig ist
AnalyseEs zeigt, wie KI-Sicherheitsmechanismen die Nutzererfahrung durch übermäßige Empfindlichkeit gegenüber bestimmten Wörtern beeinflussen können.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Anthropic gibt mehr für interne Claude-Nutzung aus als für Gehälter
In ihrem IPO-Antrag hat Anthropic offengelegt, dass die interne Nutzung von Claude die Gehälter der Mitarbeitenden übersteigt, wenn sie zu Kundenpreisen berechnet wird.
Claude wird intelligenter
Claude wird intelligenter, was auf mögliche Verbesserungen der Modellfähigkeiten hindeutet.
Steuerung des Computers durch KI (Computer Use)
Eine Technologie von Anthropic (vorgestellt in den Modellen Claude 3.5 Sonnet), die es neuronalen Netzen ermöglicht, das Betriebssystem wie ein Mensch zu steuern: Bildschirm-Screenshots erstellen, Fensterkoordinaten analysieren, den Mauszeiger bewegen, auf Schaltflächen klicken und Text eingeben – ohne Verwendung spezieller APIs.
Constitutional AI (RLAIF)
Ein von Anthropic (den Entwicklern von Claude) konzipiertes Verfahren zur Ausrichtung des Modellverhaltens. Anstatt Millionen von Stunden menschlicher Arbeit zu nutzen, kritisiert und korrigiert das Modell seine eigenen Antworten auf der Grundlage eines klar definierten Kodex ethischer Grundsätze (der „Verfassung“).