Halluzinierte Abhängigkeiten im Code (Hallucinated Packages)
Eine gefährliche Form von KI-Halluzinationen in der Softwareentwicklung. Das Modell erfindet plausibel klingende, aber nicht existierende Bibliotheken sowie npm-/PyPI-Pakete und schafft so kritische Sicherheitslücken (Slopsquatting).
1. Überblick über das Konzept und den Zweck
Stellen Sie sich folgende Situation vor: Sie bitten einen Chatbot, eine schöne interaktive Feuerwerk-Animation auf Ihrer Website hinzuzufügen. Das Modell generiert freudig Code und schreibt in der ersten Zeile:
import { triggerConfettiExplosion } from "next-magic-fireworks";
Sie kopieren den Code in Ihr Projekt, starten das Terminal und geben npm install next-magic-fireworks ein – doch die Konsole wirft einen roten Fehler: 404 Not Found. Ein solches Paket hat es nie gegeben!
Halluzinierte Abhängigkeiten (Hallucinated Dependencies) sind eine der tückischsten Fallen des generativen Programmierens. Das Modell ist so sehr darauf bedacht, dem Nutzer zu gefallen, dass es perfekte Tools einfach aus dem Nichts erfindet.
Mentales Modell: Die wichtigste Lektion in Sachen Cyber-Hygiene: Installieren Sie niemals Pakete blindlings ohne eine kurze Überprüfung.
2. Mentales Modell der Bedrohung durch Slopsquatting
┌─────────────────────────────────────────────────────────────┐
│ ЯК ПРАЦЮЄ ПАСТКА НЕІСНУЮЧОГО ПАКЕТУ │
├─────────────────────────────────────────────────────────────┤
│ 1. ШІ галюцинує гарну назву: │
│ `import { encryptData } from "fast-crypto-tools";` │
├─────────────────────────────────────────────────────────────┤
│ 2. Розробник-новачок сліпо запускає в терміналі: │
│ $ npm install fast-crypto-tools │
├─────────────────────────────────────────────────────────────┤
│ 3. Хакерська пастка (Slopsquatting): │
│ Хакери помітили, що ШІ часто радить цю назву, і заздалегідь│
│ завантажили в реєстр npm шкідливий вірус із таким ім'ям │
├─────────────────────────────────────────────────────────────┤
│ 🚨 Катастрофа: викрадено SSH-ключі та паролі з комп'ютера │
└─────────────────────────────────────────────────────────────┘
3. Sicherheits-Checkliste vor npm install
Bevor Sie bei einem von KI vorgeschlagenen Befehl zur Installation einer neuen Bibliothek Enter drücken:
- Prüfen Sie die Anzahl der Stars und Downloads: Eine echte, zuverlässige Bibliothek (wie z. B.
lucide-react,zododerframer-motion) verzeichnet Millionen von Downloads pro Woche und Tausende von GitHub-Stars. - Fragen Sie das Modell nach Alternativen: Schreiben Sie im Chat: „Ist
[Paketname]eine offizielle, populäre Bibliothek? Nennen Sie zwei der am besten geprüften Open-Source-Alternativen.“ - Bitten Sie um eine Lösung ohne externe Bibliotheken: Sehr oft kann das Modell eine einfache Funktion mit 15 Zeilen sauberem Code schreiben, ohne dass man unnötig schwere Pakete ins Projekt ziehen muss.
4. Die goldene Regel
Lieber 10 Zeilen eigener, verständlicher Code als ein unbekanntes Paket mit drei Downloads pro Monat!
FAQ: Halluzinierte Abhängigkeiten im Code (Hallucinated Packages)
Verwandte Begriffe
Marker für generierten Code (AI-Code-Smells)
Typische Antipatterns und Marker für synthetischen Code („Code mit Geruch“ von KI). Überflüssige, offensichtliche Kommentare, Duplizierung von Hilfsfunktionen in jeder Datei, gefälschte Mocks und unsinnige try-catch-Blöcke, die auf ungeprüfte Generierung hinweisen.
Wie man KI-Halluzinationen verhindert (Prompts gegen erfundene Fakten)
Eine Sammlung bewährter Engineering-Techniken und Prompt-Strukturen, die die Generierung von erfundenen Fakten, nicht existierenden Gesetzen und falschen Zitaten blockieren. Zwingt die künstliche Intelligenz, sich streng auf die bereitgestellten Quellen zu stützen.
KI als Code-Reviewer (Fehlersuche vor dem Release)
Methodik zur Nutzung von Sprachmodellen in der Rolle eines strengen Senior-Ingenieurs für die automatische Prüfung des Quellcodes (Code Review). Findet versteckte Sicherheitslücken, Speicherlecks und architektonische Fehler vor dem Deployment.