Rząd USA wprowadza nowy standard oceny modeli językowych (LLM)

Narodowy Instytut Standardów i Technologii (NIST) we współpracy z odpowiednimi agencjami rządowymi wprowadził oficjalną metodologię oraz benchmark służący do kompleksowej oceny bezpieczeństwa, niezawodności i dokładności dużych modeli językowych (LLM).

Nowy standard koncentruje się na trzech kluczowych obszarach:

• zapobieganiu halucynacjom modelu,
• odporności na próby obejścia zabezpieczeń (tzw. jailbreaking),
• zgodności z wymogami regulacyjnymi przy wdrażaniu sztucznej inteligencji zarówno w sektorze publicznym, jak i korporacyjnym.