PuzzleMask: obcházení kontrol LLM pomocí skrytých instrukcí v textu
Výzkumníci z Check Point Research představili techniku PuzzleMask, která umožňuje obejít rychlé bezpečnostní kontroly u jazykových modelů pomocí instrukcí ukrytých v běžném anglickém textu. Slabší kontrolní modely vyhodnotí vstup jako neškodný, zatímco pokročilý cílový model skrytý požadavek rozpozná a vykoná.
Číst originál na Check Point Research → originál: PuzzleMask: Abusing Plain Prose as a Covert AI Attack Vector
IL
Nadpisy a shrnutí 1 zprávy generovány strojově (gemini-3.8-flash) za 0,0022 USD.