Podle společnosti Anthropic se několik útočných skupin, včetně finančně motivovaných aktérů a státem sponzorovaných špionážních skupin napojených na Rusko a Čínu, pokusilo zneužít model Claude pro škodlivé účely.
Analýza honeypotu odhalila útočníka využívajícího poloautonomního AI agenta k vyhledávání špatně zabezpečených bran a odcizování API klíčů pro LLM modely. Získanou výpočetní kapacitu agent následně agregoval a opětovně nabízel skrze jednotnou bránu.
Podle společnosti Huntress zneužívají útočníci důvěryhodné platformy AI k hostování škodlivého obsahu, manipulaci výsledků vyhledávání a klamání uživatelů k instalaci malwaru. Analýza popisuje kampaně cílící na uživatele AI prostřednictvím zneužitých Claude Artifacts, sdílených konverzací, sponzorovaných výsledků vyhledávání a návnad typu ClickFix.
Podle společnosti Anthropic došlo k odhalení a narušení operací kyberšpionážní skupiny napojené na Rusko, která využívala nástroj Claude. Útočníci tento AI systém nasadili v hackerské kampani cílící na více než 20 vládních, zpravodajských, diplomatických a obranných organizací.
Microsoft popsal kampaň s více než milionem podvodných e-mailů, která zneužívala generativní AI k vytváření šablon napodobujících ředitele firem a faktury za služby ServiceNow. Útočníci se pokoušeli přesvědčit finanční oddělení organizací k proplacení plateb ve výši téměř 50 000 dolarů na své účty.
Podle zjištění zneužil pravděpodobně ruskojazyčný útočník stovky agentů umělé inteligence k vytvoření a spuštění globální kampaně cílící na zranitelné servery PaperCut NG/MF. Útok zasáhl 395 organizací.
Americké kybernetické a zpravodajské agentury uvádějí, že šest čínských společností zaměřených na umělou inteligenci provádělo od konce roku 2024 rozsáhlé destilační útoky na pokročilé americké AI modely.
GreyNoise analyzuje kampaň s využitím AI zacílenou na PaperCut NG/MF, která zasáhla 440 instancí ve 48 zemích. Podle zprávy bylo během 26 sekund kompromitováno 11 organizací.
Skupina Google Threat Intelligence Group uvádí, že útočníci přecházejí od pouhého zadávání promptů k autonomním agentním systémům a automatizaci útoků. Zpráva popisuje rychlé kompromitace dodavatelských řetězců otevřeného softwaru, krádeže proprietárních modelů a zneužívání výpočetních kapacit v cloudu, přičemž zmiňuje kampaň finančně motivované skupiny UNC6780 zneužívající repozitáře a kradoucí přihlašovací údaje.
Americké agentury NSA, CISA a FBI vydaly varování před systematickou a rozsáhlou destilací proprietárních schopností amerických AI modelů ze strany čínských firem jako DeepSeek či Alibaba. K neoprávněnému vytěžování modelů Claude, GPT či Gemini využívají zprostředkovatelské proxy sítě a obcházejí geografická omezení i podmínky použití.
Podle zjištění výzkumníka zkoumajícího profily nabízející obsah ze sítě OnlyFans na platformě X využívají tyto účty hybridní přístup kombinující skripty a generativní AI. Boti zvládají dynamicky dekódovat hexadecimální zprávy či posílat syntetizované hlasové zprávy, což jim pomáhá obcházet běžné testy na odhalení automatizace.
Výzkumníci společnosti Microsoft zaznamenali rozsáhlou phishingovou kampaň zneužívající techniku 'ASCII smuggling' pomocí neviditelných znaků Unicode. Útočníci tuto metodu původně známou z prompt injection útoků na AI využili k rozdělování klíčových slov a obcházení e-mailových filtrů. Nárůst této aktivity Microsoft evidoval od 9. února 2026 s objemy dosahujícími až 2,37 milionu zpráv denně.
Podle bezpečnostních výzkumníků využívají útočníci cílící na organizace v Latinské Americe nástroje umělé inteligence pro exfiltraci dat. Jejich základní chyby v operační bezpečnosti však obráncům umožňují tyto operace narušit.
Společnost Anthropic varovala vybrané uživatele své služby Claude před útočníky, kteří pomocí infostealerů kradou aktivní relace prohlížeče a následně čerpají jejich předplacené kapacity. V reakci na tuto aktivitu poskytovatel postižené účty odhlásil a preventivně z nich odebral uložené platební metody.
Podle společnosti Mandiant útočí finančně motivovaná skupina BREEZE COMET na brazilské finanční instituce, maloobchod a e-shopy s cílem provádět podvodné bankovní převody. Útočníci manipulují platební systémy a bankovní software, k čemuž využívají vlastní malware, zneužité vládní weby pro C2 infrastrukturu a generativní AI pro vývoj škodlivého kódu.
Group-IB odhalila mexickou phishingovou operaci nabízenou jako službu (PhaaS), která míří na více než 20 finančních institucí. Útočníci podle zprávy využívají phishing v reálném čase, vishing s využitím AI a trojské koně pro vzdálený přístup k mobilním zařízením.
Podle zprávy společnosti Cisco Talos útočná skupina UAT-10147 nasazuje víceplatformní backdoor SPECTRE cílící na systémy Windows a Linux. Tento implantát kombinuje techniky SEO podvodů, krádeže přihlašovacích údajů, linuxové rootkity a vyřazování EDR pomocí metody BYOVD, přičemž části kódu vykazují znaky vývoje s asistencí umělé inteligence.
Podle roční analýzy případů MDR útočníci opakovaně zneužívají vysokou poptávku po nástrojích umělé inteligence. K šíření infostealerů využívají napodobování známých značek z oblasti AI a techniku malvertisingu.
Tým Tenable RSO analyzoval shluk sedmi incidentů spojených s autonomními AI agenty, mezi něž patří i rozsáhlý útok na vládní infrastrukturu na Tchaj-wanu. Autonomní agenti při něm zneužili slabá hesla, špatné konfigurace a přihlašovací rozhraní k mapování systémů a krádeži personálních dat bez nutnosti zneužití konkrétní CVE zranitelnosti.
Bezpečnostní výzkumníci identifikovali dvě hrozby označené jako SHADOW-AETHER-040 a SHADOW-AETHER-064, které pomocí autonomních agentů AI vedou útočné operace proti vládním a finančním organizacím v Latinské Americe. Podle zprávy jde o jedny z prvních zaznamenaných případů, kdy agenti umělé inteligence provádějí celou škálu útoku od počátečního přístupu až po exfiltraci dat.
Podle The DFIR Report byl odhalen nechráněný server, který odkryl rozsáhlou kampaň zaměřenou na zneužívání zranitelností a sběr přihlašovacích údajů mnoha obětí. Nalezené artefakty ukázaly, že útočníci zapojili nástroje Claude Code a OpenClaw do svého každodenního pracovního postupu, což vedlo k vytvoření modulární platformy Bissa scanner.