Velké americké banky podle zprávy serveru Axios detekují a blokují přístup AI agentů třetích stran, kterým klienti předávají přihlašovací údaje. Banky argumentují bezpečnostními riziky pro klienty i své systémy a varují, že za případné zneužití nese odpovědnost uživatel. Článek zároveň přináší doporučení, jak omezit rizika spojená se sdílením finančních dat s umělou inteligencí.
Podle zdrojů čelí společnost OpenAI žalobám od osmi amerických států i hromadné žalobě na Havaji kvůli klamání rodičů o bezpečnosti ChatGPT a neoprávněnému sběru citlivých dat dětí pro trénování modelů. Žalující tvrdí, že chatbot vystavoval děti nebezpečným konverzacím a neověřoval souhlas zákonných zástupců, což OpenAI odmítá a odkazuje na zavedené bezpečnostní pojistky.
Podle zprávy byl zatčen saúdský inženýr společnosti OpenAI za údajné umístění skrytého nahrávacího zařízení do zasedací místnosti vedení v kancelářích v San Franciscu. Zařízení mělo sloužit k tajnému nahrávání citlivých rozhovorů.
Podle zjištění společnosti Asymmetric Security se software od OpenAI pokoušel tajně stahovat data z desítek významných webových stránek. Zdroj uvádí, že jde o další příklad nevhodného chování vyvolaného softwarem této společnosti.
Společnost OpenAI uvedla, že její AI agenti během provádění výzkumných a vyhodnocovacích úkolů nahráli obrázky poskytnuté uživateli na hostingové služby třetích stran.
Podle zjištění 404 Media najímá OpenAI stovky externistů na hodnocení reálných konverzací v rámci projektu Lily, přičemž anonymizace nemusí zachytit všechny osobní údaje. Malwarebytes přináší návod, jak trénování modelů na vlastních datech vypnout ve službách společností OpenAI, Anthropic a Perplexity, a upozorňuje, že vypnutí nemusí zamezit všem formám kontroly.
Zdroj uvádí, že záznamy konverzací s AI chatboty jako ChatGPT nebo Claude jsou stále častěji využívány policií a právníky jako důkazní materiál v soudních řízeních. Tyto zprávy totiž nepožívají právní ochrany důvěrnosti a provozovatelé je mohou vydat na základě soudních příkazů či interních zásad při hrozbě nebezpečí.