Podle nedávného prohlášení se ukázalo, že mezi únikem informací se objevila jména uživatelů, e-mailové adresy, identifikační čísla organizací a jednotlivců, stejně jako přibližné umístění a IP adresy. Tato zjištění vyvolala silnou reakci, zejména z úst Daria Povilaitise, vedoucího kybernetické bezpečnosti společnosti Telia, který zdůraznil důležitost této zprávy pro podniky.
Pokud vaše společnost používá automatizovaná řešení umělé inteligence (AI), je vysoce pravděpodobné, že tyto systémy fungují prostřednictvím rozhraní API. API (Application Programming Interface) slouží jako most, který umožňuje interním systémům firem, jako jsou platformy zákaznického servisu nebo nástroje pro personální správu, automaticky vyměňovat data s modely OpenAI.
Data a související rizika
Podle D. Povilaitise každá integrace představuje určitou hrozbu. Ačkoliv samotné modely AI jsou bezpečné, rozhraní s nimi zanechává datové stopy, které mohou být zneužity podvodníky.
Je důležité, aby integrace ze strany firmy jasně omezila přístup k údajům a stanovila přesné provozní zásady. Data by měla být shromažďována jen v takovém množství, které je nezbytné pro konkrétní potřeby. V třetích zemích by neměla být uchovávána – měly by být pouze použity a okamžitě smazány. Firmy musí neustále sledovat, jaké údaje předávají třetím osobám, kam směřují a zda není zneužívána. Vše musí probíhat v reálném čase,“ říká D. Povilaitis.
Omezení rizika při používání AI
Aby se snížilo riziko, odborníci doporučují třídění informací podle citlivosti. U systému AI by mělo být poskytováno pouze anonymní obsah – například text bez konkrétních detailů nebo technického kódu. Anonymizovaná data jsou přijatelná, ale rozhodně by neměla být sdílena citlivá informace: osobní údaje, hesla nebo důvěrné dokumenty.
Jak lidé využívají ChatGPT?
ChatGPT a nástroje umělé inteligence se staly součástí každodenního života mnoha lidí. Tvořící tito nástroje uvádějí, že jejich program má 700 milionů aktivních uživatelů týdně. Vzhledem k širokému spektru využití se však někdy obtížně chápe, zda plně využíváte jejich potenciál nebo zda vám něco uniklo.
Použití ChatGPT je tak rozmanité, že když se setkáte s přáteli, vždy se o něm bavíte – „Používáš to? Já to používám pro… Dařilo se ti to udělat? A já bych se zeptal takto.“ Existují jasné výhody pro programátory a ty, kteří pracují s úpravou textu; ostatním by mohlo trvat déle, než zjistí, jak to mají sami aplikovat,“ říká Luka Keraitis, inovace expert společnosti Tele2.
Podle tvůrců ChatGPT z OpenAI uživatelé nejčastěji tento nástroj využívají pro psaní a editaci textu a kódu, přičemž na třetím místě jsou zdravotní dotazy. Je však dobré mít na paměti, že takové odpovědi by měly být brány spíše jako jedna z názorových variant a neměli byste jim bezmezně důvěřovat.
Problematika stínové AI
Incident rovněž upozornil na problém nazývaný „stínová AI“, kdy zaměstnanci samostatně používají AI nástroje. V zprávě o kybernetické bezpečnosti společnosti Cisco pro rok 2025 se uvádí, že 60 % IT oddělení ve firmách o praktice této technologie nemá tušení.
„Pokud firma neposkytuje bezpečné a uživatelsky přívětivé AI nástroje, zaměstnanci si je budou hledat sami – ne ze zlého úmyslu. Lidé chtějí pracovat rychleji, lépe a šetřit čas. Právě zde může nastat problém, protože dobré úmysly mohou neúmyslně otevřít dveře bezpečnostním rizikům,“ vysvětluje vedoucí kybernetické bezpečnosti.
Opatření pro ochranu dat v budoucnosti
Aby se v budoucnu ochránila data, odborník doporučuje komplexní opatření. Především je nezbytné přísně oddělit osobní a pracovní účty – firmy musí svým zaměstnancům zajistit přístup k centralizovaným AI nástrojům, které splňují bezpečnostní standardy, a vnitřní politika organizace by měla jasně stanovit pravidla jejich používání.
Uživatelům se doporučuje v nastavení „ChatGPT“ deaktivovat funkci, která umožňuje používání informací z konverzací k trénování modelů, a ve všech účtech aktivovat dvoufaktorovou autentifikaci (MFA).
Doplňkovou úroveň ochrany mohou soukromým osobám poskytnout technické prostředky, jako například Telia Safe. Tato aplikace zajišťuje, že vaše údaje se nedostanou do nesprávných rukou, a v případě úniku vás okamžitě upozorní.
