Hackeři cílí na umělou inteligenci: google odhalil pokus o klonování gemini

Varování od googlu: ai není imunní vůči kybernetickým útokům

Jako Lucie Němec, vášnivá autorka a odbornice na technologické novinky, vás musím upozornit na znepokojivý trend. Google nedávno zveřejnil zprávu, která odhaluje sofistikovanou kampaň zaměřenou na jeho platformu umělé inteligence Gemini. Zjištění naznačují, že hackeři se snaží zneužít AI k urychlení a zefektivnění svých útoků. Je to důležitá připomínka, že i ty nejpokročilejší Technologie jsou zranitelné.

Nová hrozba: extrakce a destilace modelů ai

Zpráva od skupiny pro hrozby Google (Google Threat Intelligence Group) poukazuje na rostoucí trend útoků na extrakci modelů. Hackeři se snaží získat přístup k funkcím a parametrům modelů AI, což jim umožňuje kopírovat a zrychlovat vývoj vlastních AI systémů. Tento proces, známý také jako destilace, představuje formu kradež duševního vlastnictví a porušuje podmínky používání služeb Google. Je to alarmující vývoj, který by mohl mít dalekosáhlé důsledky pro inovace v oblasti AI.

Pokus o „ošíření“ gemini: více než 100 000 dotazů

Konkrétní případ, který Google odhalil, zahrnuje pokus o zneužití Gemini k získání informací o jeho fungování. Útočníci použili více než 100 000 podvodných dotazů, aby se pokusili „ošíšit“ AI a získat přístup k jejím interním procesům uvažování. Cílem bylo replikovat schopnosti Gemini v různých jazycích, což naznačuje snahu o široké využití získaných informací.

Unc6418: phishing kampaně zaměřené na ukrajinu a obranný sektor

Google identifikoval skupinu kyberzločinců, známou jako UNC6418, která se snažila zneužít Gemini k získání citlivých dat, jako jsou přihlašovací údaje a e-mailové adresy. Tyto informace byly následně použity k phishingovým kampaním zaměřeným na Ukrajinu a sektor obrany. Google již podnikl kroky k deaktivaci aktiv spojených s touto činností a zdůrazňuje důležitost proaktivního zabezpečení.

Temp.hex: shromažďování informací o separatistických skupinách

Další skupina, Temp.HEX, s vazbami na Čínu, se pokusila zneužít Gemini ke shromažďování podrobných informací o jednotlivcích a organizacích separatistických skupin v různých zemích. Google tuto aktivitu také neutralizoval a zdůraznil potřebu neustálého monitorování a ochrany AI systémů před zneužitím.

Doporučení: zvýšená opatrnost a proaktivní zabezpečení ai

Tato zjištění poukazují na rostoucí sofistikovanost kybernetických hrozeb a potřebu proaktivního zabezpečení systémů umělé inteligence. Je důležité, aby vývojáři, firmy i uživatelé byli si vědomi těchto rizik a přijali opatření k ochraně svých dat a systémů. Jako odbornice na Technologie věřím, že je klíčové neustále se vzdělávat a adaptovat na nové hrozby v digitálním prostředí.