OpenAI představuje Astra: Nový model AI s omezeným přístupem pro posílení kybernetické bezpečnosti

OpenAI, Anthropic, Google, Microsoft, AWS a Palo Alto Networks jsou jen některé z firem, které podepsaly otevřený dopis s cílem posílit bezpečnost v souvislosti s rychlým vývojem umělé inteligence a rostoucími riziky.

Astra: Zvýšené schopnosti v oblasti kybernetické bezpečnosti

OpenAI oznámila plány na spuštění nového a výkonného modelu AI, Astra, který bude mít omezený přístup a bude omezovat využití pokročilých funkcí kybernetické bezpečnosti. Podle OpenAI Astra představuje „významné zvýšení schopností v oblasti kybernetické bezpečnosti ve srovnání s GPT-5.6 Sol“, což znamená, že je „výrazně efektivnější v používání tokenů a schopnější v identifikaci zranitelností a vývoji exploitů“.

Spuštění bude omezené a zaměřené na obranné účely po posílení tréninku s cílem minimalizovat riziko vážných kybernetických škod. Tento krok navazuje na nedávný incident kybernetické bezpečnosti společnosti Hugging Face.

Zastavení tréninku a posílení bezpečnosti

OpenAI již dříve oznámila vývoj modelu Astra, který byl dočasně pozastaven, aby se přizpůsobil bezpečnostním standardům interního hodnocení. Sam Altman, CEO OpenAI, v rozhovoru pro TIME zdůraznil, že jeho společnost vždy upřednostňuje bezpečnost před rychlým rozvojem. V polovině srpna společnost implementovala nová bezpečnostní opatření a na více než dva týdny zastavila trénink modelů, což je poprvé v historii OpenAI.

Altman na platformě X (dříve Twitter) vyzval celý sektor k rychlé a kolektivní reakci: „Toto je kriticky důležitý moment pro kybernetickou obranu s využitím AI, není moc času na jednání.“