Anthropic obviňuje čínské firmy z krádeže know-how modelu claude
Obvinění z krádeže dat
Společnost Anthropic, lídr v oblasti umělé inteligence, v ostrém prohlášení obvinila čínské firmy z krádeže know-how z jejího populárního modelu Claude. Podle Anthropic se k tomuto činu dopustily společnosti DeepSeek, Moonshot AI a MiniMax, které údajně používaly tisíce falešných účtů k získání přístupu a kopírování chování systému.
Metoda „distilace“
Použitá metoda, známá jako „distilace“, spočívá v trénování vlastního modelu umělé inteligence pomocí dat generovaných pokročilejším systémem. Ačkoli se jedná o běžnou techniku v oboru, Anthropic tvrdí, že čínské firmy porušily podmínky používání a regionální omezení přístupu k modelu Claude.
Rozsah operace
Podle Anthropic koordinovaná kampaň zahrnovala více než 24 000 simulovaných účtů a 16 milionů interakcí s modelem Claude. Cílem bylo získat dostatek dat pro trénink vlastních systémů umělé inteligence a dosáhnout srovnatelného výkonu s Claudem bez nutnosti replikovat jeho složitou architekturu.
Rizika pro bezpečnost ai
Anthropic zdůrazňuje, že tato praktika představuje riziko pro vývoj bezpečné AI. Investice do návrhu modelů s vysokými standardy bezpečnosti a etické vyrovnalosti by mohla být zmařena, pokud třetí strany kopírují data bez ohledu na původní záměry.
Právní problémy a obtížnost prokazování
Problémem je, že prokázat nelegální kopírování je v případě umělé inteligence mimořádně obtížné. Na rozdíl od tradičního softwaru, systémy AI generují znalosti probabilisticky, což ztěžuje rozlišení mezi legitimním učením a porušením autorských práv.
Geopolitické důsledky a nedostatek legislativy
Obvinění Anthropic by mohla mít geopolitické důsledky, jelikož by naznačovala, že Čína sníží cenu vývoje AI pomocí neetických praktik. Nicméně, odborníci upozorňují na nedostatek právních rámců, které by jasně definovaly duševní vlastnictví v oblasti umělé inteligence. Tento typ „krádeží“ se pravděpodobně bude v budoucnu vyskytovat stále častěji.
Slova inženýra anthropic
Boris Cherny, inženýr z Anthropic, nedávno prohlásil, že vývoj AI bude pro mnoho lidí „bolestivý“, což odráží rostoucí konkurenci a tlak na inovace v tomto odvětví. Rozhraní mezi přijatelným učením a zneužitím je často nejasné a vyžaduje pečlivou analýzu.