Debata o regulaci AI: Dario Amodei varuje před zjednodušeným pohledem

V červenci letošního roku publikovala skupina přes 1 300 pracovníků a zástupců firem zabývajících se umělou inteligencí, včetně Anthropic a Google DeepMind, dopis, ve kterém vyjadřují obavy ohledně toho, že pokročilé modely AI – tzv. „frontier“ modely – představují posun výrazně převyšující schopnost odborníků je plně pochopit.

Dario Amodei a rizika a přínosy AI

Dario Amodei, CEO Anthropic, je jednou z klíčových osobností, která se věnuje zkoumání rizik a přínosů AI, a to jak ve svých reflexích, tak v esejích, například v „Pacing the frontier“ z července 2026 nebo „Machines of loving grace“ z října 2024. Amodei se dlouhodobě snaží upozornit na mylnou představu, že buď dojde ke koncentraci moci v rukou několika málo subjektů, nebo že regulace je definitivním řešením pro nekontrolovaný vývoj AI.

Microsoft a jeho opuštěný AI projekt Mico

Microsoft se začíná distancovat od Mico, svého AI asistenta, o jehož existenci většina lidí ani nevěděla. Tato situace se stala předmětem filozofické diskuze na X (dříve Twitter) s Gavinem Bakerem, investorem a CIO společnosti Atreides Management, který sdílel jeden z Amodeiho esejů. Baker tvrdí, že AI „by mohla vést k extrémní koncentraci ekonomické moci a proto vyžaduje pečlivou regulaci“.

Historie a nebezpečí koncentrace moci

Baker poukazuje na to, že historie již mnohokrát prokázala, že svěřování moci „absolutnímu zdroji, který by laskavě obstarával lidstvo, pokud je dostatečně osvícený, nevede k bezpečným nebo pozitivním výsledkům“. Týká se to zejména zmíněných frontier modelů, nikoliv decentralizace do menších AI modelů, což Anthropic aktivně podporuje prostřednictvím investic do těchto modelů.

Amodeiova reakce a vize budoucnosti

Baker dále naznačuje, že Amodei si „hazí kameny na vlastní střechu“, když se staví za regulaci. Amodei však v obsáhlé odpovědi na X vyvrací tuto představu a rozebírá, co ve svých esejích skutečně zamýšlel. „Hrubá analogie je…“