Rychlý souhrn

• Pentagon dal Anthropicu lhůtu do pátku na odstranění omezení AI modelů.
• Hrozí označením za riziko pro dodavatelský řetězec a uplatněním zákona o obranné produkci (DPA).
• Anthropic odmítá masové sledování Američanů a autonomní zbraně.
• Claude je jediný AI model s přístupem do tajných systémů amerického ministerstva obrany (DoD).
• Alternativy jako xAI už spolupracují bez omezení.

Konflikt mezi Pentagonem a Anthropicem eskaluje do bezprecedentního sporu o budoucnost umělé inteligence v rukou armády. Americký ministr obrany Pete Hegseth se v úterý setkal s výkonným ředitelem (CEO) společnosti Anthropic Dariem Amodeiem a dal firmě ultimátum: do pátku do 17:01 musí ze svých AI modelů odstranit bezpečnostní mantinely (guardrails), jinak bude čelit tvrdým opatřením.

Co přesně Pentagon požaduje?

Pentagon má se společností Anthropic smlouvu v hodnotě 200 milionů dolarů na přístup k modelu Claude, který je jediným pokročilým AI modelem s přístupem do utajovaných systémů americké armády. Armáda chce neomezené použití pro „všechny legální účely“, včetně kybernetických operací, ale Anthropic trvá na svých červených liniích: zákaz masového domácího sledování amerických občanů a fyzických útoků, kde AI rozhoduje o cílech bez lidského zásahu.

Toto napětí vyvrcholilo po zprávách, že Claude byl použit při operaci na dopadení bývalého venezuelského prezidenta Nicoláse Madura v lednu. Anthropic o tom prý nevěděl a dozvěděl se o tom až z médií prostřednictvím partnera, společnosti Palantir.

Hrozby: Černá listina a zákon o obranné produkci

Pentagon plánuje označit Anthropic za riziko pro dodavatelský řetězec – označení obvykle vyhrazené pro firmy spojené s nepřátelskými státy, jako jsou Čína nebo Rusko. To by znamenalo zákaz spolupráce pro vládní dodavatele. Současně hrozí aktivací zákona o obranné produkci (DPA), který umožňuje vládě donutit firmy k prioritní produkci pro národní obranu. DPA byl použit mimo jiné během pandemie covidu-19 na výrobu ventilátorů a roušek.

Tento krok by byl významným rozšířením využití DPA na oblast etiky AI a vyvolává obavy z politického nátlaku. Dean Ball, expert z Foundation for American Innovation, varuje: „Je to jako říct: Nesouhlasíš s námi politicky? Zničíme ti firmu.“ Kritici v tom vidí narušení stability USA jakožto centra inovací.

Postoj společnosti Anthropic: Etika nad kontraktem?

Anthropic, firma založená bývalými manažery OpenAI, si zakládá na odpovědné AI. CEO Amodei veřejně varuje před zneužitím pro autoritářské účely, jako je detekce „neloajality“ v miliardách konverzací. Mluvčí firmy potvrdila, že setkání proběhlo „v dobré víře“, a zdůraznila pokračování podpory národní bezpečnosti v souladu s možnostmi modelů. Podle zdrojů ale Anthropic neplánuje ustoupit.

iZdroj obrázku

Zdroj: wikipedia.org

Alternativy pro Pentagon: xAI a další

Armáda nemá okamžitou náhradu – Claude je nezastupitelný pro rychlé kyberútoky nebo plánování operací. Pentagon ale uzavřel dohodu se společností xAI Elona Muska (model Grok) pro utajované systémy a spolupracuje se společnostmi Google a OpenAI. Společnost xAI souhlasí s použitím bez omezení, což zvyšuje tlak na Anthropic.

Širší kontext a dopady

Tento spor odhaluje ideologické napětí: někteří v administrativě, včetně zmocněnce pro AI (tzv. AI cara) Davida Sackse, kritizují politiku společnosti Anthropic jako „woke“. Demokraté chválí firmu za zodpovědnost v době, kdy chybí příslušná legislativa. Pokud dojde k roztržce, DoD poruší směrnici z Bidenovy éry o vyhnutí se závislosti na jediném dodavateli.

Experti předpovídají kompromis: ponechat si přístup k modelu Claude až do přechodu na alternativy. Úterní setkání bylo popsáno jako „nikoli přátelské, spíše ve stylu ‚udělej to, nebo běž od toho‘“. Situace zůstává otevřená – Anthropic může přijít o kontrakt a Pentagon riskuje, že zůstane bez klíčové technologie.