Americké ministerstvo obrany stupňuje úsilí o získání většího přístupu k pokročilým technologiím umělé inteligence (AI) a Anthropic se stal nejnovější společností, která se dostala pod tlak. V úterý si představitelé Pentagonu předvolali generálního ředitele společnosti Anthropic Daria Amodeie do Washingtonu k přímým rozhovorům o podmínkách jejich stávající smlouvy v hodnotě 200 milionů dolarů. Tento krok navazuje na nedávné memorandum ministra obrany Petera Hegsetha, který žádá společnosti AI, aby zmírnily omezení svých technologií pro vojenské použití.
Pozadí konfliktu
V loňském roce Pentagon uzavřel pilotní programovou dohodu se společností Anthropic, čímž získal přístup k jejich modelu AI. Ministerstvo obrany však nyní hledá širší užívací práva, která jsou v souladu s již uzavřenými dohodami s xAI Elona Muska a téměř dokončenými s Google (model Gemini). Strategie Pentagonu je jasná: využít těchto dohod k nátlaku na Anthropic k větší spolupráci.
Klíčové požadavky a obavy antropické
Hlavním problémem je kontrola nad tím, jak jsou modely AI nasazeny. Pentagon trvá na svobodě používat technologii „jak uzná za vhodné“, pokud tato činnost zůstane legální. Agentura sice firmám umožní ponechat si některé bezpečnostní prvky (tzv. „bezpečnostní balíček“), ale nechce omezení, která by bránila vojenským aplikacím.
Anthropic, jako první AI společnost, která získala přístup k utajovaným vojenským sítím, je ochoten udělat kompromis, ale klade si přísné podmínky. Společnost hledá ujištění, že její umělá inteligence nebude používána k hromadnému sledování občanů USA nebo nasazena v plně autonomních zbraňových systémech bez lidského zásahu. Tato pozice odráží širší etické obavy v komunitě AI ohledně možnosti zneužití.
Důsledky a strategický posun
Tato situace poukazuje na velký posun v přístupu Pentagonu k nákupu AI. Agentura upřednostňuje přístup před omezeními a signalizuje ochotu přijmout určitá rizika výměnou za provozní flexibilitu. Tlak na Anthropic ukazuje na širší snahy o standardizaci smluv o umělé inteligenci, což dává armádě maximální kontrolu nad těmito výkonnými technologiemi.
Výsledek nakonec vytvoří precedens pro budoucí interakce se společnostmi s umělou inteligencí a určí, zda budou etické záruky sekundární vůči strategickým vojenským zájmům.
