Anthropic AI-szabályozási javaslat
Az Anthropic olyan amerikai szövetségi AI-szabályozási javaslatot dolgozott ki, amely lehetőséget adna a kormánynak egy veszélyes frontier AI-modell kiadásának vagy használatának megakadályozására, ugyanakkor magasra helyezné a beavatkozás küszöbét. A Politico által megszerzett tervezet szerint akkor lehetne ilyen intézkedést kezdeményezni, ha a modell előre látható és közvetlen veszélyt jelentene több mint egymilliárd dolláros kárra, illetve több mint 50 ember halálára vagy súlyos sérülésére.
A mechanizmus elsősorban három katasztrofális forgatókönyvre koncentrál: biológiai fegyverek létrehozásának elősegítésére, súlyos AI-támogatott kibertámadásra, illetve arra, ha egy fejlett AI-rendszer kikerülne fejlesztője ellenőrzése alól. Az Anthropic nyilvános Advanced AI Frameworkje emellett az AI által felgyorsított AI-kutatást is külön kockázati területként kezeli.
A tervezet független, a kereskedelmi minisztériumnál regisztrált értékelőkre bízná a frontier modellek vizsgálatát. Kritikus veszély észlelésekor értesítenék a minisztériumot, amely bírósághoz fordulhatna a modell blokkolásáért. Vagyis a minisztérium nem saját hatáskörben kapcsolhatná le az AI-t, a korlátozáshoz szövetségi bíró jóváhagyása is szükséges. A javaslat ugyanakkor ezt a rendkívüli szövetségi beavatkozási lehetőséget lényegében a Commerce Department köré centralizálná.
Az Anthropic szerint egyszerre van szükség erős állami beavatkozási lehetőségre és a túl széles szabályozói hatáskör megakadályozására. Kritikusai viszont éppen a magas küszöb miatt tartanak attól, hogy súlyos, de a katasztrofális szintet el nem érő AI-veszélyek esetén túl kevés mozgástér maradna.
