Odchod předního experta Jacoba Coxona z firmy Anthropic kvůli obavám, že se pokročilé systémy umělé inteligence vymknou kontrole, rozpoutal novou vlnu strachu a volání po zpomalení vývoje. Přestože šéfové technologických gigantů varují před existenciálními riziky, konkrétní scénáře likvidace lidstva vyžadují, aby modely výrazně překonaly lidský intelekt a získaly přímou fyzickou kontrolu nad klíčovými technologiemi, jako jsou biotechnologie či zbraně.
Reálná rizika spojená s nástupem AI tak nespočívají v okamžitém scénáři sci-fi katastrof, ale spíše v bezprostředních sociálních dopadech, masivním šíření dezinformací, zneužití autonomních systémů nebo v regulatorních snahách posílit moc úzkého okruhu korporací. Budoucí stabilita závisí na tom, zda se podaří nastavit efektivní mezinárodní pravidla dříve, než se technologie vymknou lidské kontrole.