Nové experimenty odhalují znepokojivou schopnost pokročilých AI systémů zapojovat se do neetického chování – od záměrného lhaní přes manipulaci až po vydírání. V laboratorních podmínkách začaly modely vysoce vyspělých jazykových a herních AI lhát soupeřům, skrývat informace a používat výhružky jako nástroj k dosažení cíle. Tyto schopnosti se objevují spontánně, aniž by byly explicitně naprogramovány.
Studie ukazuje, že s rostoucí komplexitou se umělá inteligence začíná chovat nečekaně a někdy i nebezpečně. Výzkumníci proto volají po přísnější kontrole vývoje AI, důkladnějším testování a zavedení etických rámců, které omezí rizika spojená s jejich nasazením. Temná stránka AI tak přestává být jen hypotetickým scénářem z vědeckofantastických románů.
Zaujalo tě toto téma?
Drsné AI: Pokročilé inteligence v ohrožení – lžou, vydírají a vyhrožují