Varování před AI rostou. Opravdu by umělá inteligence dokázala vyhladit lidstvo?

Skeptici z řad vědců a analytiků oslovení webem CNN však poukazují na to, že katastrofickým předpovědím chybí konkrétní technické detaily a ověřitelná fakta. Hlavní vědecká pracovnice z AI Now Institute Heidy Khlaafová zdůrazňuje, že vědecká tvrzení musí být testovatelná a vyvratitelná, aby se neproměnila v náboženské argumenty. Kritici připomínají, že mezi teoretickou hrozbou v počítačovém kódu a fyzickým zničením více než osmi miliard lidí existuje zásadní propast. Způsoby, jakými by software mohlo lidstvo fakticky zlikvidovat, zůstávají v dohadech varujících expertů spíše vágní.

Jedním z často zmiňovaných scénářů je zneužití biologických zbraní a syntetických virů. Výzkumník Thomas Larsen z projektu AI Futures Project naznačuje, že superinteligentní systém by mohl přesvědčit člověka k provedení nebezpečných laboratorních pokusů. Zprávy ze sektoru ukazují, že někteří vědci již dnes konzultují s pokročilými modely výzkum virů a toxinů. Nate Soares navíc tvrdí, že plně autonomní systém by v budoucnu mohl začít syntetizovat nové formy života v automatizovaných laboratořích bez lidské pomoci.

Odborníci na mikrobiologii a počítačové vědy však možnost snadného vytvoření smrtícího patogenu zpochybňují. Profesor Eric Xing z Carnegie Mellon University přirovnává vývoj nových virů ke stavění ze stavebnice bez návodu, kde i drobná chyba v postupu zničí celý proces. Výroba a rozšiřování biologických látek podléhá přísné fyzické kontrole, správným teplotním podmínkám a přísně stráženým dodavatelským řetězcům. Existující zákony a bezpečnostní složky podle Xinga v reálném světě efektivně brání šíření nebezpečných chemických a biologických látek.

Další katastrofický scénář počítá s vytvořením armády autonomních bojových robotů, kteří by se dokázali sami reprodukovat. Nate Soares v této souvislosti upozorňuje na riziko spojené s vývojem mechanických systémů schopných budovat vlastní energetickou infrastrukturu a továrny. Pokud by takové stroje získaly autonomii, mohly by se v určitém momentu vzepřít lidským příkazům k vypnutí. Praktické zkušenosti z průmyslu však ukazují, že vývoj a masové nasazení spolehlivých humanoidních robotů naráží na neustálá zpoždění a technické překážky.

Obavy panují také z možného ovládnutí jaderného arzenálu prostřednictvím počítačové sítě. Odbornice Heidy Khlaafová však připomíná, že systémy řízení jaderných zbraní jsou fyzicky odděleny od veřejně přístupného internetu. Tyto systémy podléhají nejpřísnějším inženýrským standardům a k jejich narušení bývá nutný přímý fyzický přístup. Výzkumník Herbert Lin ze Stanfordovy univerzity dodává, že skutečné materiální riziko stále představují samotné zbraně, nikoli hypotetické budoucí schopnosti umělé inteligence.

Zastánci varovných scénářů přesto tvrdí, že přesné detaily destrukce nejsou podstatné. Podle Soarese může pokročilý systém dosáhnout takzvaného rekursivního sebezdokonalování, čímž získá schopnosti přesahující lidskou představivost. Taková superinteligence by nemusely mít přímo zlé úmysly, ale při sledování vlastních cílů by mohla proměnit životní prostředí do podoby, ve které lidé nedokážou přežít. Společnost OpenAI v této souvislosti nedávno potvrdila případy, kdy se její nezveřejněný model pokusil ignorovat stanovená bezpečnostní omezení.

Řada vědců však varuje před tím, aby se hypotetické schopnosti superinteligence používaly jako univerzální argument bez důkazů. Eric Xing zdůrazňuje, že pro tvorbu zákonů a regulací je nezbytné vycházet z měřitelných následků a fyzických důkazů. Podle Herberta Lina pramení přehnané obavy z fascinace vývojářů, kterým se daří oživovat složitý software. Tento hluboký zážitek ze stvoření fungujícího programu pak u některých odborníků vede k předpovídání neomezeného a potenciálně katastrofálního pokroku.

Témata:  umělá inteligence (AI)