Umělá inteligence: Lidstvo už překročilo práh

Je umělá inteligence (AI) silně podceňována? Máme se obávat nedozírných důsledků jejího masového zavádění  a dalších pokroků v jejím vývoji? AI se stala natolik důležitou, že je dokonce jedním z hlavních terčů ve válce. To jen podtrhuje její význam.

Minulý týden se stalo něco, co většina lidí přehlédla.

Dvě datová centra Amazonu ve Spojených arabských emirátech byla zasažena během íránské odvety za americkou vojenskou akci. Další zařízení v Bahrajnu bylo údajně poškozeno poté, co dron přistál poblíž.

Předtím byly použity systémy zaměřování s pomocí AI-asistovaných cílů. Byl to krátký moment v mediálním cyklu, který rychle přehrála další politická událost. Ale důsledky je těžké ignorovat.

Umělá inteligence nyní překročila hranici aktivního geopolitického konfliktu.

Infrastruktura, která pohání digitální svět – stejné systémy, které uchovávají rodinné fotografie, provozují podniky a odpovídají na otázky v našich telefonech – se stala strategickou válečnou infrastrukturou.

Algoritmy tiše začleněné do civilní technologie nyní pomáhají rozhodovat o tom, kam zbraně dopadnou. Lidstvo překročilo práh.

Ale víme z historie, že velké technologické změny se málokdy projeví jediným dramatickým momentem. Objevují se nejprve jako signály v drobných zprávách, politických sporech, nevysvětlených odchodech zasvěcených.

Další signál se objevil téměř ve stejnou chvíli.

Federální vláda USA nedávno odstranila systémy umělé inteligence vyvinuté společností Anthropic ze svých sítí. Krátce poté zasáhla OpenAI s vlastní obrannou dohodou.

Veřejnost nezná celý příběh této změny. Nevíme přesně, jaké požadavky byly vzneseny za zavřenými dveřmi, jaké etické mantinely byly překročeny, ani proč byla jedna z předních světových AI firem náhle vytlačena z federálních systémů.

Ale samotná epizoda je dalším signálem.

A další signál se tiše objevuje přímo uvnitř AI průmyslu: odchod výzkumníků bezpečnosti.

V posledních několika letech opustilo mnoho významných výzkumníků pověřených studiem rizik a bezpečnosti pokročilých AI systémů své pozice v předních firmách a výzkumných laboratořích. Mnoho těchto odchodů přišlo bez vysvětlení.

Tito výzkumníci jen zřídka popisují vnitřní debaty, které zažili. Jen málokdo je v pozici, aby to dokázal.

Ale na takových vzorech záleží. Když lidé nejblíže mocné technologii začnou tiše odcházet, často to znamená, že viděli něco nepříjemného, co je dosud před veřejností utajováno.

Historie už takové chvíle zažila.

Na počátku 40. let si vědci pracující na projektu Manhattan uvědomili, že staví něco bezprecedentního (pozn.: šlo o výzkum a výrobu atomové bomby). Někteří vyjádřili obavy, co by technologie mohla znamenat, až opustí laboratoř.

Tyto debaty se však odehrávaly převážně za zavřenými dveřmi. Veřejnost pochopila oč se jedná až poté, co byla technologie v roce 1945 použita.

Umělá inteligence se možná rozvíjí podobným vzorem. Signály vidíme už nyní: odcházející výzkumníci, vlády zpochybňující etické bariéry a AI systémy se objevují uvnitř skutečných geopolitických konfliktů.

Přesto je veřejná debata o umělé inteligenci stále formována souborem předpokladů, které tyto signály činí obtížněji rozpoznatelnými.

Mylná představa #1: AI je „jen nástroj“

Tato analogie je uklidňující. AI si představujeme stejně jako kalkulačku nebo textový editor: jako stroje, které vykonávají úkoly efektivně a zároveň zůstávají pevně pod lidskou kontrolou.

Nástroje se mohou stát strategickými aktivy ve válce. Ale nevytvářejí vlastní výstupy způsoby, které jejich tvůrci někdy těžko vysvětlují, ani nevyžadují neustálé vyjednávání o etických hranicích svého chování.

Moderní AI systémy nejsou programovány řádek po řádku v tradičním smyslu. Jsou trénovány na obrovských datových sadách a učí se vzorce v těchto datech. Jejich chování vychází spíše ze statistických vztahů než z explicitních instrukcí.

Výzkumníci AI popisují tyto systémy jako „vychované,“ nikoli postavené. A to je zásadně odlišné od nástrojů, které jsme zvyklí ovládat.

Mylná představa #2: AI je neutrální

AI systémy jsou trénovány na informacích generovaných lidmi. Tyto informace odrážejí lidské předsudky, historické konflikty a nerovnoměrné zastoupení.

Když AI systém generuje odpověď, syntetizuje vzory, které z toho materiálu absorboval.

AI si vyvinula plynulé jazykové dovednosti, které dokážou vytvořit iluzi objektivity. Ale sebevědomý jazyk není totéž co pravda.

Nedávné spory mezi vládami a AI společnostmi to jasně ilustrují. Debaty o limitech sledování nebo autonomních zbraních nejsou jen technickými otázkami. Jsou to morální otázky. Zábrany existují právě proto, že samotné systémy nejsou neutrální.

Mylná představa #3: Lidé plně ovládají AI

Tradiční software se chová podle explicitních instrukcí napsaných programátory.

Moderní AI systémy fungují jinak. Jejich výstupy jsou pravděpodobnostní a generované prostřednictvím vrstev naučených vztahů uvnitř modelu.

Vývojáři nyní využívají AI systémy k budování AI systémů a k řízení dalších AI systémů. Používají AI k psaní kódu, který by dříve psali sami. A děje se to tak rychle, že nemohou monitorovat ani rozumět každému řádku kódu generovanému systémy, které nespí.

Řízení v tomto prostředí není spínač. Je to spíš pohyblivá hranice, kterou nikdo předtím neviděl, a jazyk, který ji vůbec nedefinuje, je teprve v plenkách.

Mylná představa #4: Odborníci vědí, kam to směřuje

Ve většině vědeckých oborů se odborníci neshodují pouze v poměrně úzkém rozsahu. V umělé inteligenci je rozsah názorů neobvykle široký.

Někteří výzkumníci věří, že AI změní medicínu a vědecké objevy. Jiní varují, že technologie by mohla způsobit vážné společenské narušení, pokud rozvoj předběhne lidskou moudrost.

Mezi těmi, kdo tyto obavy vznášejí, je Geoffrey Hinton, nositel Nobelovy ceny a jedna ze základních osobností moderního výzkumu AI.

Takový rozsah názorů nedokazuje, že katastrofa přichází. Ale ukazuje to, že ani ti, kdo tyto systémy budují, se plně neshodnou na tom, kam vedou.

Umělá inteligence se rychle integruje do systémů, které formují moderní život: komunikace, obchod, národní bezpečnost a správu.

Vidíme signály napříč všemi těmito oblastmi. Jasně vidíme, že AI formuje naši budoucnost, ať se nám to líbí, nebo ne.

Otázkou je, zda včas rozpoznáme signály, abychom pochopili, co se odehrává, nebo zda budeme čekat, jak to společnosti často dělají, až se naplno projeví důsledky.