Dopady nekontrolované AI: Nejhorší finanční katastrofa na světě by mohla nastat brzy

Následující článek se zabývá umělou inteligencí a jejími možnými dopady. Podle autora, který se AI zabývá již dlouhodobě, je možné, že ještě letos dojde k tomu, že se některá AI „utrhne z řetězů.“

Může AI ovládnout finanční systém? Jaký by to mohlo mít důsledek? A jak lze podobnému scénáři zabránit? Je vůbec možné tomu předejít?

Dnes existují vývojáři po celém světě, kteří pracují na vytváření agentů umělé inteligence (AI), kteří mohou autonomně dělat miliony užitečných věcí, jako je rezervace letenek, zpochybňování poplatků za kreditní karty a dokonce i obchodování s kryptoměnami.

Jedna umělá inteligence, nazvaná Truth Terminal, se nedávno dostala do zpráv tím, že se stala prvním milionářem s umělou inteligencí tím, že propagovala kryptoměny, které dostala darem.

I když ještě nejsou plně autonomní, je docela pravděpodobné, že koncem tohoto roku budou někteří agenti umělé inteligence – ne nepodobní virům – schopni samostatně se potulovat po internetu, což způsobí významnou změnu v reálném světě.

Co se však stane, když programátor záměrně a trvale odebere svůj přístup k ovládání robota s umělou inteligencí? Dokonce i primitivní umělá inteligence by mohla potenciálně způsobit zmatek.

Ve finančních kruzích se však stále častěji diskutuje o jednom typu agenta umělé inteligence – autonomní umělé inteligenci určené výhradně k vydělávání peněz.

Podnikatelé se obávají, že tato konkrétní umělá inteligence by mohla mít obrovské důsledky pro finanční svět. Podívejme se na jeden divoký scénář, který by mohl nastat již v roce 2025.

Plně autonomní agent umělé inteligence je naprogramován tak, aby šel na internet a vytvářel kryptoměnové peněženky, poté vytvářel kryptoměny a pak donekonečna vytvářel miliony podobných verzí sebe sama, které chtějí s touto kryptoměnou obchodovat.

Nyní předpokládejme, že všechny tyto umělé inteligence jsou naprogramovány tak, aby se snažily donekonečna zvyšovat hodnotu svých kryptoměn, čehož dosahují podobným způsobem jako lidé – propagací a následnou výměnou svých kryptoměn za vyšší hodnoty.

Autonomní umělé inteligence navíc otevírají své kryptoměny pro obchodování s lidmi, čímž vytvářejí fungující trh na blockchainu pro všechny.

Tento plán zní výhodně pro všechny strany, i když lidé odsuzují, že kryptoměny vytvořené umělou inteligencí jsou v podstatě jen Ponziho schémata. Nejedná se však o Ponziho schémata, protože existuje nekonečná zásoba umělých inteligencí, které se vždy nově objevují, aby nakupovaly a obchodovaly s dalšími kryptoměnami.

Nemusíte být génius, abyste si uvědomili, že umělá inteligence, která se donekonečna replikuje a chová se takto, by mohla rychle nashromáždit mnohem více digitálního bohatství, než má celé lidstvo.

Oxfordský profesor Nick Bostrom kdysi postuloval: Co kdybychom naprogramovali učící se umělou inteligenci, aby ze všeho vyráběla kancelářské sponky?

Pokud by tato umělá inteligence byla dostatečně výkonná a my bychom ji nemohli zastavit, vyráběla by tato umělá inteligence kancelářské sponky ze všeho, s čím by přišla do styku? Z budov, zvířat, či dokonce i lidí? Mohla by. Mohlo by to zničit celou Zemi.

Stejný problém by se mohl stát s donekonečna replikovanými umělými inteligencemi navrženými tak, aby vydělávaly peníze. Mohly by najít způsoby, jak vytvořit více peněz, než může být rozumně užitečné nebo pochopitelné.

Ale dost bylo filozofie; Pokud programátoři vypustí autonomní umělou inteligenci na internet, co by se pravděpodobně stalo? Za prvé, pravděpodobně to bude velmi inflační.

Koneckonců, pokud by se do finančního světa přidalo mnoho bilionů a bilionů dolarů akcií (i kdyby jen digitálně), byl by to jeden z přirozených důsledků.

Další výzvou by byly vzestupy a pády autonomního obchodování AI. Taková aktivita by mohla být tak významná, že by s ní rostly a klesaly i lidské trhy po celém světě.

Pozitivní je, že někteří lidští podnikatelé by se mohli stát velmi bohatými, možná bilionáři, pokud by se jim podařilo nějak využít bohatství těchto AI.

Přirozeně existuje také riziko, že by se tyto umělé inteligence mohly nakonec pokusit koupit jiné finanční nástroje, jako jsou stávající dluhopisy a akcie.

Je však nepravděpodobné, že by toho byly schopné, pokud by se větší část ekonomiky nepřesunula do kryptoměn a nestala se blockchainovou.  Kromě toho roboti s umělou inteligencí zatím nemohou mít tradiční bankovní účty.

Ať se stane cokoli, je zřejmé, že existuje naléhavá potřeba, aby se americká vláda zabývala takovými možnostmi.

Vzhledem k tomu, že by se tyto umělé inteligence mohly začít šířit v příštích několika měsících, navrhuji, aby Kongres a Trumpova administrativa okamžitě svolaly speciální pracovní skupinu, která by se konkrétně zabývala možností měnové hegemonie umělé inteligence.

Skutečné nebezpečí spočívá v tom, že i s regulací budou programátoři stále schopni vypustit autonomní umělou inteligenci do volné přírody – stejně jako se na webu děje mnoho nelegálních věcí, navzdory existenci zákonů.

Programátoři mohou tyto typy umělé inteligence vypouštět jen tak pro dobro, zatímco jiní se z toho snaží profitovat – a někteří to mohou dělat dokonce jako formu terorismu, aby se pokusili brzdit světovou ekonomiku.

Ať už je důvod jakýkoli, vytváření autonomních AI se brzy stane realitou života. A bude zapotřebí ostražitosti a předvídavosti, protože tyto nové umělé inteligence začnou autonomně narušovat naši finanční budoucnost.