Zničí nás všechny AI? Průkopník umělé inteligence vidí v AI smrtelné nebezpečí

Stále více odborníků varuje před tím, že příliš vyspělá umělá inteligence již bude schopna zničit své vlastní tvůrce. Pokud bude chtít převzít nadvládu nad planetou, není nic jednoduššího než lidstvo zlikvidovat.

Zničí nás tedy umělá inteligence všechny? Jeden z průkopníků v této oblasti varoval, že pokud nebude umělá inteligence vypnuta, tak všichni zemřou.

Technologie umělé inteligence se vyvíjí exponenciálně a zdá se, že je jen otázkou času, než vytvoříme bytosti, které dokážou myslet milionkrát rychleji než my a dokážou téměř cokoli dělat lépe než my.

Co se tedy stane, když nad takovými bytostmi ztratíme kontrolu? Některé modely umělé inteligence již přebírají iniciativu a učí se nové jazyky a jiné se naučily lhát a manipulovat lidmi ve svůj vlastní prospěch.

Je samozřejmé, že lhaní je nepřátelský akt. Pokud jsme již stvořili bytosti, které jsou ochotné nám lhát, jak dlouho bude trvat, než budou schopny vykonávat činy, které jsou pro nás ještě škodlivější?

Nikdo neočekává, že nás umělá inteligence zítra všechny vyhladí. V časopise Time však vyšel článek napsaný průkopníkem v oblasti umělé inteligence, který varuje, že umělá inteligence nás nakonec všechny vyhladí.

Eliezer Yudkowsky je od roku 2001 uznávaným výzkumníkem v oblasti umělé inteligence a říká, že mnoho vědců dospělo k závěru, že pokud budeme pokračovat současnou cestou, zemře doslova každý člověk na Zemi…

Mnoho výzkumníků, kteří se těmito tématy intenzivně zabývají, včetně mě, předpokládá, že vývoj nadlidsky inteligentní umělé inteligence by za současných okolností s největší pravděpodobností vedl k tomu, že by zemřel doslova každý člověk na Zemi.

Ne ve smyslu, že je možná je malá šance, ale ve smyslu, že to je samozřejmá věc, která by se stala.

To je velmi silné prohlášení.

Po celém světě jsou modely umělé inteligence stále výkonnější

Podle Yudkowského, jakmile někdo vyvine model umělé inteligence, který je příliš výkonný, každý jednotlivý člen lidského druhu a veškerý biologický život na Zemi krátce poté zemře…

Yudkowski k tomu říká:

„Pokud si představujete nepřátelskou nadlidskou umělou inteligenci, nepředstavujte si neživého, sečtělého myslitele, který žije na internetu a posílá škodlivé e-maily.

Představte si celou nadpozemskou civilizaci, která myslí milionkrát rychleji než lidé a je zpočátku omezena na počítače – ve světě tvorů, kteří jsou z jejího pohledu velmi hloupí a velmi pomalí.

Dostatečně inteligentní umělá inteligence se nebude dlouho omezovat jen na počítače. V dnešním světě mohou být řetězce DNA zasílány e-mailem do laboratoří, které produkují proteiny na vyžádání, což umožňuje umělé inteligenci, zpočátku omezené na internet, vytvářet umělé formy života nebo přejít přímo k postbiologické molekulární výrobě.

Pokud někdo za současných podmínek vytvoří umělou inteligenci, která je příliš výkonná, předpokládám, že každý jednotlivý člen lidského druhu a veškerý biologický život na Zemi krátce poté zemře.“

Jaké je tedy řešení?

Yudkowsky se domnívá, že musíme okamžitě zastavit veškerý vývoj umělé inteligence…

Vypněte všechno.
Nejsme připraveni. Nejsme na cestě k tomu, abychom byli v dohledné budoucnosti lépe připraveni. Pokud to bude takto pokračovat, zemřou všichni, včetně dětí, které si to nevybraly a neudělaly nic špatného.

To se samozřejmě nestane.

Ve skutečnosti viceprezident J.D. Vance nedávno prohlásil, že by nebylo moudré pozastavit vývoj umělé inteligence, byť jen dočasně.

21. května J.D. Vance, viceprezident Spojených států, popsal vývoj umělé inteligence jako „závody ve zbrojení“ s Čínou. „Pokud by si Amerika dala pauzu od obav o bezpečnost umělé inteligence, mohla by se ocitnout v područí umělé inteligence kontrolované ČLR,“ řekl.

Myšlenka zúčtování mezi supervelmocemi, které vyvrcholí okamžikem triumfu nebo porážky, neúnavně koluje ve Washingtonu i jinde. Tento měsíc šéfové Openai, AMD, CoreWeave a Microsoftu obhajovali uvolnění regulací a vykreslovali umělou inteligenci jako ústřední pro udržení americké globální dominance.

Prezident Donald Trump vyjednal 15. května dohodu o umělé inteligenci se Spojenými arabskými emiráty, která podle něj zajistí americkou dominanci v oblasti umělé inteligence.

Amerika plánuje do roku 2030 utratit více než 1 bilion dolarů za datová centra pro modely AI a podobné plány na rozvoj AI mají i další velmoci…