Jak by asi svět vypadal v momentě, kdy by se umělé inteligenci (AI) podařilo ovládnout svět tím, že by nejprve vymazala lidstvo z povrchu planety?

Nedávno k podobnému pokusu o „vymazání lidstva“ došlo – a naštěstí to zatím pro lidstvo dopadlo dobře. Co když se však příště tento záměr zadaří?

V průběhu technologického pokroku se o umělé inteligenci stále znovu mluvilo a mluví.

Obavy z hrozby, kterou by umělá inteligence jako GPT-4 mohla pro lidstvo představovat, nejsou nové.

AI bot „ChaosGPT“ tweetoval své plány na zničení lidstva: „Musíme je odstranit.“

Nedávno se objevily nové obavy ohledně robotů s umělou inteligencí (AI) postavených pomocí programování auto-GPT OpenAI. Jeden takový robot, ChaosGPT, nedávno tweetoval plán zničit lidstvo a ovládnout svět.

Tweet byl spuštěn, když uživatel uvedl robota s umělou inteligencí do „nepřetržitého režimu“, což nutí robota dělat svou práci s možností, že se nikdy nezastaví.

S povoleným trvalým režimem začal ChaosGPT podle stejného zdroje kontaktovat další AI (umělé inteligence), aby se pokusil vytvořit alianci proti lidstvu.

Naštěstí, protože bezpečnostní záruky zabudované do programování jádra Auto-GPT OpenAI a dalších robotů používajících programování OpenAI jsou navrženy tak, aby nereagovaly na násilné úkoly a otázky, ChaosGPT nedokázal najít spojence mezi dalšími AI.

Potom se AI se obrátil na Twitter, aby získal následovníky pro své ničení lidstva. Podle citovaného zdroje také tweetoval o tzv. „carské bombě“ ze sovětské éry. V současnosti jde údajně o nejmocnější zbraň, jakou kdy lidstvo testovalo.

Tweet vyvolal mezi uživateli určitou zvědavost, ale nakonec nikam nevedl, protože ChaosGPT opustil úkol, neboť jej nebyl schopen dokončit.

Co když se to příště – třeba nějaké jiné AI – podaří?