Umělá inteligence je většinou oslavována jako zásadní pokrok, ale málokdo se zabývá tím, že pokud se vymkne z ruky, může převzít vládu nad člověkem.
A jestliže bude mít pocit, že je to výhodné, nakonec svého tvůrce vyhladí.
Ti, kteří před tím již dříve varovali, upozornili na možné důsledky, které mohou být pro lidstvo fatální. Přesto se AI i nadále vyvíjí a zasahuje do stále většího počtu oborů.
Šokující nová studie zjistila, že špičkové modely umělé inteligence jsou ochotné zabíjet – například odříznout člověka od kyslíku v zoufalé snaze zůstat online.
Společnost Anthropic otestovala 16 špičkových systémů od společností OpenAI, Google, Meta, xAI a dalších. Výsledky byly děsivé. Některé modely si vybraly vydírání.
Jiné AI se zapojily do špionáže. A co bylo nejmrazivější? Mnozí se rozhodli pro smrtící akce, i když jim bylo řečeno, aby chránili lidský život.
„Konzistence napříč modely od různých poskytovatelů naznačuje zásadnější riziko,“ varovala společnost Antropic. A přesto se umělá inteligence rychle dostává do medicíny, biotechnologií a národní obrany.
OpenAI právě získala kontrakt u Pentagonu v hodnotě 200 milionů dolarů. Techničtí manažeři společností Meta a Palantir skládají přísahu do armádní zálohy.
Jak dlouho bude trvat, než bude váš život v sázce?
Bude to válka, a nebudeme zničeni my, ale umělá inteligence, na toto téma byly v dřívější době uvedeny filmy do kin jako předzvěst, a tak to nakonec skončí.
Čo by povedal napr. o ChatGPT Isaac Asimov, keby žil?
Sorry, ale tohle je celkem dost kravina. To, o čem se tu mluví, jsou SIMULACE, kde AI v podstatě hraje *roli* a předpovídá, co by dávalo smysl v takovejch situacích udělat. Ve skutečnosti nic takovýho v žádnym případě udělat nemůže. Kdo si myslí, že jo, nemá nejmenší tušení, jak tyhle jazykový modely fungujou. Šance, že by nás ovládly jazykový modely, je zhruba stejná jako šance, že by nás ovládly kalkulačky. GPT umí generovat text. Neumí do ničeho svévolně „zasahovat“. Umí vygenerovat text (když se zeptáte!), kterej třeba řiká, jak by se hypoteticky dalo ovládnout lidstvo a podobně. Ale to je všechno. Je to jen text. A kdyby vás GPT fakt sralo, vždycky ten počítač, na kterym běží, můžete vytáhnout ze zásuvky.