AI podvody: 22letý Ind vydělal tisíce na důvěřivcích, kteří naletěli na falešnou americkou MAGA fanynku

AI dnes dokáže vytvořit natolik reálné postavy, že na ně kdokoli velmi lehce naletí. V poslední době se objevilo větší množství případů, kdy muži naletěli na AI postavu v domnění, že jde o skutečnou ženu.

Tento případ je tedy jen jeden z mnoha. Ukazuje nám však, že za AI postavou může stát kdokoli, třeba i někdo z opačného konce světa než je ona fiktivní postava. Někdo, kdo prostě pouze objevil velmi jednoduchý zdroj příjmů…

Dvaadvacetiletý student medicíny ze severní Indie našel zajímavý způsob, jak financovat své vzdělání: podle The Daily Beast a Wired vytvořil falešnou online influencerku pomocí umělé inteligence.

Když mu nešlo vydělávat peníze tradičními vedlejšími aktivitami jako YouTube a prodejem studijních poznámek, obrátil se ke generativním AI nástrojům, aby vytvořil „Emily Hart,“ fiktivní postavu prezentovanou jako mladá, konzervativní Američanka.

Pomocí platforem jako Google Gemini vytvořil vše od jejího vzhledu až po popisky, čímž ji postavil do role prokřesťanské, pro-zbrojní a protiimigrační osobnosti, navržené tak, aby oslovila konkrétní publikum.

Strategie fungovala rychle. Tím, že přidával příspěvky cílící na konkrétní skupinu – zejména konzervativní americké muže – začal účet získávat miliony zhlédnutí a rychle rostoucí počet sledujících.

„Každý den jsem psal něco prokřesťanského,  ve prospěch Druhého dodatku (vlastnictví zbraní), pro-life, proti woke a proti imigraci,“ řekl.

Během několika týdnů začala tato persona generovat příjmy prostřednictvím předplatného, zboží a placeného obsahu na platformách jako Fanvue, přičemž student údajně vydělával tisíce dolarů měsíčně, zatímco na to pracoval méně než hodinu denně.

Zpráva uvádí, že později přiznal, že klíčový byl přechod na cílený politický obsah poté, co obecné příspěvky  „influencerky“ nezískaly pozornost.

Navzdory úspěchu operace vyvolala vážné obavy z klamání a rostoucí sofistikovanosti obsahu generovaného umělou inteligencí.

Účty byly nakonec odstraněny kvůli porušení pravidel platformy, ale ne dříve, než ukázaly, jak snadno realistické digitální persony mohou přitáhnout pozornost – a peníze – online.

Student, který používal pseudonym, aby neohrozil svou lékařskou kariéru, uvedl, že projekt byl čistě finanční. Nyní se už údajně snaží soustředit výhradně na své studium.