A mesterséges intelligencia nem csak izgalmas új tartalomgyártási lehetőséget kínál – sajnos a sötétebb oldalát is. A nemrég nyilvánosságra került eset szerint TikTokon több milliós nézettségű rasszista videók terjedtek el, melyeket a Google új, generatív videókészítő eszköze, a Veo 3 segítségével állítottak elő. Ezek a klippek sztereotípiákat erősítenek meg fekete közösséggel és más kisebbségekkel kapcsolatban, sőt, egyes videók elérték a 14 milliós nézettséget is .
Hogy szövődött rasszista tartalom a Veo 3-ba?
A Google Veo 3 célja, hogy egyszerű szöveges leírásból generáljon rövid, 80 másodperces videókat. A klipek védett védjeggyel („watermark”) jelzettek és a szerzők gyakran használják az “Veo 3” vagy „AI” címkéket is . A Google állítása szerint rendszerük rendelkezik tartalomellenőrző mechanizmusokkal – ennek ellenére a rasszista klippek harmatosan szűrhetetlenül átcsúsztak a rostán.
Mit tesz a TikTok?
A TikTok hivatalosan “nulla toleranciát” hirdet a gyűlöletbeszéddel és sztereotípiákkal szemben. A botrány kirobbanása után azonnal törölték számos fiókot, néhányan még a riport megjelenése előtt elveszítették hozzáférésüket . Azóta a rasszista tartalmak nem csak a TikTokon, de kisebb számban YouTube-on és Instagramon is felbukkantak.
Milyen veszélyeket rejt ez a botrány?
Az eset rávilágít arra az aggasztó jelenségre, hogy még a legfejlettebb AI eszközökbe is bekerülhetnek gyűlöletkeltő vagy sztereotip tartalmak. Ezeket ráadásul gyorsan, olcsón és hatékonyan lehet előállítani – és már virálissá is váltak. Ez nem csupán technológiai probléma, hanem társadalmi-erkölcsi krízis is, amely átfogó választ igényel: átláthatóság, felhasználói oktatás, és szigorúbb tartalomfelügyelet.
És most?
A növekvő incidensszámra válaszul egyre erőteljesebb a szóhasználat: AI szabályozás kell – nem csak a fejlesztők számára, hanem a platformok működésében is. Ha a generatív AI eszközök hétköznapi használatban maradnak – akár TikTokon, akár bárhol máshol –, alapvető fontosságú, hogy ne váljanak a gyűlöletmasszírozás célpontjává.
-
A Google Veo 3 eszközzel készült rasszista Tartalom TikTokon hatalmas nézettséget ért el (akár 14 milliót is)
-
TikTok aktiválta azonnal a moderációs mechanizmusokat: számos fiókot eltávolítottak
-
Az eset rámutat: az AI nem csak lehetőség, hanem komoly felelősség is – és szükség van szabályozásra, átláthatóságra és társadalmi kontrollra.
