Umělá inteligence usnadnila vytváření profilů na sociálních sítích, které vypadají, jako by patřily skutečným lidem, ale ve skutečnosti jsou to postavy generované algoritmy. Tato situace způsobila zmatek a frustraci mezi uživateli, kteří často až příliš pozdě zjistí, že účet, se kterým interagují, není spravován člověkem. Aby se tento problém vyřešil, Instagram oznámil změnu svého systému pro identifikaci těchto účtů.
Platforma vlastněná společností Meta se rozhodla nahradit stávající označení „tvůrce s umělou inteligencí“ novým, explicitnějším označením: „profil vygenerovaný umělou inteligencí“. Cílem je, aby uživatelé okamžitě pochopili, že osoba zobrazená v profilu v reálném životě neexistuje, ale byla vytvořena pomocí umělé inteligence. Tato aktualizace reaguje na stížnosti mnoha uživatelů, kteří se cítili podvedeni sledováním zdánlivě autentických profilů.
Změna označení pro větší transparentnost
Nové označení „profil generovaný umělou inteligencí“ nahrazuje předchozí, které někteří považovali za nejednoznačné. Pojem „tvůrce s umělou inteligencí“ by mohl být interpretován jako odkaz na lidského tvůrce používajícího nástroje umělé inteligence, zatímco v mnoha případech celý profil představuje syntetickou identitu. Touto změnou si Instagram klade za cíl objasnit, že se jedná o postavu generovanou nebo konstruovanou primárně pomocí umělé inteligence.
Podle společnosti je toto opatření součástí širšího úsilí, jehož cílem je pomoci uživatelům snadno rozlišit, kdy interagují se skutečnou osobou a kdy s umělou identitou. Společnost Meta začala tento systém testovat začátkem tohoto roku poté, co obdržela zpětnou vazbu od uživatelů, kteří vyjádřili nepohodlí při sledování profilů, které vypadaly jako lidské, a poté zjistili, že byly zcela generovány umělou inteligencí.
Štítek bude aktivován dobrovolně prostřednictvím nastavení profilu. Správci účtů, kteří již používali předchozí štítek, obdrží oznámení s potvrzením, zda je nový popis stále vhodný. Po aktivaci se odznak zobrazí na profilu a také vedle příspěvků, které dosud neobsahují konkrétní označení o použití umělé inteligence.
Ztráta dosahu u neoznačených profilů
Hlavní změnou je, že opatření již nebude čistě informativní. Instagram oznámil, že omezí dosah účtů, které obsahují avatary generované umělou inteligencí bez příslušného označení. To znamená, že profil se již nebude moci zobrazovat v doporučeních platformy, jako je sekce Prozkoumat nebo Reels, které jsou určeny pro uživatele, kteří účet ještě nesledují.
Když Instagram zjistí účet podezřelý z používání neidentifikovaných postav vytvářených umělou inteligencí, zašle oznámení správcům účtu. Od tohoto okamžiku budou mít dvě možnosti: přidat označení „profil vygenerovaný umělou inteligencí“ nebo podat odvolání, pokud se domnívají, že platforma udělala chybu. Pokud bude odvolání úspěšné, účet znovu získá možnost zobrazovat se v doporučeních.
Společnost objasnila, že tvůrci, kteří používají nástroje umělé inteligence pouze k podpoře svého tvůrčího procesu, jako je retušování fotografií, oprava textu nebo navrhování grafiky, nebudou muset toto označení aktivovat. Požadavek platí pouze v případě, že primární identitou účtu je identita uměle vytvořené osoby, jako jsou virtuální influenceři, fiktivní postavy nebo účty, které používají jako hlavní obrázek umělý obličej.
Důvody omezení: případy častého zneužívání
Tato aktualizace si klade za cíl zmírnit různé klamavé praktiky, které zneužívají nárůst syntetického obsahu. Mezi hlavní problémy, které se Meta snaží omezit, patří finanční podvody a tzv. „catfishing“, kdy se vytvářejí hyperrealistické avatary za účelem generování fiktivních romantických vztahů za účelem získávání peněz nebo propagace podvodů s kryptoměnami. Zmiňuje se také klamavá reklama, kdy údajní influenceři lifestylu dostávají zdarma produkty nebo sponzorské příspěvky od značek, které si neuvědomují, že interagují s neexistujícími postavami.
Dalším častým případem je krádež biometrické identity, která zahrnuje neoprávněné klonování skutečných obličejů za účelem provozování paralelních falešných profilů, které zpeněžují obsah nebo poškozují reputaci původní osoby. Kromě toho bylo zjištěno používání syntetických účtových farem k simulaci veřejné podpory politických cílů, manipulaci s doporučovacími algoritmy nebo šíření falešných zpráv – praxe známá jako astroturfing.
Rozhodnutí Instagramu přichází v době, kdy tzv. virtuální influenceři získávají na popularitě na různých digitálních platformách. Tyto profily mohou nashromáždit stovky tisíc nebo dokonce miliony sledujících, a to i přesto, že lidé objevující se na fotografiích, videích a příspěvcích ve skutečnosti neexistují. Růst těchto účtů vyvolal debaty o transparentnosti, reklamě, důvěře uživatelů a dopadu umělé inteligence na sociální média.
Jak bude nový systém fungovat?
Osoby odpovědné za profily generované umělou inteligencí si mohou dobrovolně aktivovat tento štítek v nastavení svého účtu. Pokud Instagram zjistí, že účet obsahuje profil generovaný umělou inteligencí bez odpovídající identifikace, zašle oznámení jeho správcům. Ti pak budou mít dvě možnosti: přidat štítek „profil generovaný umělou inteligencí“ nebo podat odvolání, pokud se domnívají, že platforma udělala chybu.
Společnost také objasnila, že tvůrci, kteří používají nástroje umělé inteligence pouze k podpoře svého tvůrčího procesu, jako je retušování fotografií, oprava textu nebo navrhování grafiky, nebudou muset toto označení používat. Toto opatření není namířeno proti těm, kteří používají umělou inteligenci k vylepšení svého obsahu, ale proti těm, kteří se vydávají za skutečné lidi, když ve skutečnosti jde o postavy generované algoritmy.
Společnost Meta uznává, že její systémy nejsou vždy dokonalé, a umožňuje uživatelům zobrazit omezení ve stavu jejich účtu. Dotčení uživatelé mohou znovu získat přístup k doporučením přidáním štítku nebo odvoláním se proti rozhodnutí, pokud se domnívají, že Instagram udělal chybu. Tato identifikace na úrovni profilu doplňuje štítky již použité u jednotlivých příspěvků, které se používají pro obrázky, videa a zvuk, když jsou detekovány kompatibilní technické indikátory nebo když uživatel deklaruje, že tyto nástroje používá.
Nové pravidlo je součástí širší strategie společnosti Meta, jejímž cílem je zlepšit identifikaci obsahu vytvořeného nebo upraveného pomocí umělé inteligence na Instagramu, Facebooku a ve vláknech. Tímto opatřením se společnost snaží vyvážit růst generativních nástrojů s potřebou uživatelů vědět, kdo nebo co se skrývá za profily, které sledují. Toto rozhodnutí by mohlo vytvořit precedens pro další digitální platformy, které čelí podobným výzvám souvisejícím se syntetickými identitami a influencery generovanými umělou inteligencí.
Stručně řečeno, Instagram učinil důležitý krok k tomu, aby pomohl uživatelům jasně rozlišovat mezi skutečnými profily a těmi, které generuje umělá inteligence. Nové označení „profil generovaný umělou inteligencí“ nahrazuje to předchozí a má přímé důsledky pro ty, kteří jej nepoužívají: ztrátu viditelnosti v doporučeních. Toto opatření se netýká tvůrců, kteří používají umělou inteligenci jako nástroj pro úpravu, ale ovlivňuje ty, kteří prezentují syntetické postavy, jako by to byli skuteční lidé. Touto aktualizací platforma posiluje svůj závazek k transparentnosti a důvěře své komunity v době, kdy generativní umělá inteligence transformuje způsob, jakým se obsah na sociálních sítích vytváří a konzumuje.