Loni v září vyvolalo video matky zpívající se svou dcerou v autě kontroverzi, která otřásla uživateli platforem Meta. Zdánlivě nevinný příspěvek spustil sérii automatických návrhů od Meta AI, asistentky umělé inteligence integrované do Facebooku, Instagramu a WhatsAppu, což vedlo k narušení soukromí rodiny. Případ otevřel debatu o tom, jak tyto nástroje používají osobní údaje, které sdílíme.
Ve Španělsku a zbytku Evropy, kde jsou předpisy na ochranu osobních údajů, jako je GDPR, obzvláště přísné, tento incident vyvolal značné obavy. Uživatelé se ptají, zda jejich konverzace a příspěvky mohou být použity k vytváření podrobných profilů bez jejich výslovného souhlasu. Níže analyzujeme událost, reakci společnosti Meta a doporučení, jak zabránit tomu, aby se vaše informace nežádoucím způsobem dostaly do rukou umělé inteligence.
Případ, který ho odhalil
Kalie Robins, matka dvou dětí, zveřejnila na Facebooku video se svou malou dcerou. Pod videem Meta AI zobrazila navrhovanou otázku: „Kdo je dítě pasažér?“ Robins na ni zaujatě klikla. Tehdy začala série automatizovaných chování, které popsala jako „jako stalker“. Umělá inteligence začala shromažďovat informace o každém z jejích dětí, včetně jmen, dat narození a videí.
Systém také zobrazil fotografii její novorozené dcery, kterou její matka zveřejnila před lety, a dokonce i obrázek, který Robinsová smazala ze svého účtu. Situace se zhoršila, když umělá inteligence položila další otázku: „Kde Kalie Robinsová bydlí?“ Po kliknutí asistentka analyzovala staré i nedávné příspěvky, aby se pokusila určit její přesnou polohu. Robinsová na Instagramu uvedla, že nikdy nepožádala o vytvoření profilu své rodiny: „Nežádala jsem Facebook o vytvoření složky o mých dětech.“
Metina odpověď
Společnost Meta reagovala rychle, aby zmírnila škody. Ve svém prohlášení pro The Verge společnost přiznala, že „tato funkce neměla uživatele nikdy klást takové otázky “. Mluvčí Dina El-Kassaby dodala, že Meta „udělala chybu“ a že umělá inteligence „neměla uživateli takové otázky nikdy navrhovat“. Společnost potvrdila, že problém, který tyto návrhy na základě osobních údajů způsoboval, již opravila.
Společnost Meta se však také pokusila zlehčit závažnost záležitosti a vysvětlila, že asistent zobrazuje pouze informace z příspěvků, ke kterým má uživatel již přístup. Toto zdůvodnění však neobjasňuje, proč byla zobrazena dávno smazaná fotografie ani jak byla data od několika členů rodiny zkombinována za účelem vytvoření tak podrobného profilu. Společnost uvedla, že obsah, na který Meta AI reaguje, je obsah, ke kterému má uživatel již legitimní přístup.
Historie selhání soukromí
Není to poprvé, co se společnost Meta AI ocitla v kontroverzi tohoto typu. Během uplynulého roku několik incidentů zpochybnilo správu dat ve společnosti. V červnu loňského roku uživatelé neúmyslně sdíleli konverzace s asistentem veřejně. O měsíc později byla objevena zranitelnost, která mohla útočníkům umožnit prohlížet si soukromé chaty ostatních uživatelů pouhým uhádnutím jejich uživatelských jmen.
V poslední době začala Meta zobrazovat personalizované reklamy na základě konverzací s umělou inteligencí Meta. Tento vzorec selhání vedl bezpečnostní experty k varování před riziky spoléhání se výhradně na tyto nástroje. Shromažďování dat ze starých příspěvků za účelem vytváření podrobných profilů , i když je možná v souladu s podmínkami služby, je mezi uživateli oprávněným důvodem k obavám.
Tipy pro ochranu nezletilých
Po tomto případu mnoho rodičů přehodnotilo, co sdílejí na sociálních sítích. Hlavním doporučením je nezveřejňovat identifikovatelné fotografie dětí (nebo jiných osob) na veřejných platformách. To nejen proto, aby se zabránilo jejich sledování v komplexním prostředí ochrany soukromí, ale také proto, aby se snížilo riziko závažnějších následků. Kalie Robins oznámila, že smaže všechny fotografie a videa s jejími dětmi a požádala své přátele a rodinu, aby udělali totéž, protože pokud tak neučiní, Facebook by mohl tyto obrázky extrahovat z jejich účtů a použít je na profilech, které vytvoří.
Dále se doporučuje pravidelně kontrolovat nastavení soukromí účtu a omezit viditelnost příspěvků na úzké kruhy. Rodiče by si měli být vědomi toho, že umělá inteligence může křížově odkazovat na informace z různých zdrojů a získávat data, která jsou dohromady mnohem citlivější než součet jejich částí. Není nutné přestat sdílet obsah, ale je nezbytné dodržovat základní opatření.
Tato událost odhalila nepříjemnou pravdu: asistenti s umělou inteligencí nejen reagují na naše otázky, ale mohou také poskytovat návrhy na základě našeho chování a chování našich blízkých. Meta sice konkrétní chybu opravila, ale debata o limitech používání osobních údajů v těchto nástrojích zdaleka nekončí. Hlas matky upozornil na problém, který postihuje miliony uživatelů po celém světě, a ti ve Španělsku by mu měli věnovat velkou pozornost.