Meta na označenie obsahu generovaného AI

Meta začne označovať obsah generovaný AI na Facebooku a Instagrame od mája, oznámil technologický gigant. Doteraz mala spoločnosť politiku odstraňovania takéhoto počítačom vytvoreného obsahu.

Spoločnosť použije označenie „Made with AI“ na fotografie, audio alebo video obsah vytvorený pomocou umelej inteligencie, vysvetlila v piatok v blogovom príspevku. Tieto označenia sa použijú buď automaticky, keď Meta zistí „priemyselne zdieľané signály“ obsahu AI, alebo keď používatelia dobrovoľne prezradia, že niečo, čo uverejnia, bolo vytvorené pomocou AI.

Ak príslušný obsah nesie „zvlášť vysoké riziko materiálneho klamania verejnosti v dôležitej veci“, môže sa použiť výraznejšie označenie, uviedla Meta.

V súčasnosti sa politika Meta pre „manipulované médiá“ vzťahuje len na videá, ktoré „vytvorila alebo upravila AI, aby sa zdalo, že osoba hovorí niečo, čo nepovedala“. Obsah, ktorý porušuje tieto pravidlá, je odstránený, nie označený.

Nová politika rozširuje túto sieť na videá, ktoré zobrazujú niekoho, „čo robí niečo, čo neurobil“, a na fotografie a zvuk. Je však uvoľnenejší ako starý prístup v tom, že predmetný obsah bude môcť zostať online.

„Naša zmanipulovaná mediálna politika bola napísaná v roku 2020, keď bol realistický obsah generovaný AI zriedkavý a hlavný záujem sa týkal videí,“ vysvetlila spoločnosť. „Za posledné štyri roky, a najmä za posledný rok, ľudia vyvinuli iné druhy realistického obsahu generovaného AI, ako je zvuk a fotografie, a táto technológia sa rýchlo vyvíja.“

Od začiatku tohto roka americké regulačné orgány oznámili zákaz „robocallov“ generovaných AI po tom, čo obyvateľov New Hampshire kontaktoval počítačom generovaný Joe Biden a vyzval ich, aby sa zúčastnili demokratických primárnych volieb v štáte, zatiaľ čo Biely dom sľúbil „vysporiadať sa“ s problémom nekonsenzuálneho porna po tom, čo sa na sociálnych sieťach rozšírili falošné nahé fotografie popovej hviezdy Taylor Swift. Tejto záležitosti sa venoval aj bývalý americký prezident Donald Trump, ktorý obvinil americké médiá z používania AI, aby vyzeral na fotografiách tučnejším.

Meta nie je jedinou spoločnosťou Big Tech, ktorá bojuje proti umelému obsahu štítkami. Od minulého roka TikTok žiada používateľov, aby označili svoj vlastný obsah generovaný AI, pričom ostatným používateľom dáva možnosť nahlásiť obsah, o ktorom majú podozrenie, že bol vytvorený AI. YouTube minulý mesiac predstavil podobný systém založený na cti.

S kľúčovými voľbami, ktoré sa konajú v EÚ v júni a v USA v novembri, zákonodarcovia tlačili na technologické firmy, aby podnikli kroky proti „deepfake“ vytvoreným AI, o ktorých tvrdia, že by mohli byť použité na oklamanie voličov. Začiatkom tohto roka sa spoločnosti Microsoft, Meta a Google pripojili k viac ako tuctu ďalších lídrov v tomto odvetví a sľúbili, že „pomôžu zabrániť tomu, aby klamlivý obsah AI zasahoval do tohtoročných globálnych volieb“.

Platformy ako TikTok a YouTube, ktoré používajú systémy cti, však môžu byť čoskoro nútené prijať prístup Meta. Podľa ustanovenia zákona EÚ o AI, ktorý nadobudne účinnosť v lete budúceho roka, budú technologické spoločnosti pokutované za to, že neodhalia a neidentifikujú obsah vytvorený AI vrátane textu „zverejneného s cieľom informovať verejnosť o záležitostiach verejného záujmu“.