„Meta“ priežiūros taryba pateikia aštrią kritiką
„Meta Platforms“ priežiūros taryba paskelbė griežtą priekaištą dėl dabartinio bendrovės požiūrio į DI sukurto turinio moderavimą. Nepriklausoma institucija pareiškė, kad „Meta“ politika nėra „nei tvirta, nei pakankamai išsami“, kad galėtų susidoroti su sudėtingo dirbtinio intelekto keliamais iššūkiais. Ši reikšminga kritika sulaukiama po išsamaus konkretaus, plačiai išplatinto AI sukurto vaizdo įrašo tyrimo. Išvadose pabrėžiamas kritinis socialinės žiniasklaidos milžino turinio moderavimo sistemos pažeidžiamumas.
Dirbtinio intelekto technologijai tampant prieinamesnei, sintetinės laikmenos kiekis ir kokybė sparčiai auga. Tai yra didžiulis iššūkis tokioms platformoms kaip „Facebook“ ir „Instagram“. Priežiūros tarybos ataskaitoje nurodoma, kad „Meta“ būtinai turi pertvarkyti savo sistemas. Jei to nepadarysite, tai gali turėti rimtų pasekmių vartotojų saugumui ir informacijos internete vientisumui.
Tyrimas, kuris sukėlė kritiką
Valdybos komentarus paskatino gilus pasinerimas į konkretų atvejį, susijusį su AI sukurtu vaizdo įrašu. Šis vaizdo įrašas, kuriame buvo manipuliuojama tikra filmuota medžiaga, siekiant sukurti klaidingą pasakojimą, greitai išplito Metos platformose. Tai sukėlė painiavą ir baimę dėl AI galimo panaudojimo dezinformacijai.
Priežiūros taryba peržiūrėjo, kaip esama „Meta“ politika buvo pritaikyta šiam turiniui. Jie nustatė, kad proceso trūksta keliuose etapuose. Byla atskleidė didelių AI sukurtos medžiagos aptikimo ir vykdymo veiksmų, kurių buvo imtasi, spragų. Šis incidentas buvo ryškus pavyzdys, kodėl dabartinių priemonių nepakanka.
Pagrindiniai gedimai, kuriuos nustatė valdyba
Valdybos analizė parodė keletą kritinių „Meta“ AI turinio moderavimo politikos trūkumų.
Netinkami aptikimo įrankiai: sistemoms nepavyko patikimai identifikuoti AI sukurto turinio, todėl jis ilgą laiką išliko prisijungęs. Neaiškios politikos kalba: taisyklės, reglamentuojančios manipuliuojamą žiniasklaidą, yra pasenusios ir aiškiai neapima šiuolaikinės AI sintezės niuansų. Lėtas atsako laikas: net po to, kai vaizdo įrašas buvo pažymėtas, peržiūros ir sprendimų priėmimo procesas buvo per lėtas, kad būtų sumažintas žalingas jo plitimas. Skaidrumo trūkumas: naudotojai nebuvo tinkamai informuoti, kodėl turinys buvo problemiškas arba kaip jis pažeidžia politiką.
Kodėl tvirtas AI moderavimas yra labai svarbus
Generatyvių AI įrankių atsiradimas reiškia, kad sukurti įtikinamus netikrus vaizdo įrašus, garso įrašus ir vaizdus yra lengviau nei bet kada anksčiau. Tai kelia tiesioginę grėsmę demokratiniams procesams, visuomenės saugumui ir asmens reputacijai. Be veiksmingo moderavimo platformos gali tapti dezinformacijos kampanijų dirva.
Deepfake ir kitos sintetinės žiniasklaidos priemonės gali būti naudojamos manipuliuoti viešąja nuomone, priekabiauti prie asmenų arba kurstyti smurtą. Žalos galimybė yra didžiulė. Meta, kaip viena didžiausių pasaulyje informacinių ekosistemų, turi didelę atsakomybę aktyviai spręsti šią problemą. Priežiūros tarybos kritika pabrėžia šios užduoties skubumą.
Platesnis poveikis visuomenei
Nesugebėjimas valdyti AI sukurto turinio turi įtakos ne tik Meta platformoms; tai veikia plačiąją visuomenę. Kai melagingiems naratyvams leidžiama klestėti, žlunga pasitikėjimas institucijomis ir žiniasklaida. Tai gali sukelti realių pasekmių – nuo svyruojančių rinkimų iki pavojaus visuomenės sveikatai krizės metu.
Veiksmingas turinio moderavimas nebėra vien neapykantos kurstymo ar atviro smurto pašalinimas. Dabar ji turi apimti naują skaitmeninės apgaulės ribą. Valdybos ataskaita yra aiškus įspėjimas, kad dabartiniai pramonės standartai neatsilieka nuo technologijų pažangos.
Galimi sprendimai ir kelias pirmyn
Norint išspręsti šią problemą, reikalingas daugialypis požiūris. Meta turi daug investuoti į pažangias aptikimo technologijas. Tai apima AI sistemų kūrimą, specialiai sukurtą AI sukurtam turiniui aptikti atliekant teismo ekspertizę ir skaitmeninį vandenženklį.
Be to, įmonė turi peržiūrėti savo politikos kalbą, kad būtų aiškiau apie sintetinę laikmeną. Aiškios, atnaujintos gairės padės ir naudotojams, ir moderatoriams suprasti, kas yra pažeidimas. Šių sprendimų skaidrumas taip pat yra labai svarbus siekiant išlaikyti vartotojų pasitikėjimą.
Priežiūros tarybos rekomendacijos
Valdyba pateikė keletą konkrečių rekomendacijų „Meta“, kad patobulintų savo AI turinio moderavimo politiką.
Nedelsdami atnaujinkite manipuliuojamos medijos politiką, kad ji aiškiai apimtųAI sukurtas turinys ir jo galimybė pakenkti. Investuokite į sudėtingesnius AI aptikimo įrankius ir taikykite juos visose platformose. Sukurkite greitesnį ir skaidresnį su sintetine laikmena susijusių sprendimų apeliacijų procesą. Pradėkite visuomenės švietimo kampanijas, kad padėtumėte naudotojams atpažinti galimus gilius klastojimus ir pranešti apie juos.
Įgyvendinti šiuos pakeitimus nebus lengva, tačiau tai būtina platformos būklei ir platesnei informacijos aplinkai. „Meta“ atsakymą į šią ataskaitą atidžiai stebės reguliavimo institucijos, vartotojai ir advokatų grupės visame pasaulyje.
Išvada: raginimas siekti skaitmeninio vientisumo
Priežiūros tarybos kritika yra esminis metas ir technologijų pramonei. Jame pabrėžiamas kritinis atotrūkis tarp sparčios AI raidos ir politikos, skirtos jos naudojimui valdyti. Turinio moderavimo sistemų stiprinimas nėra neprivalomas; tai būtinas žingsnis siekiant apsaugoti tiesą ir pasitikėjimą internete.
Kai naršome šią naują skaitmeninę sieną, įrankiai, kuriuos naudojame informacijai tvarkyti, turi tobulėti. Įmonėms, norinčioms sukurti pasitikėjimą ir išlaikyti švarų buvimą internete, labai svarbu suprasti šią dinamiką. Norėdami užtikrinti, kad jūsų prekės ženklo turinys išliktų autentiškas ir saugus, apsvarstykite galimybę bendradarbiauti su ekspertais. „Seemless“ siūlo pažangius sprendimus, padedančius efektyviai įveikti turinio iššūkius.
