Senatorer innfører lovforslag for å hjelpe byråer med å håndtere dyppakninger og villedende medier

Lederne i Senatets komite for internasjonal sikkerhet og regjeringsspørsmål dannet en ny føderal arbeidsgruppe for å sette standarder og bruke teknologier for å bestemme fakta om opprinnelsen til digitalt innhold.

Kadren – National Deepfake and Digital Provenance Task Force – opererer innenfor Department of Homeland Security ved å skaffe etterretning fra offentlige, private og utdanningsområder, ifølge loven. Introdusert Rangering medlem Rob Portman, R-Ohio og styreleder Gary Peters, D-Mich., Torsdag.

Dette vil bidra til å forklare veien videre for DHS og andre medarbeidere for å håndtere online spredning av ondsinnede syntetiske medier.

Tidligere amerikanske diplomat Mounir Ibrahim sa Next Cove På mandag markerte det den første lovgivningen i kongressen som eksplisitt identifiserte den verifiserbare tidslinjen for den digitale innholdskilden eller bilder, videoer, dokumenter, poster eller annen elektronisk medieåpning og historie. Etter mange år som utenriksdepartement, er han nå visepresident for strategisk innsats for Tropic, et teknologiselskap som spesialiserer seg på filmens troverdighet.

Ibrahim forklarte at mens mange mennesker tar personlige, økonomiske, politiske og andre viktige beslutninger basert på det de ser og hører på nettet, står de “overfor en eksplosjon i spredningen av bildejuks, svindel og fabrikasjonsverktøy som er lett tilgjengelig på hvilken som helst smarttelefon eller datamaskin”. . ”

“De mest avanserte av disse bildedragsteknikkene kalles deepfax eller fullstendig fabrikerte syntetiske videoer, som allerede er veldig realistiske – men fortsatt forbedres i et raskere tempo,” sa han.

Slike videoer bruker nye teknologier for å få folk til å se ut til å gjøre eller si ting de egentlig ikke gjør. Dårlige skuespillere er bevæpnet med billedjuksemetoder av høy kvalitet med billige forfalskninger som kan håndtere billigere og mer tilgjengelig programvare enn maskinlæring for forskjellige ulovlige formål. Eksperter, bemerket Ibrahim, “se på avansert bildefrustrasjon med mer sofistikerte, AI-aktiverte deepfaqs, for eksempel de som brukes i ulovlig ikke-konsensuell pornografi, som kan være svært skadelig. Advarsel For flere måneder siden var disse metodene “nesten sikre” for bedriftsspionasje og bedrageri.

READ  TF1 Frankrike bruker Wizard XR Playbook for UEFA Euro 2020-dekning

Men for Ibrahim er forestillingen om “verre enn svindel den annenrangseffekten av tillitsbrudd på nettet”-det såkalte utbyttet til en løgner. Tanken er at ettersom billige forfalskninger og dype forfalskninger formerer seg, vil de i stor grad undergrave tilliten til alt folk møter på nettet.

“Noen mennesker er et eksempel på dette Video foreslått Attentatet mot George Floyd er en dyp skam. Selv om det ikke er allment akseptert, er det et øyeblikksbilde av hvordan en løgners skille kan være bevæpnet, sier Ibrahim. “Kort sagt, erosjon av håp blir erosjon av vår felles virkelighetssans.”

For å motvirke denne trusselen, skisserer lovgivernes 14-siders lov planer om sammensetning og ansvar for den nye DHS-arbeidsgruppen.

Den strategiske komiteen vil inkludere medformannen for DHS og vitenskapelige og tekniske politifolk og 12 medlemmer som representerer offentlig, privat og utdanningssektoren likt. Hver av de utvalgte kandidatene vil ha teknisk ekspertise innen kunstig intelligens, mediemanipulering, kryptografi, digital rettsmedisin eller andre relaterte felt. De vil rådføre seg med statssekretærer for energi, forsvar og nasjonale standarder og teknologi og direktører for National Science Foundation, sammen med andre institusjonelle ledere, under arbeidet.

I stor grad er arbeidsgruppens endelige mål å kartlegge en integrert plan for å utforske hvordan den digitale innholdssikre standarden kan bidra til å redusere spredningen av dyp politiarbeid. Hvordan offentlig og privat sektor informerer offentligheten om tillit og informasjon om digitale innholdsressurser.

“Denne samfunnslovforslaget vil bidra til å styrke nasjonens evne til å spre løgn og motvirke ondsinnede forsøk på å splitte det amerikanske folket ytterligere,” sa Peters.

Ibrahim påpekte at denne loven ikke bare raskt fremmer bildebasert bedrag-den gjør den også betydelig. Anbefaling Fra National Security Council om en omfattende gjennomgang av AI. Spesielt etterlyste teamet at det skulle opprettes en ny arbeidsgruppe for å vurdere standarder for bruk av teknologi for å sertifisere innholds autentisitet og bevis. Regningen kommer også ut Alliance for innholdskilde og troverdighet Skaper en åpen standard som er allment akseptert på internett. Tropic, Intel, Adobe og mange andre deltar i alliansen.

READ  Mersk boring beskytter Agar PP-kontrakt for lavutslippsrigg

“Dette er den mest direkte og informerte loven jeg noensinne har sett med digital innholdskilde,” sa Ibrahim. “Vi har imidlertid sett andre land bevege seg mot å sikre at innholdskonsumenter har åpenhet og informasjon i filmproduksjon.”

Norge Bestått en lov Forrige måned tvang påvirkere fra sosiale medier til å avsløre hvilke endringer som er gjort i digitalt innhold. Denne tilnærmingen gjenspeiles også i Australias kode for falsk informasjon og feilinformasjon. I USA følger loven Portmans Deepfake Report Act, som ble vedtatt i fjor i Senatet 2021 National Security Accreditation Act.

– Jeg gleder meg til å se holdningen [to provenance] I løpet av de neste par årene vil vi begynne å forstå og legge til tilleggslovgivningen i USA og i utlandet, sier Ibrahim.

Teknologiledere fra Trophic, Adobe, Microsoft, Arm og andre steder Uttrykt støtte På forslag fra senatorene. Bill var Nevnt Til komiteen for hjemmevern og sikkerhet.

Legg att eit svar

Epostadressa di blir ikkje synleg. Påkravde felt er merka *