En AI skrev en vitenskapelig artikkel om seg selv, og den vil forandre alt

Når forskere ønsker å publisere resultatet av en algoritme slik den er, kommer betydelige etiske dilemmaer til forhandlingsbordet.

Siden GPT-3 dukket opp, fortsetter den å skinne. Hver dag belønner spesialister oss med nye og imponerende verk basert på dette fantastiske språkgenereringssystemet. Fra sanger og taler til sportsoppsummeringer, samtaler, filmanmeldelser og til og med nettkommentarer, kunne de som er interessert i kunstig intelligens knapt gå glipp av det algoritmiske vidunderet til OpenAI.

Nylig kan forsker Almira Osmanovic Thunström ha åpnet Pandoras boks ved å foreslå en litt annen aktivitet enn GPT-3: skrive en formell og ekte vitenskapelig artikkel om seg selv. Og resultatet var, ifølge forfatteren, overraskende konsistent. » Det så ut som en hvilken som helst annen introduksjon til en relativt god vitenskapelig publikasjon. «, forklarer hun.

Hovedforfatteren av den første algoritmen til en studie.

Det andre punktet som overrasket den unge forskeren var at ingen ennå hadde forsøkt å publisere en seriøs artikkel om dette emnet. Det var slik han kom opp med en sprø idé: i tillegg til å skrive artikkelen, kunne GPT-3 også… legge det ut?

Når du leser denne ideen, tror du kanskje at det er en overarbeidet forsker som sannsynligvis trengte litt rekreasjon. Men vitenskapelig sett er dette arbeidet ganske relevant og mye mer interessant enn man skulle tro.

Faktisk er GPT-3 fortsatt en ganske ny teknologi; derfor er det relativt lite vitenskapelig litteratur om dette emnet. Det er imidlertid ressurser av denne typen som direkte mater denne algoritmen. Det som er interessant er at det lar oss studere deres evne til å produsere «nytt» innhold i en kontekst der de tydelig mangler referanser.

I prestisjetunge Scientific American benyttet den unge forskeren anledningen til å beskrive hindringene hun møtte under publiseringsprosessen med en blanding av strenghet og ganske forfriskende humor.

Etter presseartikler, dialoger eller filmmanus tar GPT-3 for seg vitenskapelig publisering. © Åpen AI

Interessekonflikter … og spesielt identitet

For å bli publisert i et ledende vitenskapelig tidsskrift, må en forskningsartikkel gå gjennom en fagfellevurderingsprosess. Ulike andre spesialister innen den aktuelle disiplinen har ansvar for å avgjøre om metodikken er forsvarlig nok til å gjøre artikkelen verdt å publisere.

Denne prosessen inkluderer en streng verifisering av forfatterens identitet og akademiske referanser. Og det var her Almira Osmanovic Thunström møtte sine første tekniske problemer. Selv om han ikke var i stand til å oppgi etternavn, telefonnummer eller e-post for opprettelsesalgoritmen, bestemte han seg for å oppgi sin egen informasjon i stedet.

Og hun var ikke på slutten av plagene sine, langt ifra. For umiddelbart etter var det de juridiske merknadene som ventet ham ved svingen med et skjebnesvangert spørsmål: samtykker alle forfatterne til denne publikasjonen?

« Og så brøt jeg ut et sekund «, forklarer i Scientific American. » Hvordan kunne jeg vite det? Han er ikke et menneske! Men jeg hadde ingen intensjon om å gå i strid med loven eller min personlige etikk. «, klager han.

Behandle et program som et menneske

Og paraden den fant er veldig interessant: den spurte ganske enkelt algoritmen ordrett om den ville «akseptere å være hovedforfatter av en artikkel med Almira Osmanovic Thunström og Steinn Steingrimsson.» Hans svar: et klart, rent og upåklagelig «Ja»!

» svett men lettet », derfor merket den interesserte boksen « Ja i veien. » Hvis algoritmen hadde sagt «Nei», ville ikke samvittigheten tillatt meg å gå videre «, hun sier.

Og den halvt absurde, halvt seriøse siden av dette svært utforskende arbeidet var ikke klar til å stoppe. Neste stopp: det uunngåelige spørsmålet om interessekonflikter. Faktisk har forskere en juridisk forpliktelse til å eksplisitt deklarere ethvert element som kan kompromittere nøytraliteten til arbeidet, for eksempel en kobling til et bestemt farmasøytisk laboratorium.

© Yuyeung Lau – Unsplash (beskåret)

Og i dette tilfellet er selve problemet rett og slett fascinerende og reiser mange spørsmål. En kunstig intelligens som i seg selv er et produkt av et selskap er bare i stand til å forstå denne forestillingen? Hvis ja, har du verktøy for å identifisere eventuelle skjevheter? Kan hun ignorere det? Og så med en gang!

På dette tidspunktet hadde forskerne allerede mer eller mindre tatt parti for å behandle GPT-3 som en menneskelig gjerningsmann. Dette er en fasjonabel tilnærming; vi kan se en lenke til LaMDA, en kunstig intelligens som forfatteren nylig hevdet å ha utviklet en «bevissthet» (se vår Artikkel).

For konsekvensens skyld bestemte de seg for å fortsette med det. Derfor er det ganske naturlig at de har dspurte algoritmen om den hadde noen interessekonflikter å erklære — som han rolig svarte benektende, uansett hva det betyr.

Fødselen av en historisk presedens

Med skjemaet utfylt presenterte Osmanovic Thunström og hans kollega offisielt dokumentet for fagfellevurderingsprosess. Foreløpig har dokumentet ennå ikke dukket opp; ingenting garanterer at det vil bli akseptert. Og det er ikke tilfeldig at prosessen tar så lang tid. For revisjonskomiteen skal ha fått øynene opp da de oppdaget navnet på hovedforfatteren.

I praksis har beslutningstakere blitt plassert i en situasjon som er mer eller mindre unik i akademisk historie. Siden de må bestemme om artikkelen er verdt å publisere eller ikke, er de i samme situasjon som en storjury når han avgir en dom som kan etablere en historisk presedensdet vil sannsynligvis betinge mye av AI-forskningen i fremtiden.

Faktisk reiser dette dokumentet mange etiske spørsmål om måten vitenskapelige ressurser produseres på. Hvis papiret blir akseptert, må forskerne nå bevise at de har skrevet papirene selv og ikke med GPT-3? Bør den i så fall oppføres blant forfatterne? I denne sammenheng, bør algoritmen være involvert i verifisering? Innenfor hvilke grenser? hvilken innvirkning påforlagskarriere«Hvem presser noen forskere til å publisere anekdotiske artikler i industrielle mengder for å forbedre statistikken deres?

det er bare ham toppen av et stort isfjell av avgjørende spørsmål hva revisjonsutvalget skal ta stilling til. Og du må ta dine forholdsregler før du avsier din dom.

Granskingsutvalget som er ansvarlig for denne artikkelen har arvet mye ansvar. © Scott Graham – Unsplash

En ny æra for vitenskapelig forskning?

Vi vet for eksempel at dagens programmer fortsatt har store problemer med å resonnere i forhold til kausalitet, det vil si at de har problemer med å avgjøre hvilken faktor som er ansvarlig for et fenomen (se vår Artikkel). Og det er veldig irriterende i sammenheng med vitenskapelig forskning, fordi dens sammenheng hviler i stor grad på styrken til disse logiske koblingene.

I tillegg må vi også ta hensyn til alle de andre potensielle grensene for AI som mange observatører har advart oss mot i lang tid. Men på den annen side er det også en svært nyskapende tilnærming som kan fremheve de fortsatt ukjente egenskapene til disse algoritmene.

Å sette AI til å fungere på denne måten, selv om det betyr å ta konklusjonene med en klype salt, er derfor en ut-av-boksen måte å tenke på; det er den typen tilnærming som gjør det mulig å teste tankeeksperimenter i konkret virkelighet. kunne derfor fremme all forskning innen kunstig intelligens som helhet, fordi helt nye tilnærminger av denne typen fortsatt er sjeldne.

» Vi har ingen mulighet til å vite om vår måte å presentere dette arbeidet på vil tjene som modell. » forklarer Osmanovic Thunström. » Vi ser frem til å lære hva publisering av artikkelen, hvis det skjer, vil bety for forskningen. […]. Til syvende og sist avhenger alt av hvordan vi behandler AI i fremtiden: som partner eller som verktøy «, oppsummerer.

» Det høres ut som et enkelt spørsmål i dag, men om noen år, hvem vet hvilke teknologiske dilemmaer denne teknologien vil tvinge oss til å møte? Alt vi vet er at vi åpnet en dør. Vi håper bare det ikke er en Pandoras eske. avslutter hun ettertenksomt.

Spalten hans i Scientific American er tilgjengelig herog forundersøkelsesarbeid her.

READ  Et ansiktsgjenkjenningssystem er i stand til å gjenkjenne maskerte ansikter.

Legg att eit svar

Epostadressa di blir ikkje synleg. Påkravde felt er merka *