Nye EU-regler: AI-indhold skal frem i lyset

Når en virksomhed bruger AI til at skabe eller manipulere indhold – det være sig tekst, billeder, lyd, video er der fra 2. august krav fra EU’s side, at det skal fremgå tydeligt for modtageren, at det er manipuleret eller genereret af AI.

Det vil altså sige, at bruger du ChatGPT eller lignende til at genere billeder i din kommunikation, skal det markeres, så modtageren kan afkode, at det er skabt med AI. Bruger du HeyGen til at lave avatars og speake produktvideoer – så skal det markeres at det er skabt med AI. Bruger du Runway til at levendegøre dine produkter i en reklamefilm til TV – så skal det markeres at det er skabt med AI. Kort sagt kommunikation skal forstås bredt, og du skal markere tydeligt, når du bruger AI. Det er print, det er SoMe, det er e-mail, det er hjemmesiden osv.!

Reglerne gælder, når AI bruges til at lave eller ændre billeder, lyd eller video, der kan fremstå som ægte eller det skal ligne noget i væsentlig grad. EU kalder det deep fakes, og det er en lidt anden sprogbrug end vi er vant til. Det kan for eksempel være en realistisk AI-genereret person i en reklame, en manipuleret video, en stemme der lyder som en virkelig person, eller et billede der fremstiller en situation, som aldrig har fundet sted eller som ikke afspejler virkeligheden. Eksemplerne herunder vil alle falde i kategorien af materialer, der skal markeres. De er i øvrigt opfundet til lejligheden.

Hvordan skal markeringen fungere i praksis?

Billeder og video genereret af AI skal have en synlig markering. Det kan være et ikon eller en tekst fx “Genereret med AI” eller “Manipuleret med AI”. EU er selv kommet med et forslag til et mærkat til billeder og video, der kan blive fælles for hele EU. Lidt på samme måde vi kender fra det europæiske økologi-mærke.

På en hjemmeside kan man desuden supplere ikonet med en forklarende tekst i en mouse over-funktion. Når brugeren holder musen over mærket, kan der for eksempel stå, at billedet er AI-genereret eller AI-bearbejdet. Det kan gøre markeringen mere forståelig uden at gøre billedet unødigt rodet. Mouse over-funktionen kan dog ikke stå alene, fordi den ikke fungerer lige godt på alle enheder, især ikke på mobil. Selve markeringen skal derfor stadig være synlig i udgangspunktet.

Det afgørende er, at markeringen skal være klar, tydelig og tilgængelig for modtageren. Den skal ikke gemmes væk nederst i en lang tekst gemmes væk i ens farver, men netop fremstå med kontrast, så det ikke overses. For lyd, fx hvis man har en podcast, der udelukkende er AI-genereret, gælder det, at der skal gøres opmærksom på det i starten, løbende undervejs og i slutningen.

Hvilke undtagelser er der?

Der er vigtige undtagelser og nuancer.

Reglerne rammer ikke alle typer AI-indhold på samme måde. Derfor er det vigtigt at skelne mellem tekst, billeder, lyd og video.

Tekst

For tekst gælder markeringskravet især, når AI-genereret eller AI-manipuleret tekst bliver offentliggjort for at informere offentligheden om forhold af almen interesse. Det kan for eksempel være en nyhedstekst, en politisk tekst eller anden information om samfundsforhold. Kravet frafalder dog, hvis teksten har været igennem menneskelig gennemgang eller redaktionel kontrol.

En almindelig produkttekst, salgsmateriale etc. skal derfor ikke markeres. Den skal stadig være korrekt, dokumenterbar og ikke vildledende, som vi kender det fra markedsføringsloven.

Billeder, lyd og video

Billeder, lyd og video skal vurderes anderledes, og der er en bagatelgrænse. Pligten til at markere indholdet bortfalder, hvis det er ændringer i mindre grad – fx hvis man fjerner en sky. Kravet bortfalder også, når det er tydeligt, at indholdet ikke er ægte. Fx hvis man genererer indhold i en tegneseriestil.

Der findes også en anden særlig undtagelse for tydeligt kunstnerisk, kreativt, satirisk eller fiktivt indhold. Her skal markeringen ske på en måde, der ikke ødelægger oplevelsen af værket. I almindelig merkantile kontekst vil det dog sjældent være den mest relevante undtagelse.

Konsekvensen og de bløde forbehold:

Bødestørrelsen er som vi kender den for brud på GDPR. Op til 3% af den globale omsætning eller 15 mio. EUR. Herhjemme bliver det digitaliseringsstyrelsen, der vil føre tilsyn med om lovgivningen overholdes. Selvom lovgivningen reelt er trådt i kraft, så er vejledningen fra EU’s side ikke færdig endnu. Der er mange gråzoner og uafklarede spørgsmål, og sager som først skal afprøves, før der bliver enighed om, hvordan disse gråzoner og bagatelgrænser skal fortolkes.  Derfor skal alt dette tages med forbehold, og du bør holde dig opdateret på lovgivningen.

Hvad betyder det for kunderne?

For kunderne handler det først og fremmest om tillid. Billeder, videoer, lyd, produkttekster, annoncer og kampagnemateriale og propaganda for den sags skyld kan i dag produceres hurtigt og i høj kvalitet med generativ AI.

Hvis en kunde ser en reklame med en person, en situation eller et produkt, skal kunden kunne vurdere, hvad der er reelt, og hvad der er genereret eller manipuleret.

En AI-genereret model i en annonce kan være uproblematisk, hvis det er tydeligt markeret. Men hvis kunden tror, at billedet viser en virkelig kunde, en virkelig medarbejder eller en virkelig situation, kan det blive vildledende.

Det samme gælder lyd og video. Hvis en stemme, en udtalelse eller en situation fremstår ægte, men er genereret eller manipuleret med AI, kan det skade tilliden til virksomheden.

Når lovgivningen træder i kraft, bliver det tydeligt for forbrugeren, hvilke virksomheder der benytter sig af AI og i hvilken udstrækning. Der kan spekuleres i, om det at have ægte billeder vil være en konkurrencefordel mod det uægte AI generede. Lige nu viser splittest dog, at konverteringsraten stiger og returraten falder, når et produkt vises på en AI-genereret model fremfor blot et fritlagt billede af produktet. Også når billedet er markeret som AI-generet selv om lovgivningen ikke er trådt i kraft endnu.

Forbered dine elever nu

Dine elever bruger allerede AI nu, så du kan lige så godt vænne dem til at markere deres indhold som AI-genereret. Bed dem om næste gang de laver kampagner, annoncer, SoMe-opslag, nyhedsbreve, billeder eller videoer med AI, skal de også markere materialet. Det klæder dem på til allerede nu at overholde lovgivningen, når de ender i elevplads eller kan sige det videre på deres oplæringssted.

Du kan arbejde med et enkelt spørgsmål: Ville en almindelig kunde forstå, at dette indhold er skabt eller ændret med AI?

Hvis svaret er nej, er markeringen sandsynligvis ikke tydelig nok.