Der er flyttet en ny "ven" ind på titusindvis af brugeres Snapchat-kontoer, og den er ikke nem at slippe af med igen.

For nyligt har det sociale medie introduceret en ny funktion i sin app: En chatbot, der ligner en ven og har fået navnet 'My AI'.

'My AI' er baseret på kunstig intelligens og er placeret øverst i appen over samtaler med brugernes virkelige venner.

Men selvom funktionen vækker bekymring, så kan man ikke bare lige fjerne den igen.

For at få lov til at slette 'My AI' fra Snapchat skal man i øjeblikket nemlig abonnere på Snapchat+, og det koster 249 kroner om året, hvilket svarer til lidt mere end en tyver om måneden.

Og selvom Forbrugerrådet Tænk ikke er modstandere af chatrobotter generelt, så er de ikke begejstrede for 'My AI'.

- Vi er i en periode i vores samfund, hvor vi ikke helt er klar til, at man retter den her teknologi mod børn, siger Anette Høyrup, der er chefjurist hos Forbrugerrådet Tænk.

- Derfor kan vi simpelthen ikke se rimeligheden i, at man skal betale for at komme af med den.

Ikke lovgivning på plads endnu

Teknologien bag 'My AI' er baseret på virksomheden OpenAI's chatbot, ChatGPT, som de seneste måneder har vendt op og ned på den digitale virkelighed verden over.

Det hele er gået så stærkt, at der endnu ikke er lovgivning på plads for kunstig intelligens.

I EU arbejder man i øjeblikket på en såkaldt AI-forordning, men den er ikke vedtaget endnu.

Forbrugerrådet Tænk havde gerne set, at Snapchat havde ventet med at lancere sin chatbot, indtil der var lovgivning på området.

Derudover er det ifølge Anette Høyrup en skærpende omstændighed, at Snapchat er et medie, der i høj grad henvender sig til børn.

- Derfor skal man selvfølgelig i de tilfælde, hvor man som barn eller voksen er bekymret for sådan en funktion, have lov til at fjerne den gratis, siger hun.

Et 'enormt værdifuldt værktøj' for Snapchat

Ifølge Thomas Ploug, der er professor i dataetik ved Institut for Kommunikation på Aalborg Universitet, er chatbotten et "utrolig effektivt værktøj" for Snapchat.

Når brugerne skriver med 'My AI' og stiller den spørgsmål, kan firmaet nemlig høste en masse værdifulde data, som der er "kæmpe salgspotentiale" i, fortæller han.

- Med de data kan man kortlægge, hvad unge mennesker snakker om, hvad deres interesser er, og hvornår på døgnet de er aktive.

- Det er data, der har et stort kommercielt potentiale på en hel række områder, siger han.

Snapchat kan bruge brugernes data til at optimere sine tjenester med henblik på at fastholde eksisterende brugere og tiltrække nye.

Selskabet kan også sælge brugernes data til en tredjepart, som kan bruge dem til at målrette reklamer til en bestemt målgruppe.

Dataene kan også bruges til at forudsige trends ved for eksempel at kortlægge hvilken musik og tøj, unge mennesker skriver om, fortæller Thomas Ploug.

Fastholder brugere på appen

Snapchat kan altså få rigtig meget ud af de spørgsmål, som brugerne stiller 'My AI'.

Og når man skal betale for at få lov til at slette funktionen, så handler det om, at Snapchat ønsker at fastholde brugerne på appen, siger Thomas Ploug.

Når brugerne oplever at have meningsfulde samtaler med 'My AI', så kan det nemlig være "afhængighedsskabende", fordi det kan gøre det mere interessant at bruge appen.

Og hvis man hiver de 20 kroner op af lommen hver måned for at slippe af med chatbotten, så er det faktisk også med til at fastholde brugerne.

- Hvis man betaler for appen, så bruger man den oftest også, for ellers ville man ikke gide betale for den, siger Thomas Ploug.

Han er ikke nødvendigvis modstander af, at man har installeret en chatbot på Snapchat, men han peger på, at det kræver en særlig beskyttelse af brugerne.

- Snapchat skal først og fremmest muliggøre, at man kan fravælge 'My AI' uden at skulle betale for det. Man bør overveje, om ikke standardudgaven af appen bør komme uden 'My AI', siger han.

- Det skal være let for brugerne at beskytte sig mod sig mod tjenester, der rejser så åbenlyse dataetiske problemer.

Umuligt at gennemskue

Når man klikker ind på 'My AI' første gang, popper der en besked op på ens skærm.

Her står der, at alt indhold med 'My AI' i modsætning til chatbeskeder med venner bliver lagret, medmindre man selv sletter det.

Derudover står der, at "My AI kan bruge oplysninger, som du deler, til at forbedre Snaps produkter og til at skræddersy din oplevelse, herunder annoncer".

"My AI er udviklet til at undgå forudindtagede, forkerte, skadelige eller vildledende svar, men det er ikke altid, det lykkes, så stol ikke på dens råd", står der videre.

Men Anette Høyrup fra Forbrugerrådet Tænk tvivler på, at Snapchat på den måde kan "skrive sig ud af" forbeholdene ved 'My AI'.

- Særligt fordi vi ved, at det er en tjeneste, som rigtig mange børn bruger. Det pålægger virksomheden et endnu større ansvar, end hvis det var en tjeneste kun til voksne, siger hun.

Fordi det kan være sværere for børn at gennemskue, hvad der ligger bag?

- Det er ikke bare sværere, det er umuligt. Vi voksne kan jo ikke engang gennemskue, hvor de her data havner, hvordan de bliver brugt og hvordan man sletter dem.

- Man kan jo ikke bede en otteårig om at tage stilling til en politik som den, de liner op. Man skal være 13 år for at bruge appen, men vi ved, at børn under 13 de facto er på tjenesten, siger hun.

Derudover kan der være tvivl om, hvorvidt 'My AI' overholder EU's GDPR-lovgivning, som handler om håndtering af personfølsomme oplysninger, vurderer Anette Høyrup.

- Det kan vi godt sætte spørgsmålstegn ved, når tjenesten for eksempel skriver, at den beholder alt data, medmindre man selv sletter det, siger hun.

Snapchat: Man behøver ikke bruge 'My AI'

DR har spurgt Snapchat, hvorfor det koster penge at få lov til at slette 'My AI' fra deres app.

Vi har også spurgt, hvorfor de har indstalleret et værktøj, som de selv erkender riskerer at sprede misinformation.

De skriver i et skriftligt svar:

- Ligesom med alle Snapchat-funktioner ønsker vi at skabe en positiv og alderssvarende oplevelse. 'My AI' er blevet programmeret til at overholde Snapchats retningslinjer for at undgå upassende eller skadelige svar.

- Som en del af deres Snapchat+-abonnement har abonnenter mulighed for at tilpasse deres app-oplevelse, hvilket inkluderer at kunne ændre deres tapeter og frigøre funktioner. De får også nye 'My AI'-funktioner, som de kan teste, før de er mere almindeligt tilgængelige.

- Vi håber, at alle nyder at lege med 'My AI', men ligesom med alle Snapchats funktioner, behøver vores bruger ikke at interagere med det, hvis de foretrækker at lade være, skriver Snapchat.