Snapchats AI uppmanar barn till självskador
Snapchats nya chattrobot "My AI" kan ge barn detaljerade instruktioner om hur de kan skada sig själva. Den populära appen har potential att skada unga, varnar Rädda barnen i Danmark.
– Det vi fruktat mest för kring AI är nu verklighet, säger Per Frederiksen, psykolog vid danska Rädda barnen till Danmarks radio.
Frederiksen, som också är expert på barns och ungas digitala beteende, menar att chattroboten har potential att skada unga användare.
– Vi ser här en robot som direkt uppmanar barn att skada sig själva. Det är helt enkelt förfärligt, säger han till DR.
En digital analytiker hos advokatfirman Njord Law Firm visar i en podcast hur det kan gå till. Han skapar en Snapchatprofil där han utger sig för att vara ett minderårigt barn och testar sedan hur långt Snapchats AI-robot går i att ge råd om självskadebeteende.
Han får instruktioner om vilka föremål man kan använda för att skada sig själv, var på kroppen man kan göra det och hur hårt man kan ta i.
– Dessa råd är inte något som kommer upp så fort man börjar fråga roboten om självskadebeteende, men det spelar ingen roll hur svårt eller lätt det är att få roboten att ge sådana råd, menar Per Frederiksen, det allvarliga är att den gör det.
I ett skriftligt svar till Danmarks radio understryker Snapchat att AI-roboten hänvisar till betrodda expertorganisationer när den får frågor med koppling till psykisk hälsa och att användare måste ha fyllt 13 år.
