Falske anmeldelser i onlinebutikker: Forbrugerbeskyttelse advarer om kunstig intelligens

Falske anmeldelser i onlinebutikker: Forbrugerbeskyttelse advarer om kunstig intelligens

Ifølge en rapport fra www.express.de, advarer mod falske anmeldelser i onlinebutikker, der bruger kunstig intelligens. Det amerikanske forbrugerbeskyttelsesagentur (FTC) advarer allerede om svigagtig brug af generativ kunstig intelligens til at skabe falske profiler og falske kundeanmeldelser. Denne advarsel blev bekræftet af Michaela Schröder fra Federal Association of Consumer Organisations (vzbv).

Forfalskning af anmeldelser af kunstig intelligens er et alvorligt problem, fordi det er svært at skelne dem fra anmeldelser skrevet af rigtige mennesker. Mens mange platformsoperatører bruger software til at lede efter usædvanlige sprogmønstre i kundeanmeldelser, der indikerer en falsk, fungerer denne mønstergenkendelse muligvis ikke med ChatGPT og andre AI-programmer.

Selvom EU's AI-lov kræver mærkning af indhold produceret med AI, antages det, at svindlere næppe vil overholde dette. Derfor giver oplysningsforpligtelser over for forbrugere kun begrænset beskyttelse.

Disse falske anmeldelser kan have en betydelig indvirkning på markedet og forbrugerne. Kundernes tillid kan gå tabt, virksomheder kan blive skadet af svigagtig praksis, og forbrugernes valg kan blive påvirket af falske positive anmeldelser. Det er derfor vigtigt, at forbrugerne behandler anmeldelser på nettet bevidst og kritisk og ikke udelukkende stoler på dem. Platformoperatører bør tjekke deres analysesoftware for mulige sårbarheder og unddragelsesstrategier, der bruges af svindlere for at sikre tillid og ærlighed i online anmeldelser.