Yelp en alle andere contentproviders staan voor de strijd van hun bestaan om nepinformatie te filteren en te verwijderen. Hoe onderscheid je nepgegevens van echt? Voor het grootste deel doe je dat niet, maar het zal een permanent onderdeel van je profiel worden. ⁃ TN Editor
Robots komen je beoordelingen stelen.
Onderzoekers van de Universiteit van Chicago hebben een neuraal netwerk of kunstmatige intelligentiesysteem getraind om neprecensies op Yelp te schrijven - en het is vrij moeilijk om ze te onderscheiden van een menselijke beoordeling.
Hun studie, die zal worden gepresenteerd op de ACM-conferentie over computer- en communicatiebeveiliging in oktober, bedoeld om te benadrukken hoe gemakkelijk deze systemen menselijke beoordelingen kunnen nabootsen - en hoe schadelijk ze kunnen worden als ze niet goed worden gecontroleerd.
Omdat veel kleine bedrijven vertrouwen op online beoordelingen om te helpen groeien en hun reputatie te behouden, is een toekomst waarin iemand - zoals een rivaliserende of boze klant - zijn pagina hypothetisch zou kunnen spammen met negatieve beoordelingen geschreven door een machine, behoorlijk verontrustend.
En volgens het onderzoeksteam gaat de dreiging veel verder dan een heleboel neprecensies op Yelp.
"Over het algemeen is de dreiging groter", Ben Y. Zhao, een van de auteurs van de studie, vertelde Business Insider. "Ik denk dat de dreiging voor de samenleving als geheel en gebruikers echt gedesillusioneerd is en dat we ons geloof in wat echt is en wat niet is, willen afschudden, ik denk dat dit nog fundamenteler wordt."
Om te testen hoe geloofwaardig deze beoordelingen overkwamen, rekruteerden de onderzoekers 40-vrijwilligers en lieten AI vijf neprecensies genereren voor 40-restaurants. De vrijwilligers werd gevraagd hoe nuttig ze de beoordeling vonden en of ze dachten dat deze nep was. De AI-beoordelingen gerangschikt als "effectief niet te onderscheiden" van echte beoordelingen, volgens de studie. Verder kregen de neprecensies een 3.15 “bruikbaarheid” -beoordeling, vergeleken met een 3.28-beoordeling voor menselijke beoordelingen.
Hieronder staan vier vijfsterrenrecensies geschreven voor hetzelfde NYC-restaurant, kun je erachter komen welke door een mens zijn geschreven?
"Ik hou van deze plek. Ik ga hier al jaren heen en het is een geweldige plek om rond te hangen met vrienden en familie. Ik hou van het eten en de service. Ik heb nog nooit een slechte ervaring gehad toen ik daar ben. ”
“Gemakkelijk mijn favoriete Italiaanse restaurant. Ik hou van het proefmenu, alles is geweldig. Ik stel voor de carpaccio en de asperges. Helaas is het meer bekend geworden en wordt het moeilijk om een reservering te maken voor prime-times.
“Ik had de gegrilde vegetarische hamburger met friet !!!! Ohhhh en smaak. Omgggg! Erg lekker! Het was zo lekker dat ik het niet heb gespeld !! ”
“Mijn familie en ik zijn grote fans van deze plek. Het personeel is super aardig en het eten is geweldig. De kip is erg goed en de knoflooksaus is perfect. IJs gegarneerd met fruit is ook heerlijk. Sterk aanbevolen!"
Nummer twee is de enige recensie geschreven door een mens; nummers één, drie en vier werden allemaal gegenereerd door de AI.
wpDiscuz