iStock
Een team onderzoekers van het Oxford Internet Institute en het Imperial College London heeft onlangs een nieuwe studie gepubliceerd over de potentiële bedreiging van AI voor online markten. Daaruit blijkt dat "adversarial techniques" in staat zijn om kwetsbaarheden in prijsstellingalgoritmes op te sporen, markten te manipuleren om de winst te verhogen en nieuwe vormen van collusie te creëren, legt een van de auteurs, Luc Rocher, uit.
De meeste platforms voor onlineverkoop gebruiken tegenwoordig prijsstellingsalgoritmes die de prijzen automatisch aanpassen volgens verschillende criteria: beschikbaarheid van de voorraad, vraag van de consument, prijzen van de concurrenten, enzovoort. Deze methoden worden kritisch bekeken door economen en regelgevende instanties die zich zorgen maken over de impact ervan op de concurrentie. Naar aanleidingde studie "Adversarial competition and collusion in algorithmic markets", die vorige week gepubliceerd werd in het wetenschappelijke tijdschrift "Nature Machine Intelligence", legt een van de co-auteurs, Luc Rocher, in een LinkedIn-post uit dat de wetenschappelijke literatuur zich tot nu toe heeft gericht op scenario's die dicht bij traditionele kartels (ondernemingen die overeenkomen om de prijzen op te drijven) liggen. "Het onderzoek suggereert dat als verkopers allemaal dezelfde algoritmische strategie gebruiken, de winsten zouden kunnen toenemen", legt hij uit. "Maar verkopers gebruiken waarschijnlijk verschillende algoritmen, die geoptimaliseerd zijn voor hun eigen processen. In onze studie wijzen wij op een grotere bedreiging die gemakkelijker in te zetten en moeilijker te detecteren is: een bedrijf dat de strategie van andere algoritmen leert om de markt te manipuleren."
"Nieuwe bedreiging is mogelijk al actief"
Samen met de onderzoekers Yves-Alexandre de Montjoye en Arnaud Tournier, en onder het toeziend oog van het Imperial College London en het Oxford Internet Institute (Universiteit van Oxford), heeft Luc Rocher een nieuw “adversarial mechanisme" ontwikkeld dat een systematische verkenning van de strategieën van andere algoritmen combineert met een methode die gebaseerd is op netwerken om een "strategiegrafiek" op te stellen, waarin wordt ontcijferd hoe andere algoritmen reageren op de prijsveranderingen van een concurrent. "Met deze 'strategiegrafiek' kan de tegenstander specifieke prijssequenties vinden die ertoe leiden dat alle verkopers hun prijzen en winsten verhogen, ten nadele van de consument", aldus de Oxford-docent. "Wij hebben ons mechanisme empirisch getest tegenover drie standaard algoritmen voor 'reinforcement learning’ en hebben vastgesteld dat dit nieuwe ‘adversarial collusion’-mechanisme onder veel omstandigheden efficiënt en robuust is, snel convergeert en leidt tot een supra-concurrentieel evenwicht waarbij geen enkel bedrijf baat heeft bij veranderingen.”
Het onderzoeksteam is dan ook van mening dat hun studie nieuwe vragen oproept rond regelgeving en controle, en dat het door hen ontwikkelde mechanisme mogelijk buiten het toepassingsgebied van de bestaande mededingingswetgeving valt. "Er is momenteel onvoldoende transparantie en verantwoordelijkheid voor onderzoekers om deze nieuwe bedreiging, die misschien al aan het werk is, onafhankelijk te bestuderen en te controleren", waarschuwt Luc Rocher.
