iStock
Une équipe de chercheurs de l’Oxford Internet Institute et de l’Imperial College London a récemment publié une nouvelle étude sur les méfaits potentiels de l'IA sur les marchés en ligne. Celle-ci démontre que les « techniques adverses » (adversarial techniques) sont capables de déceler les vulnérabilités des algorithmes de tarification, manipuler les marchés pour augmenter les profits et créer de nouvelles formes de collusion, explique l’un de ses auteurs, Luc Rocher.
La plupart des plateformes de vente en ligne utilisent désormais des algorithmes de tarification qui modifient automatiques les prix en fonction de multiples critères : disponibilité des stocks, demande des consommateurs, prix des concurrents, etc. Des méthodes qui sont examinées de près par les économistes et les organismes de réglementation qui s'inquiètent de leur impact sur la concurrence. En marge de la publication la semaine dernière de l’étude intitulée ‘Adversarial competition and collusion in algorithmic markets’, dans la revue scientifique ‘Nature Machine Intelligence’, l’un de ses coauteurs, Luc Rocher, explique dans un post LinkedIn que la littérature scientifique s’était jusqu’ici intéressée à des scénarios proches des cartels traditionnels. « La recherche suggère que si les vendeurs utilisent tous la même stratégie algorithmique, les bénéfices pourraient augmenter », explique le chercheur. « Mais les vendeurs utiliseront probablement des algorithmes différents, optimisés pour leurs propres processus. Dans notre étude, nous suggérons une menace plus importante, plus facile à déployer et plus difficile à détecter : une entreprise qui apprendrait la stratégie des autres algorithmes pour manipuler le marché. »
« De nouveaux préjudices qui pourraient déjà être à l’œuvre »
De concert avec les chercheurs Yves-Alexandre de Montjoye et Arnaud Tournier, sous l’égide de l'Imperial College London et de l'Oxford Internet Institute (Université d'Oxford), Luc Rocher a développé un nouveau « mécanisme adverse » qui combine une exploration systématique de la stratégie des autres algorithmes avec une méthode basée sur les réseaux afin d’établir un ‘graphe de stratégies’, codifiant la façon dont les autres algorithmes réagissent aux changements de prix d'un adversaire. « Ce ‘graphe de stratégies’ permet à l'adversaire de trouver des séquences de prix spécifiques qui conduisent tous les vendeurs à augmenter leurs prix et leurs profits, au détriment des consommateurs », détaille celui qui est par ailleurs chargé de cours à Oxford. « Nous avons testé empiriquement notre mécanisme par rapport à trois algorithmes standard d'apprentissage par renforcement et nous avons découvert que ce nouveau mécanisme de ‘collusion adverse’ est efficace et robuste dans de nombreuses conditions, qu'il converge rapidement et qu'il conduit à un équilibre supra-concurrentiel qu'aucune entreprise n'est incitée à enfreindre. »
L’équipe de chercheurs estime par conséquent que son étude soulève de nouvelles questions en matière de réglementation et de contrôle, et que le mécanisme qu’elle a développé pourrait sortir du champ d'application des lois en vigueur en matière de concurrence. « Il n'y a actuellement pas assez de transparence et de responsabilité pour que les chercheurs puissent étudier et surveiller de manière indépendante ces nouveaux préjudices qui pourraient déjà être à l’œuvre », prévient Luc Rocher en guise de conclusion et d’avertissement.
