Action PLATFORM (2020-2021)
Impact Sociétal des Algorithmes Décisionnels
Responsables
- Béatrice Roussillon, GAEL, INSHS/INEE
- Juliette Sénéchal, CRDP, INSHS
- Oana Goga, LIG, INS2i
Correspondant ComDIR :
L’Action PLATFORM a été créée et animée en 2020 par Sihem Amer-Yahia (LIG, INS2i) et Christophe Bénavent (ECONOMIX, INSHS). Elle est portée par une nouvelle équipe depuis 2021.
Thématiques
Analyse de données, marketing et management, comportement du consommateur et révision des croyances, économie comportementale, sciences cognitives.
Données concernées
Données consommateurs, données produits, publicités en ligne
Mots clés
algorithmes décisionnels, modélisation des préférences, analyse expérimentale du comportement décisionnel, choix social, fouille de données
Contexte scientifique
La réalisation de notre action nécessite l’établissement d’un dialogue entre experts en sciences et technologies de l’information et en sciences de la consommation. D’une part, les informaticiens devront développer des algorithmes permettant de révéler les préférences et ainsi produire des recommandations. D’autre part, les comportementalistes devront concevoir des déploiements d’expériences contrôlées selon des principes établis en psychologie cognitive et en économie comportementale. Ces dernières permettront de théoriser les choix assistés par les algorithmes décisionnels et de mesurer leur acceptabilité. Ces deux parties devront se nourrir l’une de l’autre pour au final déployer des tests à grande échelle grâce au développement de plateformes et de plug-ins. Cette collecte de données et méta-données permettra une mesure robuste de l’impact des décisions algorithmiques sur les individus et sur la société. Pour y parvenir, l’action nécessite la conception d’expériences pour l’observation de comportements de consommation en milieu contrôlé, la définition de mesures de satisfaction et d’adoption, et bien sûr le développement d’algorithmes et d’outils de collecte et d’analyse de données.
Site de l’Action PLATFORM en cours de construction…
Activités de l’Action PLATFORM
Ce document résume notre action et les défis qui en découlent. Pendant la première année, nous avons organisé trois réunions pendant lesquelles nous avons conçu nos expériences sur AdAnalyst, développé une méthodologie de déploiement d’expériences et de modélisation de préférences, et obtenu les autorisations nécessaires auprès des Data Protection Officers et analysé les risques afférant aux RGPD.
La liste de nos publications est disponible ici, ainsi qu’un lexique que nous avons élaboré pour nous permettre de travailler ensemble entre informaticiens, économistes et juristes.
Nous avons également contribué au groupe de travail Plateformes Numériques et Risques Algorithmiques dans le cadre du GdR Internet et Société: https://cis.cnrs.fr/plateformes-et-risques-algorithmiques/