415 - Plateformes, IA générative et régulation algorithmique : perspectives critiques et interdisciplinaires

Nous proposons de prendre le contre-pied des dernières évolutions de l’environnement numérique, notamment les Intelligences Artificielles Génératives (IAG), en décrivant un dispositif pédagogique expérimental de remédiation contre la dépolitisation généralisée des pratiques informationnelles (recherche, consultation, élaboration des connaissances), induite par la gouvernementalité algorithmique qui trouve dans les IAG une de ses réalisations les plus tangibles. Dans nos travaux (Desfriches Doria, 2018, 2022), nous défendons une approche socialement, culturellement située et créative de l’esprit critique, positionnée comme un acte d’exercice du libre arbitre, et qui met l’accent sur l’importance des capacités interprétatives, vues comme des compétences créatives relevant également de l’imagination, de l’intuition, et de la réflexivité, (Walters, 1990). A travers cette expérimentation, nous pensons contribuer à cultiver des pratiques critiques des outils et des espaces d’expressions des subjectivations s’appuyant sur l’exercice de l’esprit critique.

L’essor des discours critiques sur l’intelligence artificielle (IA) s’accompagne d’un phénomène paradoxal : ces contre-discours, bien qu’opposés aux narratifs dominants, sont souvent réintégrés dans des logiques de normalisation qui participent à la consolidation d’une gouvernementalité algorithmique (Rouvroy & Berns, 2013). Dans cette communication, nous analysons ces tensions et adaptations réciproques à travers le prisme des frictions (Tsing, 2020), concept qui permet d’éclairer les négociations entre contestation et institutionnalisation. Nous proposons ainsi une réflexion en trois temps : 1. Cartographie des contre-discours : Dans une perspective d’analyse des controverses, nous identifions les principaux acteurs (collectifs militants, chercheurs, régulateurs) et leurs argumentaires (technocritiques, abolitionnistes, réformistes). 2. Analyse des paradoxes et de la normalisation des critiques : Si certains discours opposés à l’IA s’inscrivent dans une logique de transformation, d’autres se retrouvent captés par les acteurs dominants et intégrés à des discours de légitimation (Metcalf et al., 2019). 3. Exploration des alternatives : Nous analyserons un corpus d’alternatives à l’IA dominante, composé de projets, initiatives et pratiques qui cherchent à proposer des visions différentes de l’IA, en rupture ou en tension avec les logiques technosolutionnistes. 

Cette communication présente les résultats d’une analyse thématique de plus de 400 articles publiés entre 2020 et 2025 provenant de médias anglophones, francophones et allophones nord-américains et portant sur la transparence, perçue ou affichée, des GAFAM (Google, Apple, Facebook, Amazon, Microsoft). La transparence étant définie comme l’ouverture des organisations à un examen social, politique et économique (Meijer 2009 ; Reischauer et Ringel 2022), l’objectif de ces analyses était de caractériser les discours entourant la visibilité publique des opérations des géants du numérique dans la presse. 

Notre travail met en lumière les discours journalistiques nord-américains sur la transparence du numérique et de l’intelligence artificielle (IA). Notre communication propose de répondre à la question : comment les discours médiatiques nord-américains encadrent-ils la transparence perçue et affichée des GAFAM en relation avec l’IA, la confidentialité des données et la manipulation du contenu numérique, et quelles sont les principales implications sociopolitiques dans le contexte actuel du capitalisme technologique ?  

Les plateformes numériques développent un ensemble de stratégies qui relèvent de la délimitation de territoires afin de tenir captifs leurs usager-es. Cette captivité s’avère tout autant attentionnelle qu’affective. Leur développement commercial s’appuie sur un ensemble de dérégulations, là où leurs stratégies pour attirer des usagers mobilisent des outils pour définir des limites de propriétés. Ainsi dans un premier point, nous montrerons que l’étude des brevets et des publications scientifiques portant sur le développement de dispositifs affectifs de quatre plateformes commerciales (Google, Meta, TikTok et Twitter/X) manifeste un processus de territorialisation afin de capter des données comportementales au sein de leur espace de circulation. Dans un deuxième point, nous montrerons que les plateformes ont des discours prescriptifs envers leurs usagers afin qu’ils expriment des émotions, leur joie par exemple. L’objectif des plateformes est de parvenir à une mise en données des affects afin de déterritorialiser les usages. Le territoire devient ici fluide par une mise en donnée des comportements des usagers. Cette mise en donnée est le résultat d’une régulation algorithmique des plateformes qui autorise les plateformes à agencer les données captées selon leurs propres objectifs de développement et de cloisonnement des usages. Nous conclurons par l’analyse des territoires numériques qui en résultent et qui finissent par agencer les données captées par les plateformes. 

Dans cette communication, nous présenterons les résultats d'un projet de recherche portant sur les agents conversationnels. L'objectif de la recherche vise à comprendre comment les mécanismes d’interpellation (Lecercle, 2019) influencent les dynamiques interactives à partir de l’analyse de conversations que nous avons menées avec trois agents vocaux intelligents. Nos résultats ont ainsi confirmé les nombreuses recherches portant sur les interactions humain-machine, soit que les AVI cherchent principalement à déclencher un état émotionnel positif pour leurs utilisateurs, en donnant l’impression d’être sociable et à l’écoute. L’utilisateur est interpellé comme un sujet émotionnel, maître de la machine.  En revanche, ces agents conversationnels comportaient un grand nombre de limitations qui suscitaient une rupture dans le dialogue entre les utilisateurs et la machine. Avec la sortie au grand public de ChatGPT en novembre 2022, il a été nécessaire d’adapter notre recherche à cette nouvelle technologie beaucoup plus performante qui tend à interpeller le sujet comme un sujet à la rationalité défaillante, limitée et dépassée. Après avoir présenté le concept d’interpellation algorithmique, nous mettrons en évidence les problèmes méthodologiques rencontrés lors de notre tentative d’incorporer la nouvelle génération d’IA générative à notre recherche. 

Dans le contexte de la montée en puissance de la « rationalité algorithmique » et des technologies de l’information, les agents conversationnels – qu’ils soient vocaux, textuels ou intégrés à des interfaces anthropomorphisées – se présentent comme des dispositifs sociotechniques à la fois utilitaires et émotionnels. Loin de se réduire à de simples outils fonctionnels, ces agents participent à la fabrique de subjectivités hypermodernes, à travers des pratiques interactionnelles quotidiennes qui renforcent la normalisation des valeurs du progrès technoscientifique et de l’optimisation de soi. 

Dans le cadre de cette communication, nous analyserons la manière dont ces interfaces incarnent et reconfigurent une gestique transhumaniste, entendue comme un ensemble de gestes performatifs et discursifs qui opèrent à la fois sur le plan affectif et idéologique. En mobilisant un cadre conceptuel fondé sur six valeurs clefs de l’hypermodernité – raison, bonheur, progrès, capital, individualisme, liberté – et en articulant cette perspective à la rhétorique transhumaniste telle que l’ont exposée Bonenfant et Caccamo (2021), nous montrerons comment les agents conversationnels ne se contentent pas d’incarner passivement des normes, mais contribuent activement à leur intériorisation par les personnes usagères.

En 2021, Google Photo lançait la fonction Little Patterns. À partir d’un ensemble de photographies stockées dans le téléphone des usager.es, l’application proposait une sorte de « proto-récit » sous la forme d’un titre (par ex. « Les aventures du sac orange ») et d’un album constitué automatiquement par des algorithmes. Plus récemment, par le biais d’une notification thématique, le Journal d’Apple suggère aux individus de rédiger un souvenir au sujet d’un événement récent. Des assistants mnésiques promettent quant à eux d’enregistrer l’environnement sonore et les conversations capturées tout au long de la journée pour générer une synthèse de l’expérience vécue et « faire mémoire ». L’agent conversationnel Personal AI va encore plus loin en créant une sorte de « double » numérique de soi qui pourrait raconter à notre place notre parcours de vie et nos souvenirs.

L’industrialisation et la marchandisation de la mémoire personnelle ne sont pas nouvelles, mais les développements des réseaux socionumériques, d’outils numériques de stockage et surtout les technologies de l’intelligence artificielle (IA) marquent une nouvelle étape dans la production de mémoire et de souvenirs à partir de données numériques.

Dans cette communication, nous souhaitons discuter des promesses liées aux technologies mnésiques émergentes qui impliquent des modélisations algorithmiques et ainsi enquêter sur les imaginaires de l’algorithmisation et de la plateformisation de la mémoire personnelle. 

Cette communication traite du rôle des plateformes de care dans la réorganisation du travail de soins au sein d’une économie (nécro)politique du care. Plus particulièrement, la recherche s’intéresse à la manière dont les plateformes pourraient s’insérer parmi les mécanismes de production coercitifs mobilisés dans le cadre d'une économie nécropolitique du care, c’est-à-dire à leur rôle dans l’assignation de certains groupes à des fonctions dévalorisées qui permettent de faire prospérer des vies socialement considérées comme plus importantes. Depuis 2015, l’apparition des plateformes de travail a accompagné la montée d’une économie à la demande ou « gig economy » qui repose fortement sur le travail migrant. Ce phénomène reste encore peu documenté dans le secteur des soins et des travaux domestiques (Kampouri, 2022; Rodríguez‐Modroño et coll., 2022; Rodríguez‐Modroño, 2024a, Dowling, 2024). La présente communication présentera les résultats de la revue de littérature ainsi que les résultats préliminaires d’une étude empirique visant à cartographier les plateformes actives au Québec ainsi que la place des politiques publiques dans leur émergence.  

TikTok s’est donné pour mission « d’inspirer la créativité et d’apporter la joie ». Mais, bien au-delà du divertissement, la plateforme émerge aussi comme un acteur majeur dans la mutation des pratiques informationnelles, particulièrement chez les jeunes adultes. En effet, TikTok est devenu la principale source d’information pour 23 % des 18-24 ans (Newman et al., 2024, p.12). Nous proposons d’examiner un phénomène émergent sur le média socionumérique : la monétisation de la misère, où la détresse individuelle devient un spectacle viral consommé quotidiennement à coups de vidéos en « directs ». Loin des filtres cosmétiques afin d’embellir les sujets et des montages vidéo efficaces générés par intelligence artificielle dans le but d’améliorer la qualité de la production (Lyu et al, 2024), l’aspect brut et « authentique » émerge comme la nouvelle esthétique du « réel » sur la plateforme. Des créateurs de contenu, devenus entrepreneurs d’eux-mêmes, transforment leur présence en ligne en des écosystèmes structurés permettant de rentabiliser leur misère apparente. Ce phénomène soulève des questions cruciales sur l’économie de l’attention, la gouvernementalité algorithmique et l’éthique des plateformes numériques.

Les îles de la Madeleine est un territoire insulaire isolé de 14 000 habitants situé au cœur du Golfe Saint-Laurent. Il y a 30 ans, on y vivait en quasi-autarcie une culture acadienne et madelinienne qui, graduellement, a fait place à une culture majoritairement numérique établit comme un point de passage obligatoire ((Callon, 1986; Söderström et al., 2020)). Ces systèmes techniques complexes dominent présentement l’activité économique, culturelle, et communautaire de cet archipel (Ronsin, 2021) menacé par les changements climatiques. Au cours du printemps 2024, un projet de redevance touristique de 30$ appliqué aux plus de 60 000 touristes estivaux a été mis en place en collaboration avec les autorités fédérales dans le but de préserver ce territoire. L’objet de la controverse technologique et médiatique, qui aurait pu porter sur l’enjeux constitutionnel associé à ce projet, s’est plutôt traduit sur les médias sociaux en désinformation, pratiques superstitieuses, et avis pseudoscientifiques liés au paiement avec un code QR qui ont éventuellement mené à l’abandon du projet.
Ce projet propose une ethnographie par observation participative de l’impact de ces technologies sur la population des Îles de la Madeleine. Il s’agira de faire une couverture de l’enjeux vu par les médias locaux, les MRC, les associations de maires(ses), les madelinots et par le groupe Facebook public : Info Madelinot. 

La « plateformisation » du travail, qui consiste à mettre en relation un travailleur dit indépendant et un client via une application, s’est fortement développée ces dix dernières années. Derrière les discours valorisant l’autonomie et l’empowerment (Peirot, 2020), ce modèle repose sur des formes de contrôle algorithmique qui façonnent profondément l’organisation du travail (Rosenblat, 2018). Parmi ces mécanismes, la gamification du travail joue un rôle central, en intégrant badges, niveaux, scores de performance et objectifs à atteindre pour inciter les chauffeurs et livreurs à adopter certains comportements. 

Cette communication s’appuie sur une recherche doctorale menée auprès de 24 chauffeurs et livreurs Uber au Québec, à travers une ethnographie en ligne et des entretiens semi-dirigés. Elle analyse leurs pratiques de travail, leurs dynamiques de socialisation et leur pouvoir d’agir, tant individuel que collectif, en s’appuyant sur un cadre théorique multidisciplinaire combinant communication (Goffman, 1974 ; Morin, 2006), sociologie des usages (Certeau, 1990 ; Millerand, 1998) et ergonomie (Clot, 2017).