610 - Intelligence artificielle : enjeux sociétaux et dialogues savoirs-société

La recherche en apprentissage profond a transformé les capacités de l'ordinateur et l'IA est sortie des laboratoires. Alors que les réseaux de neurones classiques étaient cantonnés à la reconnaissance des formes, les avancées modernes ouvrent les portes de la créativité, de la compréhension du langage naturel et de robots apprenants. Cependant, nous sommes encore loins d'une IA de niveau humain, et plusieurs défis pour les chercheurs en IA seront abordés. Il est important de comprendre ces limitations et leur contexte social quand on met au point des applications de l'IA. Au fur et à mesure que ces technologies deviennent plus puissantes, une course est engagée entre ces progrès technologiques et l'accroissement de notre sagesse collective. Plusieurs des enjeux sociaux de l'IA seront donc abordés pour illustrer le besoin d'investir non seulement en IA mais au moins autant dans la société et le bien-être de tous pour éviter les dérapages d'une utilisation malheureuse de l'IA.

Dans les dix dernières années nous avons été témoins de l’évolution du concept d’intelligence artificielle vers une notion qui a capturé l’imaginaire collectif avec ses promesses de transformation. L’apprentissage automatique et ses applications phares : Alpha Go, la voiture autonome, la reconnaissance d’image, la traduction automatique, etc., ont créé des attentes au niveau du potentiel de transformation de certains secteurs d’activité économique. Historiquement, le secteur bancaire est une sorte de paquebot qui a du mal à changer de direction. Au niveau de l’innovation technologique, les banques se sont fait dépassées par l’écosystème fintech en terme d’agilité. Au moment où les banques essaient de rattraper le coup, il est important d’avoir un regard critique sur les promesses de l’intelligence artificielle et ceux qu’elles veulent dire pour le secteur bancaire. Dans cette présentation, on va discuter du potentiel de transformation que l’intelligence artificielle apporte au secteur mais aussi les défis que cette transformation représente. Nous discuterons de ces questions autour de quelques exemples d’application de l’apprentissage automatique dans le secteur bancaire.

L’intensification technologique bouleverse actuellement les organisations, notamment en raison du remplacement de tâches par des applications issues de l’intelligence artificielle. Il en résulte un décalage important entre la rapidité avec laquelle les organisations intègrent ces applications et la connaissance que l’on a de leurs effets organisationnels. La séance propose une réflexion autour des enjeux organisationnels et managériaux de l’introduction de l’intelligence artificielle en milieu de travail en soulevant des questions telles que : quels sont les effets de ces changements sur le climat organisationnel, la satisfaction des employés, leur engagement, leur motivation, leur bien-être ou encore leur performance? Ces changements affectent-ils les relations de pouvoir au sein des organisations ? Commandent-ils de nouvelles formes de leadership? Engendrent-ils des rapports au travail différents ainsi que des changements identitaires ? Malgré les enjeux importants organisationnels et managériaux que risquent de soulever l’introduction de l’intelligence artificielle en milieu de travail, très peu de connaissances existent à l’heure actuelle sur ces derniers. La séance entend donc ouvrir la discussion en offrant quelques pistes de recherche potentielles.

L'intelligence artificielle suscite de grands espoirs au sein des organismes humanitaires. Les « humanitaires numériques » (Digital Humanitarians, Meyer 2015) y trouvent des techniques de collecte et de traitement de l'information pour améliorer significativement la production et l'utilisation de connaissances en contexte d'urgence. En même temps, l'IA suscite des craintes et du scepticisme au sein des organismes humanitaires. Des travailleurs humanitaires « de terrain » y voient, au mieux, une source de rêves éveillés et, au pire, une technologie qui, par un déploiement prématuré, nuira concrètement à leur objectif ultime, c.-à-d. sauver des vies. Sur la base d'une étude ethnographique et épistémologique de l'unité développant des solutions d'IA chez Médecins sans frontières, cette communication analysera comment l'IA se fraie avec difficulté un chemin dans le monde humanitaire.

Dans notre Société de l’Information, le profilage des utilisateurs à des fins de personnalisation et de recommandation est devenu la norme, ce qui a permis le développement de services qui sont ciblés sur les besoins spécifiques des individus, mais soulèvent aussi d’importantes questions éthiques et en terme de protection de la vie privée. En particulier, l’absence de transparence sur le processus de profilage et de personnalisation a conduit à une perte de contrôle des individus sur la collecte et l’usage qui est fait de leurs données personnelles tout en rendant impossible la possibilité pour un individu de questionner la décision prise par l’algorithme et de le rendre « imputable » par rapport à cette décision. De plus, la transparence est un prérequis afin de pouvoir analyser les biais possibles que les algorithmes de personnalisation pourraient avoir (par exemple en discriminant contre un groupe sensible de la population) dans le but de pouvoir ensuite les corriger. Dans cette présentation, je passerais en revue les principaux défis en terme de problématiques éthiques et de respect de la vie privée qui sont apparus récemment avant de présenter les principales approches qui ont été proposées pour répondre à ces défis. Enfin, je conclurais en soulignant quelques questions ouvertes.

La reddition de compte algorithmique désigne une situation où on rend compte de la manière dont on a conçu, ou utilisé, un algorithme. L’usage croissant de l’apprentissage machine, des mégadonnées et des technologies de l’information soulève des enjeux éthiques importants à cet égard. Par exemple, une entreprise doit-elle expliquer comment elle entraîne un système de reconnaissance faciale pour éviter les biais raciaux? Ou encore, peut-on utiliser la reconnaissance faciale sans porter préjudice à la vie privée et aux droits et libertés fondamentales des individus? Sous quelles conditions le système de justice d’un gouvernement peut-il utiliser un système de prédiction de la jurisprudence?

Cette présentation sera divisée en trois parties. La reddition de compte est importante pour le bon fonctionnement des entreprises et des institutions publiques, mais c’est aussi une notion complexe. Dans un premier temps, je montrerai comment on peut la définir tout en la distinguant d’autres caractéristiques importantes comme la transparence, l’imputabilité ou la responsiveness. Je montrerai dans un deuxième temps comment notre obligation de rendre compte peut être limitée pour différentes raisons, notamment la protection de la vie privée, les effets contre-productifs, des contraintes épistémiques et des contraintes de coûts. Dans un troisième temps, j’appliquerai ces limites pour clarifier l’étendue de notre obligation de rendre compte de l’usage des algorithmes.

Cette présentation a pour but de partager certaines des réflexions des Fonds de recherche du Québec sur la recherche éthique et responsable en intelligence artificielle (IA). En effet, l’exploitation de l’IA ouvre non seulement des voies novatrices de traitement et d’analyse de données massives, elle transforme les méthodologies et les stratégies de recherche.  De plus, la notion même de ‘participant’ en recherche, au cœur de l’analyse éthique de la recherche, est recadrée.  Il n’est plus nécessaire de compter sur la « participation active » d’êtres humains: la captation de données suffit et est souvent plus fiable qu’un questionnaire distribué aux participants. Le consentement à la recherche se résume-t-il dès lors, à une simple autorisation d’utilisation de données ? Comment assurer la fondamentale protection de la vie privée et la confidentialité des données des participants en recherche alors que l’IA offre des outils sophistiqués d’intrusion potentielle dans les secrets bien gardés des individus. Les comités d’éthique à la recherche ont-ils pour mandat d’examiner ce genre de projets dont les risques sont souvent jugés minimaux? Leur revient-il la responsabilité de questionner, dès la genèse des projets, les biais algorithmiques, pointés du doigt comme cause d’inéquité et de traitement inadéquats ?

Ce ne sont là que quelques-unes des questions pour lesquelles les FRQ ont été interpellés.

Arriver à un consensus international sur l’encadrement normatif du développement et de l’implantation de l’intelligence artificielle (IA) est un objectif d'une grande importance, mais ce processus exigera des efforts et une collaboration considérable. Ce déroulement est complexifié par une concurrence économique féroce qui nuit à l'efficacité des groupes de travail mis en place pour adapter directives et réglementation aux changements technologiques. Les organismes de la société civile (OSC) sont très peu représentés au sein des groupes de travail sur la gouvernance de l'IA et, pourtant, ils ont un rôle fondamental à jouer pour assurer la qualité et la stabilité de l'encadrement normatif de l'IA.

Nos lois sont des codifications des valeurs sociales, et les OSC doivent veiller à ce que cet encadrement normatif soit représentatif des valeurs de l'ensemble des citoyens. En effet, pour s'assurer que les valeurs entendues, automatisés et codifiées soient inclusives et représentatives de l'ensemble de la population, les OSC sont les experts les mieux placés pour faciliter un dialogue inclusif, et informer les décideurs en innovation réglementaire. Il est donc essentiel que les gouvernements se mobilisent pour protéger la délibération collective et renforcent la capacité des OSC à encadrer l'IA sur le plan éthique et normatif de l’IA.

Notre présentation approfondira ces prémisses et explorera des solutions, notamment celle des arts à la rescousse de l'innovation réglementaire.