619 - Éthique et intelligence artificielle : principes, pratiques et modes de gouvernance

Les systèmes et objets dotés de technologies d’intelligence artificielle se multiplient et se diversifient. Le développement accéléré de ces technologies n’épargne pas le domaine de l’informatique affective, qui s’intéresse aux systèmes et applications variées qui mobilisent et exploitent les données émotionnelles des utilisateurs, à différentes fins. Cette conférence s’attardera aux différentes considérations éthiques que soulèvent le développement de ces technologies et la gouvernance de ce type de données sensibles, ainsi qu’au niveau d’intégration, très variable, de ces considérations au sein des organisations qui créent, développent et déploient ces solutions d’intelligence artificielle.

Dans cette présentation, je m’intéresserai à l’obligation de rendre des comptes sur les effets et sur l’usage des systèmes d’apprentissage automatiques dans les organisations privées et publiques. Je montrerai, dans un premier temps, que la reddition de compte est une notion complexe qui doit être mieux définie. Je discuterai ensuite de quatre enjeux soulevés par cette forme d’obligation : composer avec les limites épistémiques, établir les bons mécanismes de sanctions, éviter les effets contreproductifs et établir le bon rapport entre les coûts et les bénéfices de la reddition de compte.

Un certain pan de la littérature en éthique organisationnelle adopte une conception dynamique et une perspective pragmatiste de l’éthique. Certains auteurs ont d’ailleurs fait ressortir le fait que la sensibilité et le jugement éthique (et donc les actions qui s’en suivent) ne sont pas un « objet » en soi, une chose que l’on accepte ou pas, mais plutôt une compétence qui se « constitue » à travers la pratique. Une littérature qui pourrait nous aider à comprendre ces processus de sensibilisation éthique est celle liée à la construction de sens. Certes, diverses études ont mobilisé le concept de construction de sens éthique en organisation. Mais qu’en est-il de situations entièrement nouvelles, où aucune balise formelle sur le plan éthique n’existe, comme c’est le cas avec les acteurs organisationnels faisant face à de nouveaux enjeux éthiques induits par l’adoption de l’intelligence artificielle? Cette conférence présentera l’approche et les résultats d’une étude exploratoire visant à analyser le processus par lequel les employés d’une organisation de services financiers font sens des nouveaux enjeux éthiques induits par l’adoption des technologies de l’intelligence artificielle.

Depuis septembre 2020, le Centre hospitalier de l’Université de Montréal (CHUM) et son pôle d’innovation et d’intelligence artificielle (IA) en santé ont mobilisé une équipe pluridisciplinaire et multisectorielle composée de patients, chercheurs, gestionnaires, éthiciens, juristes, développeurs et décideurs de diverses organisations publiques et privées, afin d’activer et concrétiser l’innovation et l’IA responsables en santé. L’équipe s’appuie sur les dix principes de la Déclaration de Montréal pour un développement responsable de l’IA ainsi que d’autres travaux (i.e. Lehoux et al.; Morch et al., 2019) pour produire deux livrables visant à aider les innovateurs à développer des pratiques responsables et inclusives, alignées sur les besoins des populations: une checkliste pour favoriser la pratique réflexive des développeurs d’une part, et un guide pour orienter ces mêmes personnes tout au long du cycle de vie d’une innovation en santé, d’autre part. Les travaux de cette équipe mobilisée par le CHUM ont d’ores et déjà attiré l’attention du groupe de travail organisé par l’Organisation mondiale de la santé en vue de développer des standards pour favoriser l’IA responsable à travers le monde. Ils seront présentés aux participants du colloque en vue de susciter réactions et commentaires et de venir bonifier la démarche adoptée pour l’élaboration des livrables et leur diffusion auprès du plus grand nombre d’acteurs dans le réseau de la santé et des services sociaux, et au-delà. 

Le développement de l’intelligence artificielle (IA) constitue un progrès technologique majeur qui permet d’engendrer des bénéfices sociaux en améliorant les conditions de vie, la santé, la justice, en créant de la richesse et en renforçant la sécurité publique. Mais ce développement présente aussi des risques non négligeables dans la mesure où les machines artificiellement intelligentes peuvent influencer de manière indésirable les choix des individus et des groupes, et affecter l’environnement et le climat. L’une des plus importantes préoccupations ayant trait au développement de l’IA est sans contredit celle de son impact sur le monde du travail. D’abord, ces machines artificiellement intelligentes promettent d’automatiser un nombre de plus en plus important de tâches, mettant ainsi à risque certains travailleurs. Aussi, ce développement risque de faire en sorte que les travailleurs devront collaborer de manière plus intensive avec des machines, modifiant ainsi le contenu des emplois et, possiblement, le sens du travail. Cette présentation introduira les travaux de la Commission de l’éthique en science et en technologie sur les effets de l’IA sur les inégalités socio-économiques et la précarité, en plus d’explorer quelques solutions à considérant advenant le cas que les développements technologiques liés à l’IA participent à creuser les inégalités.

Cette communication s’intéresse aux répertoires d’action développés par les syndicats pour agir sur le déploiement éthique et responsable de l’IA.  À partir de données recueillies au cours de la dernière année auprès de représentants syndicaux au Québec, nous esquissons un premier portrait des principaux changements associés au déploiement de l’IA et du numérique sur les lieux du travail pour ensuite dresser un bilan provisoire des craintes et des espoirs que l’IA suscite chez les travailleurs (charge de travail, autonomie et formes de contrôle, qualifications et compétences, risques sociaux et économiques, transparence des nouveaux systèmes, vie privée, etc.).  Des pistes d’actions syndicales pour composer avec ces changements complèteront ce portrait.  Cette présentation sera ainsi l’occasion de faire ressortir les enjeux éthiques et les grands défis organisationnels susceptibles d’animer les discussions et les négociations autour de « l’organisation numérique du travail » et ce faisant, d’amener les acteurs syndicaux à puiser à travers les répertoires traditionnels d’actions collectives (conventions collectives, judiciarisations et représentations politiques, etc.), tout en mobilisant un répertoire plus créatif sous forme d’expérimentations avec les institutions qui les entourent afin de produire de nouvelles normes et règles pour traiter les enjeux soulevés par ce tournant numérique.

Si vous vous intéressez à l’IA responsable, vous avez fort probablement entendu parler de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Et si vous n’en avez effectivement qu’entendu parler, il est maintenant temps de vous y initier! Dans une présentation amicale et décontractée, venez découvrir les détails de cet important document d’éthique de l’IA en assistant aux aventures d’un charmant robot qui va à la découverte des 10 principes de la Déclaration de Montréal.

La publication de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle s’inscrit dans le sillage d’une mouvance globalisée vers la recherche de principes permettant une gouvernance responsable de l’intelligence artificielle (IA). Ces initiatives visent à répondre à des besoins exprimés tant par la société civile que par les acteurs œuvrant au développement technologique de l’IA.  Face à la multiplication des déclarations et des guides en éthique de l’IA, il semble opportun de se questionner sur le rôle de l’éthique dans l’élaboration d’une politique de l’IA. Nous nous proposons donc de réfléchir à ces questions en prenant appui sur l’éthique de l’information développée par Luciano Floridi. Après un bref survol des caractéristiques communes des principales déclarations élaborées ces dernières années en éthique de l’IA, nous présenterons les principales difficultés rencontrées dans l’interprétation et la mise en œuvre des principes généraux dans les milieux de pratique, difficultés qui reposent en dernière instance sur les conditions sociales particulières des milieux propres au développement de l’IA. Nous pourrons alors montrer en quoi la distinction proposée par Floridi entre soft ethics et hard ethics permet de repenser la relation entre l’éthique, la réglementation et la gouvernance et ainsi examiner l’apport (et les limites) des différentes composantes de la réflexion éthique à une gouvernance responsable de l’IA.

Face aux nombreux enjeux techniques, éthiques, légaux et sociaux entraînés par l’essor de l’intelligence artificielle (IA) et de ses applications, différents organismes, instances et acteurs du domaine public et privé ont soulevé la nécessité d’adopter un encadrement socialement responsable de leur développement. En réponse à cet objectif, plusieurs instruments normatifs comme des guides ou chartes de conduite éthique, des lignes directrices ou des déclarations – telles que la Déclaration de Montréal – ont récemment été adoptés. La nature normative de ces instruments est toutefois à géométrie variable et certains d’entre eux comportent une certaine visée régulatoire, ce qui interpelle en retour la place qu’occupe le droit positif dans la gouvernance du développement de l’IA. Comment comprendre la portée et la nature de l’encadrement normatif qu’ils offrent ? Dans cette communication, nous proposons d’identifier dans un premier temps le rôle dévolu au droit positif et ses limites pour encadrer les enjeux du développement de l’IA et de la robotique. Par la suite, nous analyserons les forces et les limites de la régulation qu’offrent plus spécifiquement certains instruments normatifs qualifiés de « droit mou » pour accompagner le droit dans la mise en œuvre d’une gouvernance responsable de ces technologies.

Dans le but de répondre à la demande d'organisations développant ou utilisant des systèmes d'intelligence artificielle souhaitant intégrer les principes de la Déclaration de Montréal à leurs processus d'évaluation et d'implantation de ces technologies, notre équipe de chercheur.e.s a construit une grille de réflexion inspirée de celle-ci.

Nous présenterons ici les résultats de l'enquête par questionnaire que nous avons menée auprès d'une trentaine de chercheur.e.s universitaires de différentes disciplines ayant pour but de tester et améliorer cette grille de réflexion inspirée de la Déclaration de Montréal. Nous en exposerons ainsi les principaux constats, de même que certaines différences marquées entre les réponses des répondants oeuvrant en IA, les chercheur.e.s d'autres disciplines s'intéressant aux enjeux éthiques de l'IA, ainsi que les chercheur.e.s ayant participé à l'élaboration de la Déclaration de Montréal.

Quelques rappels de base seront brièvement faits sur l’IA et ses caractéristiques, notamment les liens avec ce qui concerne le big data. Une pluralité impressionnante de phénomènes sont concernés quand nous nous interrogeons sur « l’éthique et l’IA », avec les différents problèmes qui vont de pair. Si, dans une approche pragmatiste, nous pensons que la réflexion éthique gagne à mener sa réflexion en partant des pratiques particulières et des problèmes qui sont posés en celles-ci, il est cohérent de s’arrêter à un cas ou une situation typique avec ses questions plutôt que de s’en tenir à des énoncés généraux, ou à des grands principes. Et la problématique de la gouvernance, si l’on prend le temps d’en fournir un concept adéquat, s’avère potentiellement très féconde pour avancer dans la réflexion éthique. Plus concrètement, nous regarderons les questions posées par le projet soutenu par le FRQ (2021) et dirigé par un sous-groupe de CentrEau, concernant l’analyse des eaux usées considérée comme outil visant à aviser la Santé publique au sujet des fluctuations de la Covid 19. Nous reviendrons sur les enjeux posés eu égard au traitement des big data dans ce projet de recherche comprenant plusieurs pôles institutionnels, et plusieurs angles disciplinaires qui visent à contribuer ensemble à faciliter certaines prises de décision de la santé publique.

Lorsqu’on tente de définir l’éthique pertinente pour l’IA, trois difficultés majeures apparaissent pour savoir (1) à qui cette éthique s’adresse, (2) quelles sont ses finalités, (3) quelles sont les modalités théoriques adéquates pour ce faire dans le répertoire de la théorie morale et politique. Cette triple difficulté constitue pour le questionnement philosophique une véritable opportunité. Pour commencer à la résoudre, on interrogera le rôle dévolu aux systèmes d’IA en poursuivant deux objectifs : à partir des cas offerts par les usages des systèmes contemporains d’IA, nous voulons d’une part caractériser les relations de confiance à l’égard de ces outils ; de l’autre, conceptualiser l’autorité qu’ils sont en train d’acquérir. Le constat de départ est que le déploiement contemporain de l’IA repose sur des formes de confiance envers les machines, véritable « ciment » des usages. Or, du point de vue des usagers, cette confiance s’adresse moins à des outils considérés comme neutres qu’à des entités personnalisées. Bien qu’encore mal qualifiées sur le plan de l’anthropologie ou de l’ontologie, ces entités ne sont plus des outils passifs mais gagnent à être conçues comme des agents. Ceux-ci exercent une influence sur les comportements qu’il convient de documenter et de conceptualiser. Notre contribution vise à examiner s’il s’agit d’une forme d’autorité, et, simultanément, entend envisager les transformations de la notion d’autorité dans le contexte de l’essor mondial de l’IA.