640 - De la collecte de la donnée à la prise de décision par un algorithme d’intelligence artificielle : comment élaborer une gouvernance collaborative et responsable?

Le partage de données est une pratique à la courante et encore émergeante dans l’écosystème des arts et de la culture, et qui évolue par les pratiques et les expériences. Démarche exploratoire ou stratégie commune, le partage n’est pas une finalité en soi. Les évolutions technologiques, législatives, ainsi que l’infinité de potentiels participent à la fois favoriser plus d’expériences de mutualisation, tout en créant une certaine complexité qui peut les rendre moins accessibles.

L'urgence climatique nécessite de nouvelles alliances entre, à travers et au sein des secteurs qui relient la science, l'action et la justice climatique. Les climatologues collectent et analysent de grandes quantités de données, souvent indépendamment des organisations de justice climatique engagées auprès des communautés les plus vulnérables. Cette présentation explorera les défis, le rôle critique des intermédiaires, ainsi que les incitations et les conditions favorables facilitant les voies de la collaboration mutuellement bénéfique entre les organisations communautaires, les gouvernements et le milieu scientifique.

Les travaux de l’Observatoire Data Publica démontrent, à travers plusieurs exemples français, que la construction d’un cadre de confiance pour le partage des données repose sur de multiples aspects. Cela nécessite des règles et un cadre juridique, mais aussi une méthode de gouvernance, des outils de contrôle, des habitudes de travail en commun et du temps. Ceci vaut tout autant pour les acteurs publics que pour les entreprises privées, mais aussi les citoyens.

Durant les dernières années, une prise de conscience est survenue quant aux pratiques de valorisation des données ayant un caractère délicat, notamment celles du domaine de la santé. L'anonymisation des données, par exemple, ne réduit pas à zéro les risques de ré-identification. Aussi, de nouvelles méthodes ont été développées pour valoriser les données de sources variées sans avoir à les extraire de leur lieu d'origine. Ces nouvelles façons de faire pourraient permettre d'apaiser les tensions existantes et d'augmenter la confiance envers les institutions et autres partie prenantes qui valorisent les données.

La mise en place d’une fiducie d’utilité sociale comme véhicule de gouvernance des données mutualisées présente un fort potentiel et plusieurs défis. La fiducie d’utilité sociale est un outil qui permet notamment d’inscrire une finalité d’intérêt général au cœur des mécanismes de gouvernance des données, d’où son attrait dans le cadre de projets de partage ou de mutualisation de données entre de nombreuses parties prenantes. S’appuyant sur deux projets pilotes portant sur des données culturelles et de mobilité, cette présentation abordera dans un premier temps les concepts clés de la fiducie d’utilité sociale et, dans un deuxième temps, certains enjeux de la gouvernance de données liés à l’utilisation de cet outil, à la multiplicité des parties prenantes et aux rôles de ces parties prenantes.

Cette présentation vise à décrire la méthode retenue pour adapter l’outil d’évaluation de l’Innovation responsable en santé (IRS) aux spécificités des solutions fondées sur l’IA et le numérique, et les faits saillants d’une recension exhaustive des cadres et outils proposés pour encadrer un développement plus responsable de ces solutions et les principaux défis rencontrés. Il sera notamment question de la ligne devant être tracée entre des solutions responsables et des solutions irresponsables et de l’interdépendance entre l’IA et les infrastructures numériques sans lesquelles elle ne pourrait exister.

À la suite des modifications législatives apportées par le Projet de loi 64, il sera bientôt nécessaire au Québec de réaliser des Évaluations des facteurs relatifs à la vie privée (EFVP) en certaines circonstances. Si cette manière de faire n’est pas universellement consacrée, elle est susceptible de s’appliquer pour le développement d’intelligence artificielle où les acteurs en cause entendent montrer leur diligence dans la manière de gérer les données. Cette présentation propose un modèle d'Évaluation des facteurs relatifs à la circulation des données qui incorpore les éléments à prendre en compte afin de s’assurer, au-delà de la seule vie privée, des considérations à intégrer dans les documents internes d’une organisation soucieuse d’une IA responsable.

L’introduction de l’intelligence artificielle (IA) dans les organisations publiques est en pleine expansion. L’IA présente plusieurs avantages et possibilités pour les organisations soucieuses d’améliorer l’efficacité et la qualité des services offerts aux usagers. Toutefois, l’implantation des solutions d’IA dans l’administration n’est pas sans poser plusieurs défis aux décideurs, gestionnaires et employés du secteur public. Dans cette communication, nous présentons les résultats d’une recherche menée dans des organisations publiques québécoises utilisant l’IA. Nous verrons que le processus d’implantation de l’IA varie selon le contexte institutionnel de chaque organisation. Cette technologie a le potentiel de transformer plusieurs aspects du travail, des relations de travail et des interactions avec les usagers.

Cette présentation vise à démontrer l’importance d'impliquer les personnes concernées dans le développement du NumérIA en santé et présente, en lien avec des projets de recherche en cours, les enjeux associés à l'implication des personnes issues de groupes dits "vulnérables", la cocréation d'un espace d'échange sur le NumérIA en santé pour les patient·es et citoyen·nes à travers le projet COMVIP et le codéveloppement d'outils pour favoriser l'équité, la diversité et l'inclusion dans les SIA par le projet PREMIA.