Corps de l’article

Introduction

Le mercredi 3 avril 2019 s’est tenu à Montréal le 1er de trois Cafés de bioéthique portant sur l’éthique, les données et la santé, intitulé « Le citoyen et ses objets connectés : qu’advient-il de ses données? » Cette rencontre a été diffusée en direct et enregistrée sur YouTube. L’événement a été organisé par des étudiants des Programmes de bioéthique de l’École de santé publique de l’Université de Montréal (ÉSPUM) et animé par le directeur des Programmes de bioéthique, M. Bryn Williams-Jones. Trois experts ont participé comme panélistes : Mme Catherine Régis, professeure agrégée de la Faculté de droit de l’Université de Montréal et titulaire de la Chaire de recherche du Canada sur la culture collaborative en droit et politiques de la santé ; M. Guy Paré, professeur titulaire au Département de technologies de l’information à HEC Montréal et titulaire de la Chaire de recherche en santé connectée ; et M. Ma’n H. Zawati, directeur exécutif du Centre de génomique et de politiques du Département de génétique humaine de l’Université McGill et membre associé de l’Unité d’éthique biomédicale. Ce Café visait à réunir des experts provenant de divers champs académiques intéressés par les grands défis et enjeux éthiques actuels qui entourent la santé et l’effervescence associée aux mégadonnées en recherche et en société.

Cette réunion a ainsi offert une plateforme idéale pour favoriser une rencontre et un échange interactif et dynamique entre des experts d’horizons différents et le public, sur un sujet d’actualité qui nous concerne tous. L’objectif de ce compte-rendu est de présenter les idées centrales qui ont émergé de cet événement dans un format synthétique. Les arguments soulevés s’inscrivent dans le large débat entourant les mégadonnées, l’intelligence artificielle et leurs nombreuses déclinaisons en objets et applications intelligentes. Nous allons présenter, selon un plan thématique, les différents questionnements et arguments des échanges entre les experts et le public. Dans un premier temps, nous exposerons les principaux concepts qui ont servi de fil conducteur à cette activité puis nous aborderons les espoirs et les promesses que suscitent les objets connectés. Par la suite, nous verrons quels sont les risques associés à l’utilisation et à la circulation de ces applications. Enfin, nous nous attarderons sur un enjeu souvent évoqué, tant par le public que par les experts : la responsabilité liée au fonctionnement et à l’utilisation de ces technologies. Qui est responsable de la technologie? Qui est responsable d’assumer le fardeau des risques? Qui est responsable et comment doit-on rendre des comptes?

Les principaux concepts

Mégadonnées, intelligence artificielle et objets connectés

Les mégadonnées (MD), l’intelligence artificielle (IA) et les objets connectés (OC) sont des concepts distincts, mais de plus en plus utilisés par les experts et le citoyen pour désigner un phénomène sociotechnologique qui nous dépasse : celui de la production massive de données (MD) traitables par des techniques sophistiquées (IA et statistique) et pouvant produire des technologies précises et personnalisées (OC) qui modifient la relation entre l’humain et la technologie. Cependant, en lien avec tous ces concepts et leur omniprésence grandissante dans nos sociétés, de nombreux enjeux éthiques apparaissent, imbriqués dans de multiples dilemmes légaux, sociaux, économiques et techniques (1,2).

Objets connectés

M. Paré a souligné que l’une des dernières grandes innovations technologiques de l’ère contemporaine est représentée par l’apparition des objets connectés qui permettent, à travers leurs utilisations diverses, de relier la vie réelle à la vie numérique. Le rapport émis par le Centre facilitant la recherche et l’innovation dans les organisations (CEFRIO) en 2017 donne la définition suivante : « Un objet connecté peut être simplement défini comme étant un objet du monde réel ayant une capacité de communication » (3, p.5). Élément de mode ou bénéfice réel pour le citoyen, nous retrouvions néanmoins 15 milliards de ces objets dans le monde en 2015, et ce marché continue de se développer, précise M. Paré (3). Ces objets sont reliés à un nombre important d’applications, sans cesse en augmentation, dont la plupart ont la capacité d’échanger automatiquement de l’information via internet (d’où l’appellation connectée) (4). En outre, 70% de ces applications toucheraient au domaine de la santé et du bien-être (4).

La quantification de soi

Les panélistes ont tous confirmé le lien étroit qui existe entre ces objets connectés et les principes d’autonomisation et de responsabilisation des citoyens. Les individus peuvent réaliser ce que les experts appellent une quantification de soi : « il s’agit de collecter, mesurer, comparer différentes variables biologiques, physiques, comportementales et environnementales, dans un objectif de mieux-être, de maintien ou d’amélioration de l’état de santé » (4, p.5).

Personne ou citoyen

Par le choix du thème – « Le citoyen et ses objets connectés » –, les organisateurs voulaient souligner les enjeux politiques et légaux liés à la production et l’utilisation des objets connectés. Le terme citoyen se rapporte aux droits et devoirs que possède une personne dans l’État dans lequel elle vit. Il apparaissait donc important pour l’événement d’aborder également les enjeux éthiques touchant aux droits de la personne et à la protection des renseignements personnels, mais aussi à la globalisation et à la commercialisation des données de santé, ainsi qu’à la question de responsabilité, qui touche à la fois l’individu, le citoyen et les instances publiques et privées dans lesquels le citoyen évolue.

Espoirs et promesses

Les espoirs et les promesses que peuvent apporter ces nouvelles technologies concernent la société (dimension macro), s’enrichissant de nouveaux services fluides et sophistiqués, mais aussi l’individu utilisant ces objets connectés (dimension micro).

La société

Amélioration du système de santé et limite de l’accessibilité à des données de qualité

Les trois experts ont relevé l’avantage envisagé de ces objets connectés et de leurs données compilées dans l’amélioration du système de santé, en évoquant de nombreuses utilisations avérées qui accroissent l’efficacité du système et la pertinence de soins. Selon Mme Régis, ces « données plus fines et plus précises » vont permettre « de documenter davantage ce qui est fait, ce qui fonctionne et ce qui ne fonctionne pas dans le système de santé ». Comme elle le souligne, le Commissaire à la santé et au bien-être du Québec a comme mandat d’évaluer le système de santé pour enrichir le débat public et la prise de décision gouvernementale, mais « que l’un des défis primaires qui est posé à son activité au Québec est l’accessibilité à des données de qualités pour évaluer et améliorer ce que l’on fait ». Cette amélioration repose donc sur l’acquisition de données numériques de qualité via le réseau de la santé, mais aussi, de plus en plus, par des objets connectés offrant des données personnalisées sur le patient.

Accessibilité équitable aux objets connectés entre les citoyens et les sociétés

Un questionnement revenait de la part du public : Comment garantir une accessibilité équitable et juste dans le monde et au Québec ? À l’international, comme le précise Mme Régis, « c’est aussi une aubaine », car ces avancées accroissant l’accès aux nouvelles technologies permettent d’apporter et de rendre plus accessibles certaines ressources jusqu’alors inaccessibles pour des régions du monde. Elle propose comme exemple le téléphone qui, « de façon globale, permet de joindre des personnes dans plusieurs pays qui n’auraient pas accès à des soins […] ; cela leur permet d’avoir accès à une base d’information pour leur santé, pour se diagnostiquer ou comprendre ce qu’il se passe ou quoi faire, c’est quand même utile ». M. Zawati transpose cette promesse au cas québécois en indiquant que la couverture internet est de plus en plus homogène et complète, « il y a plus de connexions que d’habitants en Amérique du Nord ». D’après lui, cette accessibilité est présente et va continuer de se développer et de se démocratiser. Cette évolution nécessite cependant du temps, et confirme ainsi les défis reliés à l’analphabétisme numérique et aux disparités des ressources et services entre les métropoles et les régions (5).

Autonomisation, responsabilisation et démocratisation

Dans une optique où l’accessibilité continue à progresser, l’autonomisation qu’elle engendre permet de proposer les ressources nécessaires aux personnes pour qu’elles puissent s’occuper d’elles-mêmes. M. Paré évoque notamment le cas actuel des sociétés vieillissantes dont les besoins en soins à domicile sont en hausse. D’après lui, que ce soit par des bracelets, des capteurs ou des traqueurs, une personne âgée pourrait, selon ces promesses, rester plus longtemps à domicile de manière sécuritaire et en recevant presque tous les soins nécessaires. Il existe déjà plusieurs innovations sur le marché qui alimente ces espoirs. M. Paré souligne que « l’industrie des technologies de l’information tente de faire et de soutenir la promesse de vivre et se développer en santé longtemps et si possible chez soi ».

Ainsi, d’un point de vue sociétal, ces objets connectés et les données qu’ils génèrent permettent non seulement de favoriser le maintien à domicile des personnes âgées, mais peuvent également aider à améliorer le système de santé ici, au Québec, et contribuer à une dissémination des connaissances scientifiques à travers le monde.

L’individu

Connaissance de soi, autonomisation et responsabilisation

Ces nouvelles technologies (montres, bracelets, téléphones et autres objets intelligents) permettent aux citoyens de mieux se connaître physiologiquement, mais aussi psychologiquement. Comme l’indiquait Mme Régis, l’individu peut se passer de l’aide d’un professionnel dont les services sont souvent onéreux et désadaptés pour plusieurs populations. Pour un parent ou un travailleur ayant un emploi du temps bien rempli, il est souvent difficile de dégager le temps requis pour consulter. Ainsi, ces appareils peuvent venir en aide en fournissant un soutien plus personnalisé que les services sociaux et de santé conventionnels. Cela entraine un réel avantage au niveau de « la personnalisation des soins, mais aussi de la démocratisation ou de l’autonomisation des soins », nous a-t-elle indiqué. Les données compilées pourront épauler une gamme de soins et de services sociaux plus individualisé et qui respecte le fait que chacun est un être unique et a des besoins qui lui sont propres. Parallèlement à cette personnalisation et à cette autonomisation, un accès en temps réel à nos données de santé et à nos données comportementales, en considérant par ailleurs l’intégration des informations trouvées sur le web, pourrait devenir un « accélérateur de la révolution de la démocratisation de l’information » alimentant également un phénomène d’empowerment, expliqué par M. Zawati comme à la jonction entre la responsabilisation et l’autonomisation.

Responsabilisation

Plusieurs exemples ont été présentés au sujet de technologies offrant au patient une meilleure compréhension de sa condition et des soins. Comme l’indique Mme Régis, une meilleure compréhension peut amener l’individu à se responsabiliser et, donc, à jouer un rôle actif dans sa prise en charge (ou autonomie) et dans son bien-être. Dès lors apparait une décentralisation de l’expertise, selon M. Zawati : le soignant n’est plus le seul à posséder l’expertise de la santé. Le patient, particulièrement dans les cas de maladies chroniques ou rares, possède aujourd’hui plus de connaissances et fait preuve d’une expérience particulière : vivre avec sa maladie et sa santé. Cette vision va d’ailleurs de pair avec les récentes initiatives de patient-partenaire. Non seulement le patient peut instruire les soignants par la connaissance intime de sa maladie, mais il peut également bénéficier d’une personnalisation des ressources et de l’offre de soins mis à sa disposition pour effectuer son suivi médical et son traitement. Selon les panélistes, la frontière qui séparait autrefois le patient du soignant et qui était déterminée par le savoir pourrait doucement disparaitre pour favoriser un partenariat équitable et unique dans l’histoire médicale.

Libérer du temps et efficience des soignants

Sans naïveté, Mme Régis ajoute que ces technologies permettent également de libérer du temps aux professionnels de santé. L’intelligence artificielle (IA), notamment, offre de plus en plus d’applications basées sur des algorithmes sophistiqués qui permettent de poser des diagnostics ou d’établir des plans traitements personnalisés, laissant ainsi plus de temps au soignant pour interagir avec son patient. Elle précise cependant que, malgré ses espoirs de machines remplaçant certains actes humains, il nous faut réfléchir à l’effritement des relations humaines – soignants-patient : une conséquence possible de l’omniprésence des machines dans cette relation. Mme Régis soulève une question pertinente à poser dans diverses situations cliniques lié au rôle des machines dans l’offre de soins et de services : « Qu’est ce qui est vraiment important pour nous et que nous ne voudrions pas déléguer à une machine? » Le positif derrière de simples relations humaines entre patient et soignants permet de remettre l’humain au centre de la discussion et rappelle les énoncés de la Déclaration de Montréal sur le développement responsable de l’IA (6). D’ailleurs, aucune technologie n’est bienveillante d’elle-même, nous ont rappelé les panélistes à bons nombres de reprises : la technologie est un outil dont les bienfaits ou méfaits dépendent de l’utilisateur (voire du concepteur) (7).

Craintes et risques

Les experts et le public ont aussi soulevé des risques inhérents à ces technologies et à leur utilisation.

Hypernormativité

Mme Régis évoque un risque d’hypernormativité : « la technologie est très normative et elle inscrit rapidement un sentiment de normalité » au sein de la société. Elle illustre cet argument en faisant référence à une époque, pas si lointaine, où l’on aurait considéré anormal de réaliser une conférence en direct, alors que pourtant ceci est conventionnel de nos jours pour faire rayonner un événement comme le présent Café de bioéthique. Lorsqu’inférée à d’autres sujets comme le partage de renseignements personnels, elle souligne que « ce sentiment de normalisation d’une surveillance constante nous fait perdre un peu conscience de l’importance de la vie privée ou de ce qui nous amène à désirer protéger cette valeur ».

Consentement

Consentement relationnel

Malgré un formulaire de consentement et des politiques de confidentialité, plusieurs corporations nient encore aujourd’hui l’interconnectivité entre le citoyen, sa famille et son voisinage, négligeant ainsi de prendre en compte la possibilité d’obtenir des renseignements sur une personne à partir d’une seconde, ex. : les renseignements génétiques. En effet, M. Zawati suggère que, « lorsque ces données vont devenir plus précises, on va parler de plus en plus de certaines données qui sont sensibles, des données qui ont à trait à vous en tant qu’individu, mais peut-être à d’autres personnes dans votre famille ». Sans politique plus adéquate, ces données sensibles continuent d’être utilisées par les exploitants de différents logiciels et ceci, sans avoir recours à un consentement libre, éclairé et continu, et sans considération supplémentaire pour ces risques dits relationnels liés aux familles et au voisinage.

Prévenir par l’éducation

Les formulaires de consentements proposés par la grande majorité des corporations actuelles ne contiennent pas toutes les informations nécessaires à l’utilisateur pour prendre une décision éclairée, et sont même parfois imposés au consommateur, ce qui va définitivement à l’encontre de tout cadre éthique concernant le consentement libre, éclairé et continu (8). D’après M. Paré, le premier facteur menant à un mauvais consentement – c.-à-d. un consentement ni libre, ni éclairé, ni continu – est lié au fait que peu de gens ont conscience des enjeux éthiques de confidentialité et de sécurité de l’information recueillie. Cette promotion des risques et le besoin d’éducation qui en découle deviennent évidemment une responsabilité partagée entre le citoyen, l’État et la corporation; la responsabilisation de cette dernière s’avère souvent lacunaire comme l’indique M. Paré. Mme Régis rappelle d’ailleurs la notion d’autodéfense intellectuelle introduite par M. Normand Baillargeon (9) qui peut aider les citoyens à être plus critiques et elle souligne les rôles qu’ont à jouer l’éducation publique et la santé publique dans cette éducation.

Complexité et subtilité des conséquences

Selon M. Paré, la nature des données peut être en cause, en raison de leur nombre, de leur complexité et de la subtilité des effets néfastes potentiels qui leur sont rattachés, rendant ainsi difficile pour le citoyen, mais aussi pour l’expert, d’y voir clair. Cette complexité et subtilité propre aux mégadonnées et à ces enjeux peut en effet rendre les citoyens moins suspicieux devant les diverses applications et être ainsi plus ouverts à consentir aveuglement au partage de leurs données. Par ailleurs, M. Paré précise qu’il y a également une culture sociale du laisser-aller à propos de certains types d’informations. Ainsi, il précise qu’il devient moins gênant d’accepter de communiquer librement des informations reliées à notre bien-être en général (comportements, habitudes de vies, émotions, etc.) que des données précises sur notre santé physique.

Inintelligibilité des formulaires, non-transparence et renforcement par récompense

En dépit de sa longueur, le formulaire de consentement renferme souvent des informations insuffisantes ou incomplètes ce qui laisse croire à un grave manque de transparence. Mme Régis indique que les individus acceptent plus facilement de fournir des informations au secteur privé qui leur offre une récompense immédiate. Elle ajoute que ces entreprises se nourrissent grandement des données obtenues à l’aide de modalités de consentement qu’elle qualifie d’inappropriées. Si ceci semble contre-intuitif au sens de maximiser l’intérêt individuel, Mme Régis nous montre cependant tout le sens commercial et publicitaire derrière cette mesure, rendant ainsi ce phénomène compréhensif en considérant le point de vue des stratégies d’entreprises, puis du consommateur. D’ailleurs, M. Paré indique qu’il existe, au Québec, une inégalité d’accès aux données entre le secteur privé et le secteur public, les chercheurs ne pouvant parfois pas réaliser leur recherche à cause de données inaccessibles ou insuffisantes, ce qui n’est pas le cas des entreprises privées. Ce phénomène expliquerait donc une certaine monopolisation de l’expertise par les grandes corporations (Google, Amazone, Facebook, Appel, Microsoft; GAFAM) par rapport aux gouvernements, pourtant des organismes publics.

Consentement par choix binaire

En référence aux formulaires de consentement à remplir, le public a aussi soulevé des craintes au sujet du choix binaire soit « accepter » ou « refuser » concernant les conditions d’utilisation à valider avant de pouvoir utiliser une application, un site ou tout autre support technologique. M. Paré suggère ainsi une option alternative soit « accepter, mais ». M. Zawati renchérit sur cette remarque en indiquant que plusieurs applications mobiles à l’international et au Canada présentent uniquement ce choix binaire auquel les utilisateurs doivent se conformer sans pouvoir faire de nuances, sans quoi ils n’ont pas accès au contenu. Ce dernier a souligné notamment des exemples de cas en santé dont l’intervention dépendant désormais de certaines de ces technologies et a également indiqué plus largement l’utilisation de plus en plus nécessaire de certaines applications intégrées directement à nos vies (ex. : Google Map).

Double usage et utilisation secondaire des données

L’utilisation de ces données provenant d’appareils connectés peut être risquée pour l’individu, notamment, en lien avec les possibilités de commercialisation secondaire de celles-ci (ou double usage), imposant de sérieux questionnements à propos de la propriété et de la profitabilité de celles-ci (Qui profite ? À quelles fins ? Quelqu’un est-il exploité ?). Pour illustrer ces risques, les experts et le public ont soulevé l’utilisation par les assurances de certaines données, ce qui peut entrainer une stigmatisation et une discrimination des individus, voire de groupes sociaux entiers, en raison des risques relationnels liés à l’interconnexion entre les données compilées. Face à ces risques, les trois experts s’accordent pour dire qu’il faut éduquer les citoyens et leur faire prendre conscience de ces situations. Mme Régis évoque à ce propos qu’il est important de demeurer un citoyen avec des capacités de réflexion critique afin que le citoyen puisse se questionner par rapport à ces technologies et aux circonstances dans lesquelles celles-ci peuvent devenir problématiques, mesurer les liens entre ces technologies, ne pas croire tout ce que l’on dit et finalement, développer des outils d’autodéfense intellectuels (9).

Responsabilité partagée

À l’intersection entre ces risques et ces espoirs annoncés vient se positionner une vraie préoccupation qu’à la fois les experts et l’auditoire soulèvent : la responsabilité.

Responsabilité de la machine et de son utilisateur

Mme Régis aborde ce sujet en parlant de l’aide que peut apporter l’intelligence artificielle au médecin via le développement d’algorithmes plus performants que la capacité diagnostique du médecin. Elle soulève le « poids normatif que [ces algorithmes] auront », pour décider de la vie ou de la mort de patients. Il est vrai, comme elle le mentionne, que plusieurs questions se posent : Quelle sera la réaction des professionnels soignants face à cela ? Existera-t-il une liberté de s’en écarter ? Quelle sera la réaction des tribunaux dans le cas où un médecin n’aurait pas utilisé ces outils à sa disposition ? En tant que juriste, elle propose que les lois à venir précisent le rôle de l’algorithme : la machine est un outil pour l’humain qui, a contrario, ne doit jamais devenir au service de la machine, comme l’a soulevé d’ailleurs la Déclaration de Montréal sur le développement responsable de l’IA (6).

Responsabilité interdisciplinaire et transsectorielle

M. Zawati exprime un point de vue différent, notamment, en rappelant la nécessaire collaboration et intégration d’une diversité de parties prenantes autour des enjeux sociotechniques. Il aborde la question de la responsabilité pénale quant aux applications mobiles qui « font des associations entre un symptôme et une condition médicale ». Il y a là une vraie préoccupation quant à savoir qui propose cette information ainsi que la véracité et la clarté de celle-ci. Il ajoute également le fait que ce n’est pas de la responsabilité d’une seule personne, mais qu’il est important d’aborder cette responsabilité en concevant la cascade d’acteurs, du concepteur à l’utilisateur. D’après lui, il y a bien sûr l’individu qui a une « responsabilité de s’informer », mais le « Collège des médecins » a aussi une responsabilité : il devrait énoncer des principes et des lignes directrices sans équivoque en matière de mégadonnées, d’intelligence artificielle et de l’usage des objets connectés. Il pousse également la réflexion au long terme, en proposant l’émergence d’une nouvelle discipline comme le « medical computing » qui serait enseigné dans les facultés de médecine pour former les futurs soignants à l’utilisation de ces technologies.

Responsabilisation des médecins

M. Paré aborde aussi ce point de collaboration à l’interface entre les citoyens, le légal et les autres secteurs de la société, en insistant particulièrement sur la formation des médecins. Ceux-ci ne sont actuellement pas préparés au « tsunami » que sont les mégadonnées, l’intelligence artificielle et leurs applications dérivées, et ce fait a d’ailleurs été souligné par le public. Selon lui, plusieurs acteurs ont un rôle dans la mise en place de collaborations et d’échanges bien articulés – « une interopérabilité », soulève-t-il – permettant de développer un réseau solide à l’intérieur duquel les responsabilités seraient partagées : les facultés, les ordres, les professionnels, le citoyen, le ministère, etc. Il mentionne également le flux incessant et gigantesque de nouvelles applications mises sur le marché : « combien y a-t-il d’applications mobiles en santé sur Apple store ? 500 000. Et il en sort 500 par mois. […] Qui est responsable de ça ? »

Dépasser le droit

À propos de cette responsabilité partagée, Mme Régis indique qu’il est parfois difficile de compter sur le droit pour tout réglementer, car selon elle, « le temps du droit n’est pas le même que celui de l’innovation », d’où d’ailleurs la figure forte et décevante du droit à la remorque du progrès scientifique, technique et social. Face à cette différence de vitesse, les décideurs, qu’ils soient parlementaires, de l’Institut National d’Excellence en santé et services sociaux (INESSS), ou de toute autre grande institution, ont un rôle à jouer que ce soit pour orienter ou faire des recommandations ajoute-t-elle.

Conclusions

Ce premier Café de bioéthique fait ressortir de nombreux enjeux. Certains mettent en contraste les espoirs et les craintes, d’autres, les risques et les promesses, mais de part et d’autre des questionnements apparaissent au sujet du partage des responsabilités. Ces objets connectés peuvent favoriser un empowerment des individus, mais des questions d’équité d’accès sont aussi présentes. M. Paré indique qu’il est donc important d’avoir une réflexion « sur ce qui peut contribuer à diminuer les inégalités et aussi contribuer à augmenter l’accessibilité », mais également d’améliorer la formation des soignants afin de les habiliter à l’utilisation de ces nouvelles technologies et de les sensibiliser aux risques qu’elles comportent. Cependant, un grand défi demeure quant au maintien d’un équilibre sain entre éthique (consentement, protection de la vie privée, double usage, etc.) et usage (accès, qualité, applications, etc.) des données.

Les réflexions éthiques entourant ce vaste phénomène sociotechnique sont fondamentales car le citoyen est rarement conscient de ce « qui advient de ses données » comme le laisse transparaître le dialogue entre experts et citoyens qu’a permis ce 1er Café de bioéthique. La question d’un consentement libre, éclairé et continu se pose donc comme un formidable défi, car le participant est maintenant sorti du cadre clinique et du laboratoire. Ainsi, il faut permettre à différents domaines d’évoluer tout en respectant la vie privée des consommateurs. Or, si la responsabilité qui est liée à l’utilisation de ces objets connectés et de leurs données est une question qui préoccupe activement le corps législatif et juridique, ces progrès demandent nécessairement un dialogue constant entre le social, l’éthique et le juridique.

Pour conclure ce compte-rendu du 1er Café de bioéthique réalisé autour du thème « le citoyen et ses objets connectés », nous aimerions présenter les messages de clôture qu’ont voulu transmettre les trois experts :

  • Mme Régis insiste sur le fait qu’il faut rester optimiste, malgré les risques et les défis : « Nous avons du pouvoir collectivement ; ensemble, chacun a un rôle à jouer ».

  • M. Paré, de son côté, conclut avec le concept de responsabilité : « la responsabilité nous appartient, c’est notre santé personnelle ; que l’on utilise ou non des objets connectés ou des applications mobiles, on doit être responsable de sa santé ».

  • M. Zawati, quant à lui, souligne « l’importance de travailler avec les différentes parties prenantes : premièrement, les identifier et, deuxièmement, ouvrir des avenues, des moyens de communication et de dialogue pour pouvoir mieux comprendre ». Il insiste sur l’importance du dialogue et de sa mise en application, car « à plusieurs, on est plus fort ».

Introduction

On Wednesday, April 3, 2019, the first of three Bioethics Cafés on ethics, data and health was held in Montreal entitled “Le citoyen et ses objets connectés: qu’il y a pas de ses données?” This event was broadcast live and recorded on YouTube. The event was organized by students from the Bioethics Program of the School of Public Health at the Université de Montréal (ÉSPUM) and hosted by the Director of Bioethics Program, Bryn Williams-Jones. Three experts participated as panelists: Catherine Régis, Associate Professor, Faculty of Law, Université de Montréal and Canada Research Chair in Collaborative Culture in Health Law and Policy; Guy Paré, Professor, Department of Information Technology, HEC Montréal and Chair in Connected Health Research; and Ma’n H. Zawati, Executive Director, Centre for Genomics and Policy, Department of Human Genetics, McGill University and Associate Member of the Biomedical Ethics Unit. This Café aimed to bring together experts from various academic fields interested in the major current ethical challenges and issues surrounding health and the excitement associated with the use of big data in research and in society.

This meeting thus provided an ideal platform for an interactive and dynamic meeting and exchange between experts from different backgrounds and the public on a topical subject that concerns us all. The purpose of this review is to present the central ideas that emerged from the event, in a synthetic format. The arguments raised are part of the broad debate surrounding big data, artificial intelligence and their many articulation in intelligent applications and objects. Using a thematic approach, we will present the different questions and arguments that arose during the exchanges between the experts and the public. First, we present the main concepts that served as the guiding principle for this activity and then discuss the hopes and promises that connected objects generate. Then, we will explore the risks that are associated with the use and circulation of these applications. Finally, we focus on an issue often raised by both the public and experts: responsibilities related to the operation and use of these technologies. Who is responsible for the technology? Who is responsible for bearing the burden of risk? Who is ultimately responsible and how should they be held accountable?

The main concepts

Big data, artificial intelligence and connected objects

Big data (BD), artificial intelligence (AI) and connected objects (CO) are distinct concepts, but are increasingly used by experts and citizens to designate a socio-technological phenomenon that is overwhelming: the massive production of data (BD) that can be processed by sophisticated techniques (AI and statistics) and can produce precise and personalized technologies (CO) that modify the relationship between humans and technology. However, in connection with all these concepts and their growing omnipresence in our societies, many ethical issues appear, intertwined in multiple legal, social, economic and technical dilemmas (1,2).

Connected objects

Mr. Paré pointed out that one of the latest major technological innovations of the contemporary era is the emergence of connected objects (or “internet of things”) that make it possible, through their various uses, to connect real life to digital life. The report issued by the Centre for Research and Innovation in Organizations (CEFRIO) in 2017 defines CO as follows: “A connected object can simply be defined as a real-world object with a communication capacity” (3, p. 5). A fashion object of something with real benefit for citizens, there were 15 billion of such objects in the world in 2015, and this market continues to grow, notes Mr. Paré (3). These objects are linked to a large and ever-increasing number of applications, most of which have the ability to automatically exchange information via the Internet (hence the connected name) (4). In addition, 70% of these applications are in the field of health and well-being (4).

The quantification of self

The panelists all confirmed the close link between these connected objects and the principles of citizen empowerment and responsibility. Individuals can achieve what experts call self-quantification: “it is about collecting, measuring, comparing different biological, physical, behavioural and environmental variables, with the aim of improving well-being, maintaining or improving health status” (4, p.5).

Person or citizen

By choosing the theme – “Citizens and their connected objects” – the organizers wanted to highlight the political and legal issues related to the production and use of connected objects. The term citizen refers to the rights and duties that a person has in the State in which they live. It therefore seemed important for the event to also address ethical issues related to human rights and the protection of personal information, but also linked to the globalization and commercialization of health data, as well as the issue of responsibility, which affects the individual, the citizen, and the public and private authorities with whom the citizen interacts.

Hopes and promises

The hopes and promises that these new technologies necessarily involve society (macro dimension), which is enriched by new dynamic and sophisticated services, but also the individual using these connected objects (micro dimension).

Society

Improving the health system and limiting access to quality data

The three experts noted the potential benefits of these connected objects and their compiled data for improving the health system, citing many proven uses that increase the efficiency of the system and the relevance of care. According to Mme Régis, these “finer and more precise data” will make it possible to “better document what is being done, what works and what does not work in the health system”. As she points out, the Quebec Commissioner for Health and Welfare has a mandate to evaluate the health system to enrich public debate and government decision-making, but “one of the primary challenges facing this activity in Quebec is the availability of quality data to assess and improve what is being done”. This improvement is therefore based on the acquisition of quality digital data via the health network, but also, increasingly, by connected objects offering personalized patient data.

Fair access to objects connected between citizens and societies

A question raised by the public was: How can we guarantee fair and equitable access in the world and in Quebec? Internationally, as Mme Régis points out, “it is also a godsend”, because these advances, which increase access to new technologies, make it possible to bring and make more accessible certain resources that were previously inaccessible to regions of the world. As an example, she proposed the telephone which, “in a global way, makes it possible to reach people in several countries who would not have access to care [...]; it allows them to have access to an information base for their health, to diagnose themselves or understand what is happening or what to do, it is still useful”. Mr. Zawati transposes this promise to the Quebec case by indicating that Internet coverage is increasingly homogeneous and complete, “there are more connections than inhabitants in North America”. According to him, this accessibility is established and will continue to develop and become more democratic. However, this evolution requires time, and thus confirms the challenges related to digital illiteracy and the disparities in resources and services between metropolitan and rural areas (5).

Empowerment, accountability and democratization

In a perspective where accessibility continues to progress, the empowerment it generates makes it possible to provide the necessary resources for people to take care of themselves. Mr. Paré referred in particular to the current case of aging societies whose home care needs are increasing. According to him, whether through bracelets, sensors or trackers, an elderly person could, based on these promises, stay at home longer in a safe manner and receive almost all the necessary care. There are already several innovations on the market that are fuelling these hopes. Mr. Paré pointed out that “the information technology industry is trying to make and support the promise of long and, if possible, healthy lives and development at home”.

Thus, from a societal perspective, these connected objects and the data they generate can not only help to maintain seniors in their homes, but can also help to improve the health system here in Quebec and contribute to the dissemination of scientific knowledge around the world.

The individual

Self-knowledge, empowerment and responsibility

These new technologies (watches, bracelets, telephones and other intelligent objects) allow citizens to get to know themselves better physiologically, but also psychologically. As Mme Régis pointed out, individuals can do without the help of a professional whose services are often expensive and unsuitable for many populations. For a parent or worker with a busy schedule, it is often difficult to find the time required to consult. Thus, these devices can help by providing more personalized support than conventional health and social services. This has, she noted, a real advantage in terms of “personalization of care, but also democratization or empowerment of care.” The data compiled will support a more individualized range of care and social services that respects the fact that everyone is unique and has unique needs. In parallel with this personalization and empowerment, real-time access to our health and behavioural data, as well as the integration of information found on the web, could become an “accelerator of the revolution in information democratization” that also fuels an empowerment phenomenon that, Mr. Zawati explained, is at the interface between accountability and empowerment.

Accountability

Several examples were presented of technologies that provide patients with a better understanding of their condition and care. As Mme Régis noted, a better understanding can lead the individual to take responsibility and, therefore, to play an active role in their care (or autonomy) and well-being. This has led to a decentralization of expertise, according to Mr. Zawati: the caregiver is no longer the only one with health expertise. The patient, especially in the case of chronic or rare diseases, now has more knowledge and a particular experience: living with their disease and health. This vision is consistent with recent patient-partner initiatives. Not only can the patient educate caregivers through intimate knowledge of their illness, but they can also benefit from a personalization of the resources and care available to them for medical follow-up and treatment. According to the panellists, the former knowledge-based boundary between patient and caregiver could slowly disappear to foster a more fair partnership that is unique in medical history.

Free up caregivers’ time and efficiency

It would be naive, Mme Régis noted, to not recognize that these technologies also free up time for health professionals. Artificial intelligence (AI), in particular, offers more and more applications based on sophisticated algorithms that make it possible to make diagnoses or establish personalized treatment plans, thus allowing caregivers more time to interact with their patients. However, she pointed out that, despite her hopes for machines to replace certain human acts, we must also reflect on the erosion of human-caregiver-patient relationships: a possible consequence of the omnipresence of machines in this relationship. Mme Régis raised a relevant question to ask in various clinical situations related to the role of machines in the provision of care and services: “What is really important to us and what we would not want to delegate to a machine?” The positive aspect behind simple human relationships between patients and caregivers puts the human being back at the centre of the discussion and recalls the statements of the Montreal Declaration for Responsible AI Development(6). Moreover, no technology is benevolent in itself, the panelists reminded us many times: technology is a tool whose benefits or harms depend on the user (or even the designer) (7).

Fears and risks

The experts and the public also raised the risks inherent in these technologies and their use.

Hypernormativity

Mme Régis pointed to a risk of hypernormativity: “Technology is very prescriptive and quickly entrenches a sense of normalcy” in society. She illustrated this argument by referring to a time, not so long ago, when it would have been considered abnormal to live-stream a conference online, whereas this is now normal practice in order to promote an event such as the present Bioethics Café. Drawing on other topics such as the sharing of personal information, she noted that “this sense of normalization of constant monitoring makes us lose some awareness of the importance of privacy or what makes us want to protect it.”

Consent

Relational consent

Despite a consent form and privacy policies, many corporations still ignore the interconnectivity between citizens, their families and their neighbourhoods, thus neglecting to take into account the possibility for obtaining information about one person from another, e.g., genetic information. Indeed, Mr. Zawati suggested that “when this data becomes more accurate, we will talk more and more about certain data that is sensitive, data that relates to you as an individual, but perhaps to other people in your family”. Without more appropriate policies, this sensitive data will continue to be used by operators of different software products without the need for free, informed and continuous consent, and without additional consideration for these so-called relational risks involving families and neighbours.

Prevention through education

The consent forms proposed by the vast majority of current corporations do not contain all the information necessary for the user to make an informed decision, and are sometimes even imposed on the consumer, which definitely goes against any ethical framework concerned with protecting free, informed and continuous consent (8). According to Mr. Paré, the first factor leading to poor consent – i.e., consent that is neither free, informed nor continuous – is related to the fact that few people are aware of the ethical issues of confidentiality and security of the information collected. This promotion of risks and the resulting need for education obviously becomes a shared responsibility between the citizen, the State and the corporation; the latter’s accountability is often lacking, as Mr. Paré noted. Mme Régis also recalled the notion of intellectual self-defence introduced by Mr. Normand Baillargeon (9) which can help citizens to be more critical, and she underlined the roles that public education and public health have to play in this education.

Complexity and subtlety of the consequences

According to Mr. Paré, the nature of the data may be at issue, because of their number, complexity and the subtlety of the potential harmful effects associated with them, making it difficult for the citizen, but also for the expert, to see clearly. The complexity and subtlety of big data and these issues can make citizens less suspicious of various applications and more open to blindly consenting to the sharing of their data. In addition, Mr. Paré pointed out that there is also a social culture of laissez-faire about certain types of information. Thus, he noted that it has become less embarrassing to accept to freely communicate information related to our general well-being (behaviours, lifestyle habits, emotions, etc.) than specific data on our physical health.

Inadequate understanding of forms, lack of transparency and reinforcement by reward

Despite its length, the consent form often contains insufficient or incomplete information, suggesting a serious lack of transparency. Mme Régis noted that individuals are more willing to provide information to the private sector, which offers them an immediate reward. She added that these companies rely heavily on data obtained through consent procedures that she described as inappropriate. While this may seem counter-intuitive in the sense of maximizing individual interest, Mme Régis nevertheless showed all the commercial and advertising sense behind this measure, making this phenomenon understandable by considering the point of view of business strategies and then the consumer. In fact, Mr. Paré pointed out that in Quebec, there is unequal access to data between the private and public sectors, as researchers are sometimes unable to conduct their research because of inaccessible or insufficient data, which is not the case for private companies. This phenomenon would therefore explain a certain monopolization of expertise by large corporations (Google, Amazon, Facebook, Appel, Microsoft; GAFAM) compared to governments, even though they are public bodies.

Consent by binary choice

With reference to the consent forms to be completed, the public also raised concerns about the binary choice of either “accept” or “refuse” regarding the conditions of use to be validated before using an application, site or other technological medium. Mr. Paré thus suggested an alternative option of “accept, but”. Mr. Zawati added that several international and Canadian mobile applications only present this binary choice that users must comply with without being able to make nuances, otherwise they do not have access to the content. He highlighted examples of health cases where intervention now depends on some of these technologies and also pointed more broadly to the increasing need to use some applications that are integrated directly into our lives (e.g., Google Maps).

Dual use and secondary use of data

The use of this data from connected devices can be risky for the individual, particularly in relation to the secondary marketing possibilities of these devices (or dual use), raising serious questions about their ownership and profitability (Who benefits? For what purposes? Is someone being exploited?). To illustrate these risks, the experts and the public raised the issue of use by insurers of certain data, which can lead to stigmatization and discrimination of individuals, or even entire social groups, due to the relational risks associated with the interconnection between the compiled data. Faced with these risks, the three experts agree that it is necessary to educate citizens and to make them aware of these situations. Mme Régis mentioned in this regard that it is important to remain a citizen with critical thinking skills, so that citizens can question themselves about these technologies and the circumstances in which they can become problematic, measure the links between these technologies, not believe everything we say and finally, develop intellectual self-defence tools (9).

Shared responsibility

At the intersection of these risks and hopes is a real concern that both experts and audience raised: responsibility.

Responsibility of the machine and its user

Mme Régis approached this subject by talking about the help that artificial intelligence can bring to the physician through the development of algorithms that are more efficient than the physician’s diagnostic capacity. She highlighted the “normative weight that (these algorithms) will have” in deciding the life or death of patients. As she noted, several questions arise: What will be the reaction of health professionals to this? Will there be any freedom to deviate from it? What will the courts do if a doctor has not used these tools? As a lawyer, she proposes that future laws specify the role of the algorithm: the machine is a tool for the human being which, on the contrary, must never be at the service of the machine, as is articulated in the Montreal Declaration on the Responsible AI Development (6).

Interdisciplinary and cross-sectoral responsibility

Mr. Zawati expressed a different point of view, recalling the need for collaboration and integration of a diversity of stakeholders around socio-technical issues. He addressed the issue of criminal liability for mobile applications that “make associations between a symptom and a medical condition”. There is a real concern here about who is providing this information and the veracity and clarity of it. He also added that it is not the responsibility of a single person, but that it is important to address this responsibility by thinking about the cascade of actors, from the designer to the user. According to Mr. Zawati, there is of course the individual who has a “responsibility to be informed”, but the “College of Physicians” also has a responsibility: it should set out clear principles and guidelines for big data, artificial intelligence and the use of connected objects. He also pushed for long-term thinking, by proposing the emergence of a new discipline such as “medical computing” that would be taught in medical schools to train future caregivers in the use of these technologies.

Physician accountability

Mr. Paré also addressed this point of collaboration at the interface between citizens, the law and other sectors of society, with a particular emphasis on physician training. Physicians are not currently prepared for the “tsunami” of big data, artificial intelligence and their derived applications, and this fact has been highlighted by the public. According to Mr. Paré, several actors have a role in the establishment of well-articulated collaborations and exchanges – “interoperability” in particular – to develop a solid network within which responsibilities would be shared: faculties, orders, professionals, citizens, the ministry, etc. He also mentioned the relentless and gigantic flow of new applications coming to market: “How many mobile health applications are there on the Apple store? 500,000. And 500 are released every month. Who is responsible for this? »

Moving beyond the law

With regard to this shared responsibility, Mme Régis noted that it is sometimes difficult to rely on the law to regulate everything, because, in her opinion, “the time of the law is not the same as that of innovation”, hence the strong and disappointing figure of the law being behind scientific, technological and social progress. Faced with this difference in speed, she added, decision-makers – whether they are parliamentarians, the National Institute of Excellence in Health and Social Services (INESSS), or any other major institution – have a role to play whether in guiding or making recommendations.

Conclusions

This first Bioethics Café highlighted many issues. Some put into contrast hopes and fears, while others raised risks and promises, but on both sides there were questions about the sharing of responsibilities. Connected objects can empower individuals, but issues of equity of access are also present. Mr. Paré indicated that it is therefore important to reflect “on what can contribute to reducing inequalities and also contribute to increasing accessibility”, but also to improve the training of carers in order to enable them to use these new technologies and to raise their awareness of the risks they entail. However, a major challenge remains in maintaining a healthy balance between ethics (consent, privacy, dual use, etc.) and use (access, quality, applications, etc.) of data.

The ethical reflections surrounding this vast socio-technical phenomenon are fundamental because citizens are rarely aware of what is happening to their data, as shown by the dialogue between experts and citizens that this first Bioethics Café enabled. The issue of free, informed and ongoing consent is a formidable challenge, as the participant has now moved beyond the clinical and laboratory setting. Thus, different areas must be allowed to evolve while respecting the privacy of consumers. However, if the responsibility for the use of these connected objects and their data is an issue that actively concerns the legislative and legal bodies, these advances also require a constant dialogue between the social, ethical and legal spheres.

To conclude this review of the 1st Bioethics Café on the theme “Citizens and their connected objects”, we would like to present the closing messages that the three experts sought to transmit:

  • Mme Régis insisted that we must remain optimistic, despite the risks and challenges: “We have power collectively; together, everyone has a role to play.”

  • Mr. Paré, for his part, concluded with the concept of responsibility: “responsibility belongs to us, it is our personal health; whether or not we use connected objects or mobile applications, we must be responsible for our health.”

  • Mr. Zawati, for his part, stressed “the importance of working with the various stakeholders: first, to identify them and, second, to open avenues, means of communication and dialogue to better understand them.” He stressed the importance of dialogue and its implementation, because “together we are stronger.”