Good in Tech : une chaire pour mettre de la responsabilité et de l’éthique dans l’innovation

Le 12 septembre sera lancée la chaire Good in Tech. Son objectif ? Introduire de la responsabilité et de l’éthique dans les innovations numériques. Elle est portée par Institut Mines-Télécom Business School, l’école du management et de l’innovation de Sciences Po, et la Fondation du Risque, en partenariat avec Télécom Paris et Télécom SudParis. La chaire Good in Tech se positionne ainsi à la croisée entre sciences humaines et sociales, et sciences informatiques et de l’ingénieur. Elle entend bien éclairer les choix de gouvernance de l’innovation numérique, et aider les entreprises à se saisir des nouvelles valeurs de l’innovation. Christine Balagué, chercheuse à Institut Mines-Télécom Business School et co-titulaire de la chaire Good in Tech, nous présente l’intérêt de cette initiative, ainsi que les enjeux de recherche et les problématiques auxquelles font face les entreprises.

Pourquoi créer une chaire de recherche sur les questions d’éthique et de responsabilité des technologies numériques ?

Christine Balagué : La chaire permet de rassembler des compétences complémentaires en matière de recherche. Nous mettons ainsi en place une véritable interdisciplinarité entre sciences dures et sciences humaines et sociales. Contrairement aux initiatives de recherche existantes qui comportent en général beaucoup de sciences dures et un peu de sciences humaines, la chaire Good in Tech a l’avantage de présenter une forte dimension sciences humaines. Cela permet d’aborder des questions de responsabilité des entreprises, de comportement des utilisateurs vis-à-vis des technologies responsables, les modes de gouvernance ou les futurs possibles.

L’un des axes de travail de la chaire Good in Tech porte sur les innovations numériques responsables. Qu’étudiez-vous dans cet axe ?

CB : La plupart des entreprises ont aujourd’hui une politique de responsabilité sociale des entreprises, ou RSE. Dans la majorité des cas, la RSE ne comporte que très peu d’indicateurs sur l’innovation numérique, alors que paradoxalement l’intelligence artificielle, les objets connectés ou le big data se développent dans tous les secteurs. Nos travaux dans cet axe consisteront donc à élaborer des indicateurs d’innovation numérique responsable dans la RSE, et à proposer des méthodologies de mesure.

À lire sur I’MTech : Innovation : être ou ne pas être responsable ?

Il s’agit là de mesurer en aval la responsabilité, mais la recherche peut-elle aussi aider à réfléchir en amont, dès la conception, à la responsabilité des technologies ?

CB : Bien sûr, et c’est l’objet d’un second axe de la chaire sur la notion de technologies responsables « by design ». Nous savons que les technologies numériques, en particulier aujourd’hui l’intelligence artificielle, posent des problèmes éthiques : les algorithmes sont souvent opaques, peu explicables, potentiellement discriminants, biaisés.  Par exemple, nous savons qu’aux États-Unis les réseaux sociaux traitent les utilisateurs différemment selon leur orientation politique, ou leur couleur de peau. Les technologies de reconnaissance faciale, les algorithmes d’offre d’emploi par exemple ne sont pas transparents. Les entreprises qui développent des outils d’intelligence artificielle ou de traitement des données ne regardent pas toujours ces questions. Elles se retrouvent avec des produits qu’elles commercialisent ou utilisent et qui ont un impact majeur sur les utilisateurs. Nous cherchons donc aussi à savoir comment rendre les technologies plus transparentes, plus explicables, moins discriminantes, dès leur conception.

L’intérêt d’une chaire de recherche est aussi d’associer des entreprises aux réflexions. Quels sont vos partenaires industriels et qu’apportent-ils à vos travaux ?

CB : Nous avons cinq partenaires à date : Afnor, CGI, Danone,  FaberNovel et Sycomore. Ce sont des entreprises qui s’intéressent aux questions de responsabilité liées au numérique. Elles nous apportent des collaborations en ouvrant potentiellement leurs données, en nous proposant des cas d’usage… Elles nous permettent de comprendre les problématiques des entreprises selon leur secteur économique.

Comptez-vous produire des recommandations à destination des entreprises ou des pouvoirs publics ?

CB : L’objectif principal de la chaire est de produire des publications dans les meilleurs journaux scientifiques et de susciter des recherches sur les quatre axes de la chaire. Nous envisageons aussi de publier des « policy papers », contributions scientifiques dont le rôle est en plus d’éclairer les choix politiques et industriels. Au-delà de ces articles, un axe de la chaire est dédié à la prospective. Nous allons organiser des conférences avec les étudiants de Sciences Po et des écoles de l’IMT impliquées, dont le but sera de réfléchir aux orientations futures des technologies numériques responsables. Dans la même démarche, des conférences auront lieu pour le grand public afin d’initier le débat sur les futurs possibles. Par exemple, nous proposerons des scénarios de type : « Demain ces technologies seront présentes dans nos quotidiens, comment cela impacte un parcours de santé, ou un parcours client en ligne ? » L’idée est d’imaginer le futur en co-construction avec les utilisateurs, en associant tous les acteurs possibles.

En éclairant les choix, entendez-vous aider à définir une gouvernance de l’innovation numérique ?

CB : Nous étudions les modes de gouvernance possibles — c’est le quatrième et dernier axe de la chaire — pour comprendre quel est le niveau le plus adapté : entreprise ? national ? européen ? Nous aimerions étudier en particulier la pertinence d’une gouvernance directement intégrée à l’entreprise. Nous voulons voir si, par exemple, développer au sein des entreprises des technologies responsables « by design » n’est pas plus efficace qu’une régulation internationale. L’objectif est d’intégrer des mécanismes de gouvernance directement dans les comportements des entreprises responsables, sachant que l’innovation numérique responsable est source d’une plus grande appropriation par les consommateurs.

Certaines entreprises sont-elles réticentes face à cette tendance générale de la « tech for good » qui émerge, face aux notions de responsabilité et d’éthique ?

CB : Les travaux de cette chaire défendent une vision européenne de l’innovation numérique. La Chine est moins impliquée dans ces questions, et les grands acteurs américains travaillent sur ces enjeux. Cependant, on a vu avec le RGPD que l’Europe pouvait faire bouger les lignes, puisque notre règlementation sur les données personnelles a eu un impact sur les acteurs de la Silicon Valley. Les entreprises réticentes doivent comprendre que plus les technologies sont responsables, plus elles sont acceptées par les consommateurs. Le marché des objets connectés en santé par exemple se développe moins vite que prévu en Europe, en raison des réticences des consommateurs envers l’utilisation des données collectées. En contrepartie, il est certain que la responsabilité ne doit pas freiner l’innovation pour être acceptée par les entreprises. Coupler l’innovation numérique responsable des entreprises avec les besoins des consommateurs sera à coup sûr l’un des grands enjeux de la chaire.