Entre plateformes et pouvoirs publics, quelle place pour le citoyen ?

Le monde n’a pas attendu le Covid-19 pour glisser de l’ère industrielle vers l’ère digitale, mais cet épisode pourrait bien demeurer entre elles comme un point de bascule symbolique. Parmi tous les acteurs qui façonnent ce nouvel environnement numérique, une petite poignée joue un rôle particulier et déterminant : les plateformes.

Les plus importantes ont acquis un tel pouvoir qu’elles sont capables de remodeler le réel. Les recommandations d’itinéraires de Waze peuvent détourner massivement des flux de circulation des grands axes vers des zones résidentielles ou protégées. Dans de nombreuses villes, l’offre d’hébergement d’Airbnb a transformé des quartiers entiers en zones touristiques, souvent au grand dam des résidents. En matière de sécurité publique, les réseaux sociaux changent la donne également, tandis que la prolifération de fausses informations peuvent menacer les démocraties.

Ces répercussions très concrètes de la sphère digitale sur le monde réel suscitent des tensions et des frictions grandissantes entre les plateformes et les pouvoirs publics. Les premières arguent qu’elles ne font que mettre un service à disposition et qu’elles ne peuvent être tenues responsables des nuisances causées par des usages dévoyés ou abusifs. Pour les seconds, il s'agit de trouver une réponse adéquate respectant les libertés fondamentales d’entreprise et d’expression ainsi que les droits individuels, sans jamais briser l'élan d’innovation créateur de richesses et d’emplois.

Le "digital" de plus en plus structurant

S’instaure donc entre les plateformes et les autorités un rapport de force dont l’issue ne sera rien moins que les contours du monde de demain. Or, l'individu, concerné au premier chef comme citoyen et comme utilisateur, est parfois éloigné de ces débats souvent très techniques. Pourtant, le « digital » est désormais trop important, trop structurant, pour être laissé aux mains exclusives des experts de la technologie et du droit. Les citoyens doivent être parties prenantes dans la construction de ce monde à venir. Certes, ils le sont dans une certaine mesure au travers de la mise en place de réglementations, comme le RGPD, et de codes de bonne conduite, tels que les principes éthiques sur l’intelligence artificielle, qui relaient en partie leurs préoccupations. Mais les textes ne peuvent pas tout. Leur interprétation et leur application varie selon les Etats, et ils ne peuvent protéger l’individu de nuisances parfois aussi rapides et imperceptibles qu’un simple clic.

Enseigner les humanités digitales

Pour que l’écosystème digital accorde leur juste place aux citoyens et qu'il se crée une véritable relation de confiance, deux axes apparaissent essentiels. Le premier est l’éducation. Il est fondamental d’enseigner aux individus, dès le plus jeune âge, ce que l’on pourrait appeler des « humanités numériques ». Plus que les outils eux-mêmes, qui évoluent sans cesse, les citoyens doivent s’approprier les mécanismes d’un monde dont la donnée est devenue le carburant. Pour accorder leur « consentement éclairé », ils doivent comprendre ce qu’elle est, ce qu’on en fait, comment on la manipule, les opportunités et les risques qu’elle représente. Savoir, par exemple, quelle est la monnaie avec laquelle ils achètent ce qui leur semble gratuit. Ou avoir conscience de leurs propres biais cognitifs pour les reconnaître et les désamorcer.

Appliquer l’éthique « by design »

L’autre axe relève plus particulièrement de la responsabilité des fournisseurs de technologie. Ils doivent concevoir les briques et l’architecture des futures solutions digitales – cloud, big data, intelligence artificielle, objets connectés… – en faisant du respect de l’individu la première des priorités. Ils doivent, dès la phase de conception, s’interroger sur les notions profondément humaines d’acceptabilité, d’équité, d’inclusivité et de transparence de leurs solutions, pour éviter les effets pervers, même involontaires (biais dans les algorithmes par exemple), une fois qu’elles seront déployées.

C’est ce que nous appelons chez Atos « l'éthique by design ». Cette culture de vigilance et d’exigence, les fournisseurs de technologie doivent la développer auprès de tous leurs collaborateurs, la transmettre à leurs clients et leurs partenaires, et la mettre en pratique dans leurs produits et leurs solutions, à l’image de la plateforme souveraine européenne GAIA-X, dont Atos est un des membres fondateurs.

Quel que soit le secteur, les nouvelles technologies promettent des avancées formidables. Mais leur essor ne pourra se poursuivre sans la confiance des citoyens. Pour ne pas s’exposer à des blocages qui seraient dommageables pour tout le monde, chacun doit en prendre conscience et œuvrer à rendre aux individus la place qui leur revient de droit lorsque ce sont des choix de société qui sont en jeu : au centre des décisions.