Si le témoignage de la lanceuse d'alerte Frances Haugen, une ancienne data scientist de Facebook, devant un sous-comité du Sénat américain, nous a dit quelque chose, c'est qu'on ne peut pas compter sur les entreprises technologiques pour se réglementer. Et pourquoi devraient-ils l'être? C'est un principe de base de l'économie moderne que les gouvernements imposent les conditions de fonctionnement des entreprises. La vraie question est de savoir comment les gouvernements peuvent exercer au mieux cette autorité en ce qui concerne le secteur de la technologie.
Facebook, Google, Amazon et d'autres entreprises technologiques ont été autorisés à développer des modèles commerciaux sans précédent basés sur la surveillance qui incluent la capture incessante de données personnelles, y compris les emplacements géographiques, et la manipulation d'utilisateurs avec un contenu hyper-ciblé. Et pourtant, comme l'a déclaré Haugen, « presque personne en dehors de Facebook ne sait ce qui se passe à l'intérieur de Facebook. » Le KGB aurait été envieux.
Mais les entreprises technologiques ont également un objectif utile. Ils ont construit une grande partie de l'infrastructure publique de l'ère numérique, y compris les moteurs de recherche, les portails mondiaux d'actualités et de réseaux sociaux, les applications de navigation GPS, les marchés commerciaux et d'emploi en ligne, et les plateformes de cinéma, de musique et de diffusion en direct.
Pour permettre aux plateformes numériques de continuer à jouer un rôle bénéfique, tout en minimisant leurs dommages, les gouvernements devraient exiger d'elles qu'elles obtiennent des «licences d'exploitation numériques». Il existe de nombreux précédents à ce sujet : des épiceries aux centrales nucléaires en passant par les installations de fabrication de produits pharmaceutiques, les entreprises traditionnelles doivent obtenir diverses licences et permis avant de pouvoir commencer leurs activités, notamment pour assurer la sécurité des travailleurs, des clients, de l'environnement et la communauté locale.
De même, pour obtenir une licence d'exploitation numérique, les entreprises technologiques devraient remplir certaines conditions. La première serait d'obtenir l'autorisation explicite des utilisateurs avant de collecter des données personnelles, en utilisant un système de consentement «opt-in» au lieu d'un système «opt-out» qui doit être périodiquement renouvelé.
Depuis que les entreprises technologiques ont développé leurs modèles économiques pour la première fois, les données privées des utilisateurs sont devenues leur véritable vache à lait. Les entreprises vendent des profils psychographiques d'utilisateurs à des annonceurs et à des agents politiques, qui les ciblent ensuite avec du contenu manipulateur. Il y a aussi eu des fuites. En 2014, par exemple, le cabinet de conseil politique Cambridge Analytica a collecté des informations sur les profils Facebook de plus de 87 millions d'utilisateurs, informations qu'il a utilisées pour tenter d'influencer les électeurs. Cinq ans plus tard, Facebook a divulgué les données privées de 530 millions d'utilisateurs.
Les responsables technologiques soutiennent que leurs saisies de données profitent aux utilisateurs en leur donnant des publicités personnalisées qui répondent à leurs désirs individuels. Mais combien de fois avez-vous besoin de voir des publicités pour des chaussures de randonnée, surtout après les avoir achetées? Les risques du modèle économique de surveillance-capitalisme dépassent de loin les avantages.
Le permis d'exploitation numérique pourrait également obliger les entreprises à assurer la compatibilité avec le «middleware», un logiciel tiers qui aide les utilisateurs à gérer leur expérience en ligne. Un logiciel qui bloque les publicités en ligne en est un exemple. Une autre est une application pour smartphone qui permet aux utilisateurs d'activer et de désactiver la collecte de données et le suivi de localisation selon leurs besoins, en appuyant simplement sur un bouton. Vous voulez appeler un taxi ? Activez le suivi de localisation pour que le conducteur sache où vous trouver, puis désactivez-le - plus de suivi et aucune donnée de transaction conservée. Si cette fonctionnalité – dont une version limitée est désormais incluse dans l'iPhone iOS d'Apple – se généralise, elle pourrait bouleverser le modèle de «saisie de données à but lucratif» de Facebook.
D'autres middleware pourraient cibler les «modèles sombres » dans la conception de la plate-forme : des astuces d'engagement telles que le défilement infini, la lecture automatique, les fenêtres contextuelles et les recommandations automatisées, qui permettent aux utilisateurs de cliquer et de consulter. Des plateformes comme Facebook déploient de tels «nudges comportementaux» pour s'assurer que les utilisateurs continuent de voir des publicités – la plus grande source des 86 milliards de dollars de revenus annuels de Facebook.
Le système de permis numérique pourrait également aider à résoudre le problème de monopole de Big Tech. Par exemple, Facebook, avec ses 2,8 milliards d'utilisateurs, possède WhatsApp (deux milliards d'utilisateurs) et Instagram (1,1 milliard d'utilisateurs). Mais alors que l'appel croissant à l'application des lois antitrust a du mérite, ces trois plates-formes seraient des mastodontes même séparément.
Un permis numérique pourrait aider à réduire la part de marché des principales plateformes de médias sociaux en imposant des limites strictes à la taille de l'audience : chaque élément de contenu généré par les utilisateurs pourrait être diffusé, disons, à pas plus de 1.000 personnes. C'est beaucoup plus de personnes que la plupart des utilisateurs ne connaissent réellement ou avec lesquelles ils ont des contacts réguliers, ce qui ne constitue donc guère une privation. Le critique des médias sociaux Tristan Harris suggère que Facebook désactive son bouton Partager/Repartager après qu'un élément de contenu a été consulté à deux «sauts» de l'auteur. Facebook sait que cette approche fonctionne : il en a déployé une version lors de l'élection présidentielle américaine de 2020.
Bien sûr, il y aurait des exceptions, y compris des nouvelles, des informations, de la musique et des vidéos légitimes de dirigeants, d'artistes et de penseurs. Les plateformes technologiques disposent déjà d'équipes de modérateurs humains – Facebook en emploie 15.000 – qui pourraient être chargés d'identifier ce «contenu d'intérêt public». Cette approche réduirait la propagation des fausses nouvelles et de la désinformation en introduisant des frictions nécessaires dans le flux d'informations, et serait une bien meilleure utilisation du temps des modérateurs que de continuer à jouer à des cinglés.
Un tel système reconnaît que les plateformes comme Facebook, Twitter et YouTube ne sont pas simplement des «places publiques», mais aussi des éditeurs et des diffuseurs. En tant que tels, ils ont beaucoup plus en commun avec le New York Times, la BBC et le Sun que de nombreux analystes n'ont voulu l'admettre.
En fait, ils opèrent à une échelle beaucoup plus grande que n'importe lequel de ces points de vente. Facebook est le plus grand éditeur de médias de l'histoire et YouTube est le plus grand diffuseur de médias visuels. Une étude a révélé que seulement 100 informations erronées sur le Covid-19 ont été partagées 1,7 million de fois et vues 117 millions de fois sur Facebook.
Les plateformes de médias sociaux n'ont pas hésité à exercer leur pouvoir en tant qu'éditeurs. Après le saccage du Capitole américain le 6 janvier, ils ont décidé d'arrêter de «publier» le président américain de l'époque, Donald Trump. Plus tôt cette année, Facebook a empêché toute l'Australie d'accéder aux informations sur ses flux lors d'un différend sur le partage des revenus publicitaires. Google a fait de même avec l'Espagne en 2014.
L'introduction de permis d'exploitation numériques permettrait aux plateformes de médias sociaux de rester des agoras de liberté d'expression pour les petites assemblées d'amis, de familles et d'associés en réseau, tout en réduisant considérablement la viralité des fausses nouvelles et de la désinformation. C'est ainsi que Facebook fonctionnait à ses débuts, quand c'était encore une invention cool.
Par Steven Hill
Ancien directeur des politiques au Center for Humane Technology
Facebook, Google, Amazon et d'autres entreprises technologiques ont été autorisés à développer des modèles commerciaux sans précédent basés sur la surveillance qui incluent la capture incessante de données personnelles, y compris les emplacements géographiques, et la manipulation d'utilisateurs avec un contenu hyper-ciblé. Et pourtant, comme l'a déclaré Haugen, « presque personne en dehors de Facebook ne sait ce qui se passe à l'intérieur de Facebook. » Le KGB aurait été envieux.
Mais les entreprises technologiques ont également un objectif utile. Ils ont construit une grande partie de l'infrastructure publique de l'ère numérique, y compris les moteurs de recherche, les portails mondiaux d'actualités et de réseaux sociaux, les applications de navigation GPS, les marchés commerciaux et d'emploi en ligne, et les plateformes de cinéma, de musique et de diffusion en direct.
Pour permettre aux plateformes numériques de continuer à jouer un rôle bénéfique, tout en minimisant leurs dommages, les gouvernements devraient exiger d'elles qu'elles obtiennent des «licences d'exploitation numériques». Il existe de nombreux précédents à ce sujet : des épiceries aux centrales nucléaires en passant par les installations de fabrication de produits pharmaceutiques, les entreprises traditionnelles doivent obtenir diverses licences et permis avant de pouvoir commencer leurs activités, notamment pour assurer la sécurité des travailleurs, des clients, de l'environnement et la communauté locale.
De même, pour obtenir une licence d'exploitation numérique, les entreprises technologiques devraient remplir certaines conditions. La première serait d'obtenir l'autorisation explicite des utilisateurs avant de collecter des données personnelles, en utilisant un système de consentement «opt-in» au lieu d'un système «opt-out» qui doit être périodiquement renouvelé.
Depuis que les entreprises technologiques ont développé leurs modèles économiques pour la première fois, les données privées des utilisateurs sont devenues leur véritable vache à lait. Les entreprises vendent des profils psychographiques d'utilisateurs à des annonceurs et à des agents politiques, qui les ciblent ensuite avec du contenu manipulateur. Il y a aussi eu des fuites. En 2014, par exemple, le cabinet de conseil politique Cambridge Analytica a collecté des informations sur les profils Facebook de plus de 87 millions d'utilisateurs, informations qu'il a utilisées pour tenter d'influencer les électeurs. Cinq ans plus tard, Facebook a divulgué les données privées de 530 millions d'utilisateurs.
Les responsables technologiques soutiennent que leurs saisies de données profitent aux utilisateurs en leur donnant des publicités personnalisées qui répondent à leurs désirs individuels. Mais combien de fois avez-vous besoin de voir des publicités pour des chaussures de randonnée, surtout après les avoir achetées? Les risques du modèle économique de surveillance-capitalisme dépassent de loin les avantages.
Le permis d'exploitation numérique pourrait également obliger les entreprises à assurer la compatibilité avec le «middleware», un logiciel tiers qui aide les utilisateurs à gérer leur expérience en ligne. Un logiciel qui bloque les publicités en ligne en est un exemple. Une autre est une application pour smartphone qui permet aux utilisateurs d'activer et de désactiver la collecte de données et le suivi de localisation selon leurs besoins, en appuyant simplement sur un bouton. Vous voulez appeler un taxi ? Activez le suivi de localisation pour que le conducteur sache où vous trouver, puis désactivez-le - plus de suivi et aucune donnée de transaction conservée. Si cette fonctionnalité – dont une version limitée est désormais incluse dans l'iPhone iOS d'Apple – se généralise, elle pourrait bouleverser le modèle de «saisie de données à but lucratif» de Facebook.
D'autres middleware pourraient cibler les «modèles sombres » dans la conception de la plate-forme : des astuces d'engagement telles que le défilement infini, la lecture automatique, les fenêtres contextuelles et les recommandations automatisées, qui permettent aux utilisateurs de cliquer et de consulter. Des plateformes comme Facebook déploient de tels «nudges comportementaux» pour s'assurer que les utilisateurs continuent de voir des publicités – la plus grande source des 86 milliards de dollars de revenus annuels de Facebook.
Le système de permis numérique pourrait également aider à résoudre le problème de monopole de Big Tech. Par exemple, Facebook, avec ses 2,8 milliards d'utilisateurs, possède WhatsApp (deux milliards d'utilisateurs) et Instagram (1,1 milliard d'utilisateurs). Mais alors que l'appel croissant à l'application des lois antitrust a du mérite, ces trois plates-formes seraient des mastodontes même séparément.
Un permis numérique pourrait aider à réduire la part de marché des principales plateformes de médias sociaux en imposant des limites strictes à la taille de l'audience : chaque élément de contenu généré par les utilisateurs pourrait être diffusé, disons, à pas plus de 1.000 personnes. C'est beaucoup plus de personnes que la plupart des utilisateurs ne connaissent réellement ou avec lesquelles ils ont des contacts réguliers, ce qui ne constitue donc guère une privation. Le critique des médias sociaux Tristan Harris suggère que Facebook désactive son bouton Partager/Repartager après qu'un élément de contenu a été consulté à deux «sauts» de l'auteur. Facebook sait que cette approche fonctionne : il en a déployé une version lors de l'élection présidentielle américaine de 2020.
Bien sûr, il y aurait des exceptions, y compris des nouvelles, des informations, de la musique et des vidéos légitimes de dirigeants, d'artistes et de penseurs. Les plateformes technologiques disposent déjà d'équipes de modérateurs humains – Facebook en emploie 15.000 – qui pourraient être chargés d'identifier ce «contenu d'intérêt public». Cette approche réduirait la propagation des fausses nouvelles et de la désinformation en introduisant des frictions nécessaires dans le flux d'informations, et serait une bien meilleure utilisation du temps des modérateurs que de continuer à jouer à des cinglés.
Un tel système reconnaît que les plateformes comme Facebook, Twitter et YouTube ne sont pas simplement des «places publiques», mais aussi des éditeurs et des diffuseurs. En tant que tels, ils ont beaucoup plus en commun avec le New York Times, la BBC et le Sun que de nombreux analystes n'ont voulu l'admettre.
En fait, ils opèrent à une échelle beaucoup plus grande que n'importe lequel de ces points de vente. Facebook est le plus grand éditeur de médias de l'histoire et YouTube est le plus grand diffuseur de médias visuels. Une étude a révélé que seulement 100 informations erronées sur le Covid-19 ont été partagées 1,7 million de fois et vues 117 millions de fois sur Facebook.
Les plateformes de médias sociaux n'ont pas hésité à exercer leur pouvoir en tant qu'éditeurs. Après le saccage du Capitole américain le 6 janvier, ils ont décidé d'arrêter de «publier» le président américain de l'époque, Donald Trump. Plus tôt cette année, Facebook a empêché toute l'Australie d'accéder aux informations sur ses flux lors d'un différend sur le partage des revenus publicitaires. Google a fait de même avec l'Espagne en 2014.
L'introduction de permis d'exploitation numériques permettrait aux plateformes de médias sociaux de rester des agoras de liberté d'expression pour les petites assemblées d'amis, de familles et d'associés en réseau, tout en réduisant considérablement la viralité des fausses nouvelles et de la désinformation. C'est ainsi que Facebook fonctionnait à ses débuts, quand c'était encore une invention cool.
Par Steven Hill
Ancien directeur des politiques au Center for Humane Technology
Augmenter la taille du texte
Diminuer la taille du texte
Partager
Les défis et les perspectives dans la mise en œuvre du concept de l'Etat social au Maroc
