QN2019 - RESET - Quel numérique voulons-nous ?

QN2019 - RESET - Quel numérique voulons-nous ?

L’édition 2018-2019 du cycle de prospective de la Fing « Questions numériques ».


Blog de QN2019 - RESET - Quel numérique voulons-nous ?

  • Citations

    « Nous ne vivons pas une crise sur ce qui est vrai, nous vivons une crise sur la façon dont nous savons si quelque chose est vrai. Nous ne sommes pas en désaccord sur les faits : nous sommes en désaccord sur l’épistémologie. » Cory Doctorow, auteur et journaliste.

    « Mais la responsabilité informationnelle des organisations politiques doit se conjuguer avec un renouvellement des modèles économiques des médias sociaux numériques, qui ont reposé jusqu’à présent sur l’expropriation des données personnelles de leurs usagers à des fins publicitaires et sur la mise en place de longues chaînes de sous-traitance de tâches informationnelles vers des pays dits « du Sud ». C’est non seulement leur viabilité économique, mais aussi leurs admissibilités politique et éthique qui doivent être aujourd’hui questionnées. » Antonio Casilli, chercheur à Télécom ParisTech.  

     

    Pourquoi nous avons besoin d’un “reset” (ce qui se passe mal, ce qui ne peut plus durer)

    Usines à fausses nouvelles, prolifération des chatbots, instrumentalisation du terme “fake news”… Pourtant à l’opposition de la vision originale d’internet comme porte d’entrée inédite au savoir, il semble que le web 2.0 soit devenu un écosystème peu accueillant pour la vérité. Comment expliquer ce retournement de situation ?

    D’une part, on peut pointer du doigt l’architecture même des réseaux qui relaient massivement les informations : celle-ci est intrinsèquement pensée pour générer de l’engagement (des likes, des partages), quel qu’en soit le contenu, en stimulant l’émotion des utilisateurs. La publicité est également au coeur du modèle économique de la plupart des sites web, lesquels cèdent souvent à l’achat d’annonces automatisé, oubliant de filtrer celles qui divulguent de fausses nouvelles.

    Du côté de la réception de l’information, le problème principal semble être que chacun d’entre nous se sent protégé de la crédulité. Or la perméabilité aux fake news n’est pas une question de degré d’éducation, et donc touche potentiellement tout le monde : nos réseaux sont si bien modelés à nos croyances que les informations qui arrivent à nous ont de fortes chances d’être déjà ajustées à notre représentation du monde. Les informations déjà peu remises en cause sont ensuite renforcées par nos biais de confirmation.

     

    Des visions alternatives existent déjà

    La première réaction face à l’avalanche de fake news ayant inondé Internet au cours des dernières années fût le fact-checking. En France, l’initiative la plus connue est celle du Monde, sous le nom des Décodeurs. Plus récemment, une plateforme de fact-checking collaborative du nom de CaptainFact propose un système de “vigilance participative” permettant de contourner la défiance envers une vision de la vérité pré-machée par les médias. En fin de compte, le fact-checking s’est révélé n’avoir que peu d’influence, ayant du mal à percer les bulles de filtres et donc à toucher un public véritablement difficile à convaincre.

    Afin de contrer la méfiance envers les médias, Matthew Jordan proposait la mise en place d’une nouvelle “éthique médiatique”. Google annonçait de son côté la mise en place d’un label pour épingler les fausses nouvelles figurant dans Google News.

    Du côté de l’éducation aux médias, de nombreux professeurs travaillent à faire prendre conscience à leurs élèves des biais cognitifs dont chacun est victime et ainsi à leur faire prendre du recul par rapport à eux. Ce travail de déconstruction permettrait d’ouvrir la voie pour forger un esprit critique solide aux jeunes, qui sont les plus touchés par la désinformation. Facebook elle-même lançait mi-novembre en France un appel à projet afin de recueillir des initiatives favorable au “développement de l’esprit critique”. Seulement tout cela nécessite de s’entendre sur ce qu’est une “source fiable” – or le doute s’est immiscé profondément dans les interstices du web, et donc dans les esprits. Certains spécialistes, tels que danah boyd, craignent que remettre une couche de doute (pour forger un “esprit critique”) sans proposer de nouvelles clés de lecture du monde ne finisse par renforcer la polarisation.

    Puisque l’on constate que l’économie même du web attire les fake news, on pourrait imaginer concevoir des plateformes et algorithmes de recommandation qui favorisent une plus grande diversité de point-de-vue. À ce titre, Zuckerberg assurait en 2016 être prêt à perturber l’équilibre économique de Facebook pour mieux filtrer les fake news, mais il reste soucieux de ce qu’on lui délègue le statut glissant d'”arbitre de la vérité”.

    De leur côté, un nombre grandissant d'États refusent d’attendre le remaniement des grandes plateformes et préfèrent se protéger de manière artisanale face aux campagnes de fausses informations perturbant les élections autour du monde depuis 2016. Le gouvernement français proposait en juin 2018 un projet de “loi de fiabilité et de confiance de l’information”, fortement controversé pour cette même attribution du statut de détenteur de la vérité et les craintes de censure qui s’y attachent, ainsi que pour les doutes concernant son efficacité.

     

    Acteurs qui y travaillent déjà

    Du côté des chercheurs : danah boyd, André Gunters, Filippo Menczer, Yasodara Cordova, Antonio Casilli, Francesca Tripodi, Cory Doctorow, Farhad Manjoo

    Mais aussi : Hoaxy, Pix, Les Décodeurs et leur plateforme Décodex, prochainement Facebook avec leur “fonds pour le civisme en ligne”, Public Data Lab qui a publié "Field Guide to Fake News", le Centre pour l’éducation aux média et à l’information (CLEMI), Fréquence Écoles qui accompagne les pratiques numériques et médiatiques des jeunes.

     

     

  • Si vous voulez comprendre le processus qui a mené du Web créé par Tim Berners-Lee (et co-développé avec Robert Cailliau), qui se voulait ouvert, libre et collaboratif, au Web d'aujourd'hui (centralisé autour de quelques grandes plateformes qui ont basé leur modèle économique sur les publicités et les données personnelles des utilisateurs, qui les enferment dans des bulles de filtres, qui propagent des fake news, ...), l'article du NewYork Magazine "The Internet Apologizes" est celui qu'il faut lire en premier. Entrecoupé de citations des "architectes" du Web, ayant travaillé pour les plus grandes plateformes et/ou entreprises technologiques (Jaron Lanier, Ellen Pao, Tristan Harris, ...), il retrace les 15 étapes qui ont mené au monde d'aujourd'hui et finit avec les 7 inventions qui ont ruiné Internet (les cookies, le tri algorithmique, le bouton "j'aime", le rafraichissement de la page par le scroll, ...). Voilà donc les 15 étapes :

    1. Tout a commencé avec de bonnes intentions hippies... : le rêve de la Silicon Valley est né de la contre-culture, une génération de programmeurs a afflué dans la Bay Area dans les années 1970 et 1980, en voulant transformer le monde pour de bon, grâce aux nouvelles technologies.
    2.  ... Ensuite il y a eu un mélange avec un capitalisme sous stéroïdes : l’échelle et la puissance planétaires envisagées par les premiers hippies de la Silicon Valley se sont révélées être aussi bien adaptées à la création d’argent qu’à la sauvegarde du monde.
    3. Et l'arrivée des financiers de Wall Street n'a pas aidé... : alors que Facebook devenait du jour au lendemain le premier succès des médias sociaux, le marché boursier s’est effondré, envoyant des investisseurs soucieux de leur argent vers l’industrie tech. En peu de temps, une poignée de sociétés avaient créé un quasi-monopole sur la vie numérique. >> Ellen Pao, ancienne DG de Reddit : "Ainsi, en 2008, lorsque les marchés se sont effondrés, toutes les personnes de Wall Street motivées par l’argent se sont retrouvées dans la Silicon Valley pour se lancer dans la technologie. C’est à ce moment que les valeurs ont changé encore plus. L’optimisme précoce et sans fondement de l’Internet a fini par être complètement déformé dans les années 2000, ces personnes ayant des objectifs différents."
    4.  … Et nous avons payé un prix élevé pour le garder gratuit : pour éviter de payer pour Internet - tout en devenant fabuleusement riche à la fois -, la Silicon Valley s'est tournée vers la publicité numérique. Mais pour vendre des annonces ciblant des utilisateurs individuels, il faut développer son audience et utiliser des technologies avancées pour collecter des quantités de données personnelles qui permettront de les atteindre efficacement.
    5. Tout a été conçu pour être vraiment, vraiment addictif : les géants des médias sociaux sont devenus des "marchands d’attention", décidés à attirer les utilisateurs quelqu'en soient les conséquences. "Engagement" était un euphémisme de "métrique", mais en pratique, c'est devenu une machine sans précédent pour la modification du comportement. internet-3113279_640.jpg
    6. Au début, cela a fonctionné - presque trop bien : Aucune des sociétés n'a caché ses projets ou menti sur la façon dont son argent était gagné. Mais alors que les utilisateurs étaient empêtrés plus profondément dans ce réseau de surveillance de plus en plus addictif, les principales plateformes numériques sont devenues extrêmement populaires. >> Roger McNamee, spécialiste du capital risque : "Si vous remontez aux débuts de la théorie de la propagande, Edward Bernays a émis l’hypothèse que pour implanter une idée et la rendre universellement acceptable, il fallait que le même message apparaisse dans tous les médias, tout le temps, pendant une très longue période de temps. L'idée était que cela ne pouvait être fait que par un gouvernement. Ensuite, Facebook est arrivé avec cette capacité de faire de la personnalisation pour chaque utilisateur. Au lieu d'être un modèle de diffusion, c'était désormais 2,2 milliards de chaînes individualisées. C'était le produit le plus efficace jamais créé pour tourner autour des émotions humaines."
    7. Personne dans la Silicon Valley n'a été tenu responsable… : personne au sein du gouvernement - ou, d’ailleurs, dans la base des utilisateurs de l’industrie tech - n'a semblé vouloir faire rentrer dans le rang un secteur aussi riche et dynamique.
    8. … Même lorsque les réseaux sociaux sont devenus dangereux et toxiques : les entreprises évoluant à un rythme sans précédent, la sécurité des utilisateurs a été mise au second plan, après la croissance et l’engagement. Les ressources sont allées à la vente de publicité, sans protéger les utilisateurs contre les abus. >> Jaron Lanier, pionnier de la réalité virtuelle  : "Chaque fois qu’il ya des mouvements comme Black Lives Matter ou #MeToo, vous avez cette période initiale où les gens ont l’impression d’être sur un tapis magique. Les médias sociaux leur permettent d'atteindre les gens et de s'organiser plus rapidement que jamais. Ils pensent, "Wow, Facebook et Twitter sont ces merveilleux outils de la démocratie". Mais il s'avère que les mêmes données qui créent un processus positif et constructif comme le Printemps arabe peuvent être utilisées pour irriter d'autres groupes. Ainsi, chaque fois que vous avez un mouvement comme Black Lives Matter, les médias sociaux réagissent en renforçant les néonazis et les racistes d’une manière qui n’a pas été vue depuis des générations. La bonne intention originelle finit par renforcer son contraire."
    9. … Et même quand ils ont envahi notre vie privée : plus Facebook et les autres plateformes ajoutaient de fonctionnalités, plus les utilisateurs leur donnaient volontairement, voire involontairement, de données, aux plateformes mais aussi aux courtiers en données qui gèrent la publicité numérique. >> Sandy Parakilas, ex-product manager chez Uber: "Une fois, un développeur qui avait accès aux données de Facebook était accusé de créer des profils de personnes sans leur consentement, y compris des enfants. Mais lorsque nous en avons entendu parler, nous n’avions aucun moyen de prouver que cela s’était réellement produit, car nous n’avions aucune visibilité sur les données une fois qu’elles quittaient les serveurs de Facebook. Donc, Facebook avait des politiques contre ce genre de choses, mais cela ne nous permettait pas de savoir ce que faisaient vraiment les développeurs."
    10. Puis est arrivé 2016 : l'élection de Donald Trump et le triomphe du Brexit, deux campagnes largement alimentées par les médias sociaux, ont montré aux spécialistes des technologies que connecter le monde - du moins via un système de surveillance publicitaire - ne mène pas nécessairement à cette utopie hippie.
    11. Les employés commencent à se révolter : les dirigeants de l’industrie technologique ne risquent pas de mordre la main qui les nourrit. Mais peut-être que leurs employés - ceux qui ont signé pour une mission autant que pour l'argent - peuvent se lever et provoquer un changement. >> Can Duruk, ancien développeur à Uber : "J'étais chez Uber quand il y a eu toute la folie là-bas, et cela a eu un impact sur le recrutement et les embauches. Je ne pense pas que ces entreprises vont s'effondrer parce qu’elles ne peuvent plus attirer les bons talents. Mais il y aura un impact significatif. C'est devenu moins positif sur le plan moral maintenant de travailler là-bas : vous allez à Facebook pour écrire du code et ensuite vous rentrez chez vous. Ce sont juste devenus des entreprises comme les autres."
    12. Pour y remédier, nous avons besoin d'un nouveau modèle économique… : si le problème réside dans la façon dont la Silicon Valley gagne de l’argent, elle va devoir gagner de l'argent par un autre moyen. Peut-être en essayant quelque chose de radical et de nouveau, comme demander aux utilisateurs de payer pour des biens et des services.
    13. … Et d'une réglementation stricte : alors que nous en sommes là, nous pouvons nous demander où le gouvernement a-t-il été pendant tout ce temps. >> Richard Stallman, programmateur, initiateur du mouvement du logiciel libre : "Nous avons besoin d'une loi. Putain, il n’y a aucune raison de les laisser exister si le prix est qu'il sache tout à propos de nous. Laissez-les disparaître. Ils ne sont pas importants - nos droits humains sont importants. Aucune entreprise n’est aussi importante que son existence ne justifie la création d’un État policier. Et nous nous dirigeons vers un État policier." 
    14. Peut-être que rien ne changera : la possibilité la plus effrayante est que rien ne peut être fait - que les géants du nouvel Internet sont trop riches, trop puissants et trop addictifs pour que quiconque puisse régler cela. >> Antonio Garcia Martinez, ad-tech entrepreneur : "La publicité, c'est nul, bien sûr. Mais comme le disent les gars des technologies publicitaires, « nous sommes ceux qui payons pour Internet ». Il est difficile d’imaginer un modèle économique différent de la publicité pour toute application Internet grand public qui dépend des effets de réseau."
    15. … À moins qu'à la toute fin, de nouvelles personnes prennent des responsabilités : si les problèmes de la Silicon Valley résultent d’une mauvaise prise de décisions, il serait peut-être temps de rechercher de meilleurs décideurs. Un endroit pour débuter serait en dehors du groupe homogène actuellement au pouvoir. >> Ellen Pao : "J'ai exhorté Facebook à faire appel à des personnes qui ne font pas partie de la majorité homogène de leur équipe de direction, de chaque équipe produit, de chaque discussion de stratégie. Les personnes qui sont là maintenant ne comprennent clairement pas l’impact de leurs plateformes et la nature du problème. Vous avez besoin de personnes qui vivent le problème pour en clarifier l'étendue et aider à le résoudre."

    L'article se termine avec les regrets d'autres personnalités de la Silicon Valley, qui croyaient vraiment dans le respect de la vie privée mais qui n'ont rien fait au final, qui n'autorisent pas leur famille à aller sur les réseaux sociaux, qui se demandent comment ils ont pu créer de tels monstres... Pas de doute, nous avons bien besoin d'un reset ...

  • Cet été, dans un entretien à Vanity Fair, Tim Berners-Lee, l'inventeur du web, expliquait combien il était dévasté par ce qu'était devenu son invention : "Nous avons démontré que le Web avait échoué au lieu d’être au service de l’humanité, comme il était censé l’avoir fait, et a échoué dans de nombreux endroits. [La centralisation croissante du Web] a fini par produire - sans action délibérée des personnes qui ont conçu la plateforme - un phénomène émergent à grande échelle qui est anti-humain. (...) L'esprit était très décentralisé. L'individu était incroyablement mis en capacité. Tout était basé sur le fait qu'il n'y avait pas d'autorité centrale à laquelle vous deviez demander l'autorisation. Nous avons perdu ce sentiment de contrôle individuel, cette responsabilisation."

    L'écrivain et artiste James Bridle, auteur de "New Dark Age : Technology and the End of the Future" dresse le même constat quant à l'évolution des technologies. InternetActu a fait une revue très détaillée de cet ouvrage, en voilà une extrait : "nous n’arrivons plus à penser en dehors ou sans technologie. Pire, la technologie s’est fait la complice de tous les défis auxquels nous sommes confrontés : à la fois d’un système économique hors de contrôle qui ne cesse d’élargir les inégalités, la polarisation politique comme le réchauffement climatique. Pour Bridle, la technologie n’est pas la solution à ces défis, elle est devenue le problème. Il nous faut la comprendre plus que jamais, dans sa complexité, ses interconnexions et ses interactions : mais cette compréhension fonctionnelle ne suffit pas, il faut en saisir le contexte, les conséquences, les limites, le langage et le métalangage."

    Face à cette perte de contrôle et aux injonctions liés à "l’impact du numérique sur..." nos métiers et nos emplois, nos villes et territoires, l’information, l’éducation, etc., il est donc grand temps d’affirmer des intentions, de formuler les impacts souhaités de la société sur le numérique, et de retrouver des espaces de choix politiques, économiques et sociaux.

    C'est dans cet optique que nous lançons notre nouvel cycle de prospective Questions, intitulé "RESET - Quel numérique voulons-nous ?". Nous avons identifié une première liste de défis : prendre soin des biens communs numériques, construire un cadre de négociation collective sur les données personnelles, partager de façon plus équitable la valeur produite sur les plateformes, rendre concrètement les algorithmes responsables et équitables, ... Afin de compléter cette liste, qui est loin d'être exhaustive, mais aussi le contenu des fiches défis, nous souhaitons vous mettre à contribution, en vous demandant sur quelles thématiques en particulier le numérique a besoin d'un reset, d'une réorientation profonde ? Qu'est-ce qui ne peut plus durer ? Quelles directions devrions-nous explorer ?

    Vous pouvez soit contribuer en réponse à cet article, soit remplir ce formulaire. Nous utiliserons vos réponses et contributions en enrichissant les fiches défis publiés dans ce groupe. Cette matière sera ensuite retravaillée lors d'ateliers contributifs (auxquels vous serez bien sûr conviés) et donnera lieu à la publication d'un cahier d'enjeux à l'été 2019.

    Par avance merci pour vos contributions !

Conception & réalisation : Facyla ~ Items International

Plateforme construite avec le framework opensource Elgg 1.8