“Elle mène à la transformation de la société en système cybernétique composé d’appareils et de fonctionnaires. Les hommes sont programmés pour fonctionner comme pièces du jeu symbolique. Ils sont chiffrés et numérotés. Ils deviennent computables dans des statistiques et des cartons perforés. Ils sont programmés d’une manière telle qu’ils acceptent volontiers leur programmation.”
Vilém Flusser, Post-histoire [1982, version française inédite], propos liminaire de Catherine Geel et postface d’Yves Citton, Paris, T&P Work UNiT, p61, 62
Lorsque tout doit aller plus vite, on ne laisse pas de place à l’imprévu, il faut filer dans une continuité parfaite où tout se déroule sans accroc. Au sein d’une société où l’accélération sociale, définie au sens d’Hartmut Rosa comme la somme de l’accélération technique, de l’accélération du changement social et de l’accélération du rythme de vie, est exponentielle, plus on effectue un choix rapide, plus on est performant. Faire une recherche se caractérise par une absence de feedback immédiat, c’est, pour l’humain du XXIème siècle, une perte de temps. Il est bien plus facile et plus rapide de suivre son arbre de décision personnel, organisé par les algorithmes de prédiction, que de se perdre dans un réseau labyrinthique. On préfère alors effectuer une décision simple entre des options préconçues que de “perdre” du temps.
L’avènement des réseaux a considérablement augmenté le nombre de ressources à notre portée. C’est là qu’intervient une grande différence entre l’intelligence dite artificielle et l’intelligence humaine : la capacité à gérer un nombre d’informations données. Pour l’homme, cette capacité est limitée, tandis que celle de l’IA, obéissant à la loi de Moore, ne cesse d’augmenter sa puissance de calcul. C’est pourquoi notre rapport à la prise de décision a changé, au vu du nombre d’options possibles, le cerveau humain ne peut pas tout gérer. De manière évidente lorsque l’on pose une question à Google, il faut que cette intelligence artificielle fasse un premier tri parmi les milliers de réponses éventuelles. Mais ce “tri” tend à devenir invasif et pose question dans la manière dont il est effectué.
Pour s’y retrouver dans “le bazar du web” (Culture numérique, Dominique Cardon), les programmes sont nécessaires. Pour fonctionner, les algorithmes de prédictions se basent sur des données fournies par l’analyse de nos comportements : ils créent des profils personnalisés pour chaque individu. L’IA devient de plus en plus efficace, elle analyse nos préférences, jusqu’à nous proposer des options limitées, où il suffit de répondre Oui ou Non. Sous l’influence du numérique, notre façon d’effectuer un choix est devenue de plus en plus binaire, quelle belle ironie ! On le remarque dans les suggestions des moteurs de recherche, celles personnalisées du catalogue Netflix, sur les applications de rencontre ou même dans des formulaires administratifs, les réponses automatiques de mails… Les algorithmes ne facilitent pas seulement nos choix, ils les façonnent. Anthony Masure qualifie ce phénomène de “formatage des expériences humaines” ( Anthony Masure, Résister aux boîtes noires. Design et intelligence artificielle, dans Vanessa Nurock (dir) dossier « L’intelligence artificielle : enjeux éthiques et politiques », Paris, Puf, n° 80, pages 31 à 46, décembre 2019 ).
Afin de rendre la “réalité moins désespérante” nous dit Jean-Claude Dunyach, on s’enferme dans un technococon, (Les furtifs, Alain Damasio ) dans une matrice attentive, à l’écoute de nos moindres envies. Les capteurs se banalisent, enregistrent de plus en plus d’informations personnelles qui contribuent à alimenter les banques de données d’algorithmes de plus en plus précis. Ceux-ci fabriquent la bonne épuisette, créent le bon profil pour sélectionner les meilleures annonces, les meilleures suggestions… Algorithmes et calculateurs contribuent à créer une réalité numérique attentive, bienveillante, qui filtre, sélectionne, rassure et rend la vie plus facile et agréable au milieu de l’océan d’informations disponibles sur le net. Une intelligence artificielle amicale qui semble nous connaître mieux que nous même.
« Les gens adorent ça au contraire : on s’adresse enfin à eux. Ils sont seuls, ils sont divorcés, ils ne voient plus leurs gosses, leur patron les ignore et leurs collègues les zappent, leur maire fait du business mais quelqu’un, quelque part, les écoute. Une Intelligence Avenante logée comme une araignée de lumière au fond d’une base de données pense à eux, amoureusement, à chaque instant. Elle accueille sans se lasser le plus infime, le plus intime, le plus insignifiant de leur comportement, l’interprète comme un désir secret, pour un jour pouvoir y répondre, au bon endroit et au bon moment. Les experts ricains appellent ça l’Ad libitum. Quelqu’un connaît leurs goûts, devine leurs désirs, quelqu’un anticipe leurs besoins. Bonheur ! Vive le MOA ! My Own Assistant ! »
Alain Damasio, Les Furtif, La Volte, 2019, Dans Chapitre 2 – Proferrance
« Nous savons en réalité que ces préférences font l’objet d’une ingénierie sociale mise en œuvre non pas par une bureaucratie étatique, mais par des entreprises privées dotées de ressources financières hallucinantes et capables de traiter des masses énormes de données. Continuer à prétendre que nos préférences expriment la souveraineté de notre moi et seraient donc par là même sacro-saintes – et inaccessibles à l’analyse rationnelle – relève de la politique de l’autruche. La conception résolument individualiste de la liberté et de la rationalité que nous avons héritée de la tradition libérale désarme les facultés critiques indispensables pour résister aux pressions sociales à grande échelle auxquelles nous sommes aujourd’hui confrontés. »
Matthew B. Crawford, Contact. Pourquoi nous avons perdu le monde, et comment le retrouver, éditions La Découverte, 2016, dans Introduction – L’attention comme problème culturel
Ces dernières années, Google a lancé ce qu’ils appellent “la rédaction intelligente”, soit l’utilisation de l’intelligence artificielle pour prédire en temps réel ce que l’on va écrire et gagner du temps. L’algorithme suggère et il suffit de valider ou non la proposition qui est censée correspondre à nos envies, mais aussi à notre manière d’écrire.
“Les suggestions personnalisées proposées par la fonctionnalité de rédaction intelligente s’adaptent à la manière dont vous rédigez habituellement vos messages : votre style d’écriture est ainsi préservé.”