? Menu Libération Connexion Abonnement Bienvenue dans le «World Wide Orwell» «Aquarius», Iran, hackers. . . , les articles que vous auriez pu rater cette semaine 6 janvier 2018 à 17:11 Caroline Fourest : «Les "Je ne suis pas Charlie" finiront comme tous les perdants de l’histoire» 6 janvier 2018 à 15:13 Jean Baubérot : «Le droit au blasphème ne s’applique pas qu’au discours à l’égard des religions» 6 janvier 2018 à 15:50 «Aquarius» : La Libye, d’un nouveau départ à un nouvel exil 6 janvier 2018 à 15:22 A bord de l'Aquarius: un naufrage avec le son, sans l’image 6 janvier 2018 à 18:56 Vexé par les critiques, Donald Trump se qualifie de «génie très stable» 6 janvier 2018 à 17:20 Quoi de neuf en 2018 ? Rien, merci 6 janvier 2018 à 11:50 La Corée du Nord pourrait participer aux JO en Corée du Sud 6 janvier 2018 à 10:10 10 degrés de trop en Europe, 23 millions de chiffres et un gros tas de poussière 6 janvier 2018 à 17:00 Le bitcoin, une monnaie qui tourne au charbon 5 janvier 2018 à 12:08 Au bureau, les économies d'énergies se nichent dans les pièces jointes 5 janvier 2018 à 10:03 L'administration Trump ouvre les vannes du forage offshore 4 janvier 2018 à 23:44 Jean-Pierre Filiu : «Les dictateurs arabes, comme les mamelouks, imposent une domination militaire» 5 janvier 2018 à 19:06 Fabien Truong: «Dans certains quartiers, la question de la haine de soi est très forte» 4 janvier 2018 à 17:36 Lahire, la sociologie à l’assaut de Freud 3 janvier 2018 à 19:56 Liberté de création : ne nous trompons pas de combat ! 3 janvier 2018 à 18:36 La recette du week-end: ni roi, ni fève mais une galette flamande 6 janvier 2018 à 11:02 Parce qu'ils étaient Juifs 5 janvier 2018 à 15:07 En prison, Pommerat brise le quatrième mur 4 janvier 2018 à 17:36 Holy Two, Daniel Alexander, Mou. . . la playlist du cahier musique de «Libé» 5 janvier 2018 à 15:02 Abonnement 100% numérique A partir de 1€ le premier mois Formule Intégrale Libération en version papier et numérique Èvénements Le Grand Paris bouge-t-il ? Mardi 6 février Voyage au cœur de l'IA Mercredi 24 janvier Travail : la réforme expliquée par les experts Vendredi 19 janvier La Boutique Unes en affiches Les unes cultes en tirage photo Relire Libé Commander des anciens numéros info / Tribune Bienvenue dans le «World Wide Orwell» Par Olivier Ertzscheid, enseignant-chercheur en Sciences de l’information et de la communication — 12 mai 2014 à 12:56 Bienvenue dans le «World Wide Orwell» Bienvenue dans le «World Wide Orwell» Photo CC BY HackNY et @matylda (Flickr) Les algorithmes et ceux qui les conçoivent ouvrent un éventail de possibles aussi prometteurs qu’angoissants et, pour certains, incontrôlables. Suite à un imprévu, votre voiture sans chauffeur pilotée par un algorithme a le choix entre se jeter du haut d’une falaise et entraîner la mort de ses occupants, ou percuter ce bus scolaire transportant 50 enfants, l’envoyant au bas de la même falaise. Quel choix fera-t-elle ? Serais-je au courant, en y embarquant le matin, de l’existence de ce choix ? Aurais-je la possibilité de le désactiver ? Ce problème, et l’ensemble de ses variantes, est connu sous le nom du «dilemme du tramway». Il renvoie à l’histoire de ce vieux fantasme de l‘intelligence artificielle, des robots en guerre contre l’humanité, des sociétés dystopiques, une histoire que la science-fiction a déjà parfaitement documenté. Qui est aujourd’hui notre histoire. Les réponses avant les questions Aujourd’hui, les algorithmes définissent le cours des bourses mondiales. Aujourd’hui, les continents les plus peuplés sont aux mains de quelques holdings numériques qui ont pour nom Facebook ou Google et scannent et documentent en permanence chaque partie de nos vies, qui nous fournissent des réponses avant que nous n’ayons formulé de question. Qui nous livrent de l’information toujours plus contextuelle, toujours plus «sur-mesure» au risque de nous conforter dans nos propres certitudes, choisissant à notre place ce qui vaut d’être lu, ce qui vaut d’être compris, ce qui vaut d’être su. Aujourd’hui, ordinateurs et programmes nous battent aux échecs, à Jeopardy, demain ils seront capables de débattre, d’argumenter. Ils conduisent nos voitures mieux que nous ne pourrions le faire nous-même. Ils réalisent des opérations médicales. Ils séquencent notre génome dont ils ont fait un particularisme marchand comme les autres, après avoir fait de la langue un nouveau capitalisme linguistique où les mots se vendent aux enchères contre le pétrole de notre attention. NBIC. Nano-Bio-Info-Cogno technologies. Apprentissage profond, casques neuronaux, voitures sans chauffeur, puces mémorielles implantées à même notre cerveau, améliorations et corrections génétiques diverses… Autant de projets développés par ces mêmes géants de la mise en coupe réglée et algorithmique du monde. Nous ne disposons que de deux certitudes : il nous faudra tester ces technologies, et nous ignorons le contexte qui présidera à ces tests. Nous sommes à la fois les ingénieurs crédules et les béta-testeurs bénévoles d’un nouveau projet Manhattan. Un Hiroshima technologique, génétique, boursier, n’a jamais été aussi probable. Le numérique est une technologie littéralement nucléaire. Une technologie de noyau. Au «cœur» fissible d’un éventail de possibles aussi prometteurs qu’angoissants et, pour certains, incontrôlables. Qui réfléchit aujourd’hui sur les conséquences de ce futur inéluctable ? Qui est aujourd’hui en capacité de proposer des régulations efficaces ? Faudra-t-il attendre les premières dérives, les premiers accidents pour s’atteler à la tâche ? D’un côté, de grands esprits scientifiques, dont Stephen Hawking, commencent à dénoncer fortement les risques d’une intelligence artificielle dont la réussite «serait le plus grand événement dans l’histoire humaine mais malheureusement, ce pourrait aussi être le dernier, sauf si nous apprenons comment éviter les risques». De l’autre, de nouveaux luddites commencent à s’en prendre physiquement à ceux qu’ils jugent responsables sous le slogan «la vie privée n’est pas morte, elle est assassinée. Et nous connaissons le nom et l’adresse des assassins». L’espace de débat public entre ces deux postures est immense et reste entièrement à construire. «Éthique de l’automatisation» Après s’être interrogé pendant des années sur l’externalisation de nos mémoires documentaires et la numérisation de nos relations sociales, les progrès de l’ingénierie algorithmique, les possibilités d’automatisation qu’elle ouvre dans le champ social et sa prégnance dans des domaines allant de la santé à l’éducation en passant par les transports nous obligent à construire dès maintenant un corpus d’analyse et de réflexion qui pourra seul nous laisser en situation de comprendre les enjeux de cette deuxième vague d’externalisation : l’externalisation de nos stratégies décisionnelles, émotionnelles, affectives. En d’autres termes, bâtir une «éthique de l’automatisation» pour éviter, dès demain, de n’avoir comme autre choix que celui de se reposer sur la croyance en une «éthique algorithmique» et les dogmes qui y seront liés. Refuser aujourd’hui de penser ces problèmes, ou en laisser le soin à quelques lobbys, ONG ou prix Nobel, c’est se condamner demain à les subir. Le choix est simple : 1984 demeurera-t-il un livre de science-fiction ou sommes-nous prêts à ce qu’il devienne un ouvrage d’Histoire ? Olivier Ertzscheid est enseignant-chercheur (Maître de Conférences) en Sciences de l’information et de la communication à l’IUT de La Roche-sur-Yon (Université de Nantes). Il tient par ailleurs le blog Affordance. info et vient de publier Qu’est-ce que l’identité numérique ? Enjeux, outils, méthodologies chez OpenEdition Press. Olivier Ertzscheid enseignant-chercheur en Sciences de l’information et de la communication partager tweeter Vous êtes abonné à Libération Le journal d'aujourd'hui Offre 100% numérique: 1 € le premier mois Le journal du jour en exclusivité et le journal de demain avant tout le monde Voir les offres d’abonnement partager tweeter Aucun commentaire Dans le dossier «Internet» des milliers de hackers du monde entier. Effet Weinstein, surveillance en ligne et licornes gonflables : au cœur des hackers télévisées Vous êtes abonné à Libération Le journal d'aujourd'hui Offre 100% numérique: 1 € le premier mois Consultation illimitée sur tous les supports Voir les offres d’abonnement Un mot à ajouter ? Quantcast