Pourquoi avons-nous besoin d’évaluation technologique ?
- Vous rappelez-vous qu’on nous disait au tournant du millénaire qu’une nouvelle technologie nommée « ingénierie génétique » nourrirait le monde et réduirait l’utilisation de produits chimiques toxiques ? Vingt ans plus tard, le nombre de personnes souffrant de la faim est plus élevé que jamais et les produits chimiques, y compris ceux associés aux cultures génétiquement modifiées, ont rendu malade un nombre de personnes encore plus grand. Nous aurions dû avoir une évaluation technologique à cette époque.
- Aujourd’hui, Bill Gates, qui a cofondé Microsoft, dit que le monde devrait suivre l’exemple de son entreprise et atteindre la neutralité carbone en 2030. Pour cela, il parie sur les techniques de géo-ingénierie, comme celles visant à rendre les nuages plus réfléchissants, ou à cultiver des plantes génétiquement modifiées, à les brûler pour produire de l’énergie puis enfouir le carbone. Cela semble invraisemblable et les enjeux sont majeurs, mais des hommes et femmes politiques du monde entier misent déjà sur l’idée que la géo-ingénierie réussira à ralentir le changement climatique, alors qu’il n’y a actuellement aucune preuve de cela. Ce dont nous avons urgemment besoin, c’est une évaluation technologique.
- John Deere, Bayer-Monsanto et d’autres méga-corporations agricoles semblent avoir comme vision pour l’avenir la digitalisation de chacun des éléments de chaque écosystème terrestre. Elles voudraient remplacer les paysan.ne.s et pêcheur.euse.s par des robots de précision et des nouveaux produits chimiques, pour industrialiser toujours plus nos terres et nos océans. Elles affirment que cela permettra de répondre aux défis du changement climatique, à la faim dans le monde, aux pandémies et à la perte de biodiversité. Pour vérifier ces affirmations, nous avons besoin d’une évaluation technologique.
Nous vivons à une époque où les nouvelles technologies sont souvent présentées comme des solutions quasi-magiques pour toute une série de défis. En écoutant les promesses hyper médiatisées, vous pourriez penser que les technologies, telles que les drones, la soi-disant intelligence artificielle (IA), les organismes de forçage génétique et la géo-ingénierie, font partie d’un futur inévitable pour chacun d’entre nous. En réalité, elles sont le produit du scientisme – la surestimation de l’importance des sciences physiques et la croyance selon laquelle la science peut apporter toutes les réponses aux problèmes mondiaux les plus graves.
Science, scientisme et humilité
Pour évaluer une technologie de manière effective, les connaissances sur lesquelles l’évaluation repose doivent être fiables et comprises par celles et ceux qui réalisent l’évaluation. De telles connaissances, y compris les connaissances scientifiques, proviennent uniquement d’êtres humains, qui peuvent avoir des perspectives limitées, et peuvent manquer d’humilité pour reconnaître leur propre ignorance ou leur incertitude. Souvent, l’expertise des sciences naturelles (physique, chimie, et biologie) bénéficie d’une préséance injustifiée dans l’évaluation des nouvelles technologies, ceci les conduit à dominer d’autre formes de savoirs et de jugements qui peuvent être tout aussi pertinents, comme l’écologie et l’éthique.
Le scientisme est un système de croyances qui valorise grandement les sciences naturelles (en particulier les sciences physiques) en comparaison avec d’autres branches d’apprentissage ou de culture, notamment les autres systèmes de savoirs issus des sciences non-occidentales. Les trois principes majeurs du scientisme sont :
1) toutes les questions qui émergent dans un processus impliquant des non-scientifiques sont insignifiantes là où la science peut apporter une réponse ;
2) la science fait autorité puisqu’elle est basée sur des preuves empiriques – les affirmations scientifiques seront donc toujours supérieures aux affirmations issues de sphères non-scientifiques ;
3) la science fournit une description ultime des fondements de la réalité – jusqu’aux notions métaphysiques – et peut même reformuler les questions de façon plus pertinente, grâce à la prise en compte des connaissances acquises.
Pourtant, en niant la valeur des autres perspectives sur le monde, les croyant.e.s du scientisme établissent un système philosophique alternatif – un système que seul.e.s les scientifiques seraient autorisés à explorer selon ses partisan.e.s. Le danger du scientisme est que les discussions sur des enjeux fondamentaux pour notre avenir, deviennent des enjeux dédiés uniquement aux scientifiques des sciences naturelles, qui ne sont généralement pas formés pour penser en dehors de leurs propres disciplines spécialisées. Pourtant, certains enjeux doivent impérativement prendre en compte des aspects non-scientifiques, tels que les droits humains ou le contrôle des technologies au service du bien commun.
Il est nécessaire d’enrayer la tendance de nombreux scientifiques et technologistes à se tourner vers la croyance scientiste. Si ce n’est pas le cas, le scientisme peut conduire à des programmes scientifiques qui transgressent les standards éthiques de bon sens. L’exemple le mieux connu est peut-être l’eugénisme – une idée popularisée par des scientifiques mainstream britanniques au début du 20ème siècle, à côté de figures publiques célèbres comme George Bernard Shaw, Marie Stopes et John Harvey Kellogg. Les idées eugénistes sous-tendaient l’Holocauste nazi et l’étude américaine de Tuskegee sur la syphilis (1932-1972), dans laquelle des Afro-Américains pensaient recevoir des traitements gratuits du gouvernement fédéral des États-Unis, tandis qu’en fait ils.elles faisaient partie d’une expérimentation visant à observer les conséquences d’une syphilis non-traitée.
Plus récemment, le scientisme a été le système de croyance adopté par beaucoup d’ambassadeur.rice.s de l’intelligence artificielle (IA) et autres transhumanistes, la plupart résidant dans la Silicon Valley. Un célèbre partisan du scientisme était le philanthrope milliardaire Jeffrey Epstein, qui croyait que les avancées de l’IA et de l’ingénierie génétique créeraient une race de super-humains. Il a donné des millions de dollars à des projets de recherche du Program for Evolutionary Dynamics (Programme pour des dynamiques d’évolution) de l’Université d’Harvard et le Media Lab du MIT, jusqu’à son arrestation pour délits sexuels et sa mort en 2019.
L’évaluation technologique se saisit de la science comme un processus rationnel pour donner du sens au monde, mais elle rejette les croyances qui sous-tendent le scientisme. À la place, elle adopte une approche fondée sur le principe de précaution, l’humilité de tou.te.s les scientifiques et ingénieur.e.s, et leur capacité à reconnaitre des zones d’ignorances. Elle reconnaît le besoin d’éthique, d’ouverture à l’incertitude, et l’inclusion de multiples perspectives. L’universitaire indien Shiv Visvanathan appelle à un impératif moral pour reconnaitre la pluralité des savoirs de la justice cognitive. Il y a plusieurs organisations qui appliquent cette approche plus large des sciences et de l’ingénierie.
Guidé.e.s par les multinationales du Nord global, comme les industries de l’agrochimie, la Silicon Valley et les fabricants de robots, celles et ceux qui prennent actuellement les décisions sur les technologies promeuvent une transformation qui, si elle réussit, pourrait achever un processus dans lequel chaque aspect de la vie serait contrôlé par des armées, des algorithmes, et des machines contrôlées par des entreprises privées. Pourtant, ceci n’est pas inéluctable, et les populations ont le droit de déterminer collectivement leur avenir par l’évaluation technologique
Le Dilemme de Collingridge
Un objectif clé de la plupart des évaluations technologiques (TA) est de répondre au phénomène connu sous le nom de dilemme de Collingridge, fondé sur deux constats :
1. influencer ou contrôler les développements technologiques est plus facile à un stade précoce, lorsque les conséquences ne sont pas encore manifestes,
2. au moment où nous connaissons ces conséquences, il est difficile de changer ces technologies.
Ce dilemme auquel nous faisons face exerce une double contrainte d’information et de pouvoir :
-
Un problème d’information puisque les impacts d’une nouvelle technologie peuvent ne pas être facilement prévisibles jusqu’à ce qu’elle soit amplement développée et largement utilisée, donc avant qu’il soit trop tard.
-
Un problème de pouvoir puisque le contrôle ou le changement de trajectoire d’une technologie est difficile une fois la technologie enracinée et installée.
L’évaluation technologique répond au problème d’information, en soumettant les affirmations d’une nouvelle technologie à un examen critique, généralement avec une forme de forum public.
De nombreuses approches d’évaluation technologique répondent au problème de pouvoir, en apportant à un stade précoce différents types de savoirs dans les processus d’innovation et dans les prises de décisions politiques. Cela signifie que des politiques peuvent ensuite être élaborées afin que les technologies soient développées et contrôlées, si elles sont utilisées un jour, et ce dans l’intérêt de notre futur à tou.te.s.
S’il est probant, un processus d’évaluation technologique peut aider à revaloriser les connaissances issues des expériences des personnes dans toute leur diversité. Une plus grande inclusion de ces savoirs, qui ont souvent l’avantage d’être développés et utilisés depuis des générations, pourrait être une alternative préférable à la confiance aveugle dans la prochaine technologie en vogue.
L’évaluation de technologies par la société est plus urgente que jamais puisque :
- On constate une accélération de la vitesse d’application des produits industriels, scientifiques et technologiques, particulièrement dans le sillage de la pandémie de COVID-19 et la menace du changement climatique global.
- Quelques entreprises transnationales contrôlent des technologies et ressources clés à l’échelle globale, en dehors de la souveraineté des états et des décisions publiques d’intérêt général.
- De plus en plus de domaines de la nature et de la culture sont transformés en marchandise via des nouvelles technologies, alors que de nouveaux instruments financiers spéculatifs promeuvent leur privatisation et l’accumulation des ressources par des acteurs privés.
- Lorsqu’elle est contrôlée par des entreprises, la science et les développements technologiques qui y sont associés ont des conséquences de plus en plus évidentes sur les moyens de subsistance déjà menacés des populations, sur les droits des femmes, sur les environnements fragiles et les crises globales.
- La capacité des gouvernements et des sociétés à surveiller et réguler les technologies émergentes est actuellement insuffisante.
Dans l’intérêt de toute l’humanité, nous avons besoin d’évaluations technologiques afin de prendre des décisions éclairées, qui protègent les droits humains et les ressources vitales, et qui améliorent le bien-être des populations et l’équilibre de notre planète.
De nombreux collectifs participent déjà aux Plateformes d’évaluation technologique à travers le monde.