Le dernier article de Vitalik : Pourquoi l'open source peut-il promouvoir l'égalité technologique ?

Par Vitalik Buterin

Compilé et édité par Janna et ChainCatcher

Résumé de l'éditeur de ChainCatcher

Cet article est issu du site personnel de Vitalik Buterin, qui publie principalement ses articles de blog, ses opinions et ses recherches, couvrant des sujets tels que la technologie blockchain, la cryptoéconomie, la gouvernance décentralisée et la protection de la vie privée. Cet article explore comment la technologie open source peut promouvoir l'équité et la transparence, pourquoi les technologies émergentes peuvent exacerber les inégalités, et l'open source comme "point de Schelling" pour la gouvernance technologique.

ChainCatcher a organisé et compilé le contenu (avec quelques suppressions).

Idées principales :

• Les technologies radicales peuvent exacerber les inégalités sociales car elles sont plus accessibles aux riches et aux puissants, conduisant à des écarts d'espérance de vie et d'avantages entre les riches et les pauvres, et même à la formation d'une sous-classe mondiale.
• Une autre forme d'abus technologique se produit lorsque les fabricants projettent leur pouvoir sur les utilisateurs par la collecte de données, la dissimulation d'informations, etc., ce qui est fondamentalement différent de l'accès inégal à la technologie.
• L'open source est une troisième voie sous-estimée qui améliore l'égalité d'accès et l'accès des producteurs à la technologie, renforce la vérifiabilité et élimine la dépendance envers les fournisseurs.
• Les opposants à l'open source estiment qu'il comporte un risque d'abus, mais le contrôle centralisé par des gardiens n'est pas fiable, sujet à des abus à des fins militaires et autres, et il est difficile d'assurer l'égalité entre les pays.
• Si la technologie présente un risque élevé de mauvaise utilisation, la meilleure solution peut être de ne pas la mettre en œuvre ; si le risque est inconfortable en raison des dynamiques de pouvoir, les approches open source peuvent la rendre plus équitable.
• L'open source ne signifie pas le laisser-faire. Il peut être combiné avec des lois et d'autres réglementations. L'essentiel est d'assurer la démocratisation de la technologie et l'accessibilité de l'information.

Une préoccupation que nous entendons souvent est que certaines technologies radicales pourraient exacerber les inégalités de pouvoir car elles sont inévitablement limitées aux riches et aux puissants.

Voici une citation de quelqu'un qui a exprimé des inquiétudes concernant les conséquences de l'allongement de la durée de vie :

"Certaines personnes seront-elles laissées pour compte ? Allons-nous rendre la société encore plus inégalitaire qu'elle ne l'est déjà ?" demande-t-il. Tuljapurkar prédit que l'augmentation de la durée de vie sera limitée aux pays riches, où les citoyens peuvent se permettre des technologies anti-âge et les gouvernements peuvent financer la recherche scientifique. Cette disparité complique davantage le débat actuel sur l'accès aux soins de santé, car l'écart entre riches et pauvres s'élargit non seulement en termes de qualité de vie, mais aussi en termes de longévité.

"L'industrie pharmaceutique a l'habitude d'être très exigeante en ce qui concerne la fourniture de produits aux personnes qui ne peuvent pas payer", a déclaré Tuljapurkar.

Si les technologies anti-âge sont distribuées dans un marché libre non réglementé, "il me semble tout à fait possible que nous finissions avec une sous-classe mondiale permanente, où les pays sont enfermés dans les taux de mortalité actuels", dit Tuljapurkar. "Si cela se produit, vous obtiendrez une boucle de rétroaction négative, un cercle vicieux. Les pays qui sont exclus le seront toujours."

Voici une déclaration tout aussi forte tirée d'un article concernant les conséquences de l'amélioration génétique humaine :

Plus tôt ce mois-ci, des scientifiques ont annoncé avoir édité des gènes dans des embryons humains pour éliminer une mutation causant une maladie. Ce travail remarquable est la réponse aux prières de nombreux parents. Qui ne voudrait pas avoir la chance d'éviter à ses enfants des souffrances désormais évitables ?

Mais ce ne sera pas la fin. De nombreux parents veulent s'assurer que leurs enfants bénéficient des meilleurs avantages grâce à l'amélioration génétique. Ces technologies sont maintenant accessibles à ceux qui peuvent se les permettre. Avec cette capacité accrue viennent des préoccupations éthiques qui l'emportent sur la sécurité ultime de ces technologies. Le coût élevé de ces procédures créera une rareté et exacerbera les inégalités de revenus déjà croissantes.

Des points de vue similaires dans d'autres domaines technologiques :

• Technologie numérique en général : https://www.amnestyusa.org/issues/technology/technology-and-inequality/
• Voyages spatiaux : https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html
• Géo-ingénierie solaire : https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

Ce thème traverse de nombreuses critiques des nouvelles technologies. Un thème connexe, mais fondamentalement différent, est l'utilisation des produits technologiques comme outils de collecte de données, de verrouillage des fournisseurs, de dissimulation délibérée des effets secondaires (comme on l'a reproché aux vaccins de Moderna), et d'autres formes d'abus.

Les nouvelles technologies créent souvent de plus grandes opportunités pour les gens d'accéder à des choses sans leur accorder de droits ou d'informations complètes à leur sujet, donc de ce point de vue, les technologies plus anciennes semblent souvent plus sûres. C'est aussi une forme de technologie renforçant les puissants au détriment des autres, mais le problème est le pouvoir que les fabricants projettent sur les utilisateurs à travers la technologie, et non l'accès inégal dans les exemples précédents.

Personnellement, je suis très favorable à la technologie, et si le choix est binaire entre "aller plus loin" et "maintenir le statu quo", je pousserais volontiers tout en avant, à l'exception de très peu de choses (comme la recherche sur le gain de fonction, les armes et l'IA superintelligente), malgré les risques.

C'est parce que les avantages, dans l'ensemble, sont des vies plus longues et plus saines, des sociétés plus prospères, une plus grande pertinence humaine à l'ère des avancées rapides de l'IA, et une continuité culturelle maintenue par les générations plus âgées en tant que personnes vivantes plutôt que comme souvenirs dans les livres d'histoire.

Mais que se passerait-il si je me mettais à la place de quelqu'un qui est moins optimiste quant aux impacts positifs, ou plus préoccupé par les façons dont des individus puissants exploiteront les nouvelles technologies pour dominer l'économie et exercer un contrôle, ou les deux ? Par exemple, je ressens déjà cela à propos des produits pour maisons intelligentes : les avantages de pouvoir parler à mes ampoules sont éclipsés par ma réticence à confier ma vie personnelle à Google ou Apple.

Si j'adopte une hypothèse plus pessimiste, je peux aussi m'imaginer ressentir la même chose à propos de certaines technologies médiatiques : si elles permettent aux puissants de diffuser des informations plus efficacement que les autres, alors elles peuvent être utilisées pour exercer un contrôle et noyer les autres, et pour beaucoup de ces technologies, les gains que nous obtenons d'une meilleure information ou d'un meilleur divertissement ne suffiront pas à compenser la façon dont elles redistribuent le pouvoir.

L'Open Source comme troisième voie

Je pense qu'une perspective grandement sous-estimée dans ces situations est de ne soutenir que les technologies développées de manière open source.

L'argument selon lequel l'open source accélère le progrès est très plausible : il facilite la construction sur les innovations des autres. En même temps, l'argument selon lequel exiger l'open source ralentit le progrès est également très plausible : cela empêche les gens d'utiliser toute une série de stratégies de profit potentielles.

Mais les conséquences les plus intéressantes de l'open source sont celles qui n'ont rien à voir avec la vitesse du progrès :

• L'open source améliore l'égalité d'accès. Si quelque chose est open source, il est automatiquement accessible à n'importe qui dans n'importe quel pays. Pour les biens et services physiques, les gens paient toujours les coûts marginaux, mais dans de nombreux cas, les produits propriétaires sont vendus à prix élevé parce que les coûts fixes de leur invention sont si élevés qu'ils n'attirent pas plus de concurrence. Par conséquent, les coûts marginaux sont souvent assez bas, comme c'est le cas dans l'industrie pharmaceutique.
• L'open source améliore l'égalité d'accès pour ceux qui deviennent producteurs. Une critique est que donner aux gens des produits finis gratuits ne les aide pas à acquérir les compétences et l'expérience nécessaires pour grimper dans l'économie mondiale vers la prospérité, ce qui est une garantie vraiment fiable d'une qualité de vie durable. L'open source ne fait pas cela ; il permet essentiellement à n'importe qui, n'importe où dans le monde, de devenir un producteur, pas seulement un consommateur, à chaque étape de la chaîne d'approvisionnement.
• L'open source améliore la vérifiabilité. Si quelque chose est open source, idéalement incluant non seulement le résultat mais aussi le processus de son invention, les choix de paramètres, etc., il est plus facile de vérifier que vous obtenez ce que le fournisseur prétend, et pour la recherche tierce d'identifier les défauts cachés.
• L'open source élimine le risque de dépendance envers les fournisseurs. Si quelque chose est open source, le fabricant ne peut pas le rendre inutile en supprimant à distance des fonctionnalités ou simplement en faisant faillite, comme c'est le cas avec les voitures hautement informatisées/connectées qui ne fonctionneraient pas si le fabricant fermait. Vous avez toujours le droit de le réparer vous-même ou de demander un autre fournisseur.

Nous pouvons analyser cela à travers le prisme de certaines des techniques plus radicales énumérées au début de l'article :

• Si nous avions une technologie propriétaire de prolongation de la vie, elle serait probablement limitée aux milliardaires et aux dirigeants politiques, bien que je m'attende personnellement à ce que le prix de cette technologie baisse rapidement. Mais si elle était open source, n'importe qui pourrait l'utiliser et la rendre disponible aux autres à bas prix.
• Si nous avions une technologie propriétaire d'amélioration génétique humaine, elle serait probablement limitée aux milliardaires et aux dirigeants politiques, créant une classe supérieure. Encore une fois, je crois personnellement qu'une telle technologie se répandra, mais il y aura sans aucun doute un écart entre ce à quoi les riches et les gens ordinaires ont accès. Cependant, si elle était open source, l'écart entre ce à quoi les personnes bien connectées et puissantes ont accès et ce à quoi tout le monde a accès serait beaucoup plus petit.
• Pour toute biotechnologie en général, un écosystème de tests de sécurité scientifique open source est susceptible d'être plus efficace et honnête que des entreprises approuvant leurs propres produits et les faisant approuver par des régulateurs complaisants.
• Si seulement quelques personnes peuvent aller dans l'espace, alors selon les tendances politiques, certaines d'entre elles pourraient avoir l'opportunité de monopoliser une planète ou une lune entière. Si la technologie est plus largement distribuée, leurs chances de le faire seront plus faibles.
• Si les voitures intelligentes étaient open source, vous pourriez vérifier que le fabricant ne vous espionne pas et ne pas dépendre du fabricant pour continuer à utiliser la voiture.

Nous pouvons résumer l'argument dans un diagramme :

Notez que la bulle pour "Construire seulement si open source" est plus large, reflétant une plus grande incertitude quant à la quantité de progrès que l'open source apportera et à la quantité de risque de concentration du pouvoir qu'il préviendra. Mais même ainsi, dans de nombreux cas, c'est toujours une bonne affaire en moyenne.

L'Open Source et le risque d'abus

Un argument majeur parfois soulevé contre l'open source des technologies puissantes est le risque de comportement à somme nulle et de formes d'abus non hiérarchiques. Donner à tous des armes nucléaires mettrait certainement fin à l'inégalité nucléaire. C'est un vrai problème, car nous avons vu plusieurs nations puissantes exploiter l'accès nucléaire asymétrique pour intimider les autres, mais cela conduirait aussi presque certainement à des milliards de morts.

Comme exemple de conséquences sociales négatives sans intention de nuire, donner à tous accès à la chirurgie plastique pourrait conduire à un jeu de compétition à somme nulle, où chacun