Vitalik's nieuwste artikel: Waarom kan open source technologische gelijkheid bevorderen?

Door Vitalik Buterin

Samengesteld en bewerkt door Janna en ChainCatcher

Samenvatting van de ChainCatcher-redactie

Dit artikel komt van de persoonlijke website van Vitalik Buterin, die voornamelijk zijn blogposts, meningen en onderzoek publiceert over onderwerpen zoals blockchaintechnologie, crypto-economie, gedecentraliseerd bestuur en privacybescherming. Dit artikel onderzoekt hoe open source technologie eerlijkheid en transparantie kan bevorderen, waarom opkomende technologieën ongelijkheid kunnen verergeren, en open source als een "Schelling-punt" voor technologisch bestuur.

ChainCatcher heeft de inhoud georganiseerd en samengesteld (met enkele weglatingen).

Kernideeën:

• Radicale technologieën kunnen sociale ongelijkheid verergeren omdat ze toegankelijker zijn voor de rijken en machtigen, wat leidt tot verschillen in levensverwachting en voordelen tussen rijk en arm, en zelfs tot de vorming van een wereldwijde onderklasse.
• Een andere vorm van technologiemisbruik is wanneer fabrikanten macht uitoefenen over gebruikers door gegevensverzameling, het verbergen van informatie, enz., wat fundamenteel verschilt van ongelijke toegang tot technologie.
• Open source is een onderschat derde pad dat de gelijkheid van toegang en producenttoegang tot technologie verbetert, de verifieerbaarheid vergroot en vendor lock-in elimineert.
• Tegenstanders van open source geloven dat het een risico op misbruik met zich meebrengt, maar gecentraliseerde poortwachterscontrole is onbetrouwbaar, vatbaar voor misbruik voor militaire en andere doeleinden, en het is moeilijk om gelijkheid tussen landen te waarborgen.
• Als de technologie een hoog risico op misbruik met zich meebrengt, is de betere oplossing mogelijk om deze niet te implementeren; als het risico ongemakkelijk is vanwege machtsdynamiek, kunnen open source benaderingen het eerlijker maken.
• Open source betekent niet laissez-faire. Het kan worden gecombineerd met wetten en andere regelgeving. De kern is om de democratisering van technologie en de toegankelijkheid van informatie te waarborgen.

Een zorg die we vaak horen is dat bepaalde radicale technologieën machtsverschillen kunnen verergeren omdat ze onvermijdelijk beperkt blijven tot de rijken en machtigen.

Hier is een citaat van iemand die bezorgdheid heeft geuit over de gevolgen van langere levensduur:

"Zullen sommige mensen achterblijven? Zullen we de samenleving nog ongelijker maken dan ze al is?" vraagt hij. Tuljapurkar voorspelt dat de toename in levensduur beperkt zal blijven tot rijke landen, waar burgers zich anti-verouderingstechnologieën kunnen veroorloven en overheden wetenschappelijk onderzoek kunnen financieren. Deze ongelijkheid compliceert het huidige debat over toegang tot gezondheidszorg verder, aangezien de kloof tussen rijk en arm niet alleen groter wordt in levenskwaliteit maar ook in hoe lang ze leven.

"De farmaceutische industrie heeft een reputatie van zeer veeleisend te zijn als het gaat om het leveren van producten aan mensen die niet kunnen betalen," zei Tuljapurkar.

Als anti-verouderingstechnologieën worden verdeeld in een ongereguleerde vrije markt, "lijkt het mij heel goed mogelijk dat we kunnen eindigen met een permanente wereldwijde onderklasse, waar landen vastzitten in de huidige sterftecijfers," zegt Tuljapurkar. "Als dat gebeurt, krijg je een negatieve feedbacklus, een vicieuze cirkel. Die landen die worden uitgesloten, zullen altijd uitgesloten blijven."

Hier is een even sterke uitspraak uit een artikel dat bezorgd is over de gevolgen van menselijke genetische verbetering:

Eerder deze maand kondigden wetenschappers aan dat ze genen in menselijke embryo's hadden bewerkt om een ziekteveroorzakende mutatie te verwijderen. Dit opmerkelijke werk is het antwoord op de gebeden van veel ouders. Wie zou niet de kans willen hebben om te voorkomen dat hun kinderen lijden dat nu vermijdbaar is?

Maar dit zal niet het einde zijn. Veel ouders willen ervoor zorgen dat hun kinderen de beste voordelen hebben door genetische verbetering. Deze technologieën zijn nu toegankelijk voor degenen die het zich kunnen veroorloven. Met deze toegenomen mogelijkheid komen ethische zorgen die zwaarder wegen dan de uiteindelijke veiligheid van dergelijke technologieën. De hoge kosten van deze procedures zullen schaarste creëren en de reeds groeiende inkomensongelijkheid verergeren.

Vergelijkbare standpunten in andere technologiegebieden:

• Digitale technologie in het algemeen: https://www.amnestyusa.org/issues/technology/technology-and-inequality/
• Ruimtereizen: https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html
• Zonnegeotechniek: https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

Dit thema loopt door veel kritieken op nieuwe technologieën. Een verwant, maar fundamenteel verschillend thema is het gebruik van technologieproducten als hulpmiddelen voor gegevensverzameling, vendor lock-in, het opzettelijk verbergen van bijwerkingen (zoals Moderna's vaccins bekritiseerd zijn), en andere vormen van misbruik.

Nieuwe technologieën creëren vaak grotere mogelijkheden voor mensen om toegang te krijgen tot dingen zonder hen rechten of volledige informatie erover te verlenen, dus vanuit dit perspectief lijken oudere technologieën vaak veiliger. Dit is ook een vorm van technologie die de machtigen versterkt ten koste van anderen, maar het probleem is de macht die fabrikanten op gebruikers projecteren via technologie, niet de ongelijke toegang in de vorige voorbeelden.

Ik ben persoonlijk zeer pro-technologie, en als de keuze binair is tussen "verder duwen" versus "de status quo handhaven", zou ik graag vooruitgaan met alles behalve een paar dingen (zoals gain-of-function onderzoek, wapens en superintelligente AI), ondanks de risico's.

Dat komt omdat de voordelen over het algemeen langere en gezondere levens zijn, meer welvarende samenlevingen, grotere menselijke relevantie in een tijdperk van snelle AI-vooruitgang, en culturele continuïteit die wordt behouden door oudere generaties als levende mensen in plaats van herinneringen in geschiedenisboeken.

Maar wat als ik me verplaats in de schoenen van iemand die minder optimistisch is over de positieve effecten, of meer bezorgd is over de manieren waarop machtige individuen nieuwe technologieën zullen gebruiken om de economie te domineren en controle uit te oefenen, of beide? Ik voel me bijvoorbeeld al zo over slimme huisproducten: de voordelen van kunnen praten met mijn lampen wegen niet op tegen mijn terughoudendheid om mijn persoonlijke leven aan Google of Apple over te dragen.

Als ik een pessimistischere aanname aanneem, kan ik me ook voorstellen dat ik me op dezelfde manier voel over bepaalde mediatechnologieën: als ze de machtigen in staat stellen om informatie efficiënter te verspreiden dan anderen, dan kunnen ze worden gebruikt om controle uit te oefenen en anderen te overstemmen, en voor veel van deze technologieën zullen de voordelen die we krijgen van betere informatie of beter entertainment niet voldoende zijn om te compenseren voor de manier waarop ze macht herverdelen.

Open Source als een Derde Pad

Ik denk dat één perspectief dat in deze situaties sterk wordt onderschat, is om alleen technologieën te ondersteunen die op een open source manier worden ontwikkeld.

Het argument dat open source de vooruitgang versnelt is zeer aannemelijk: het maakt het gemakkelijker voor mensen om voort te bouwen op elkaars innovaties. Tegelijkertijd is het argument dat het vereisen van open source de vooruitgang vertraagt ook zeer aannemelijk: het verhindert mensen om gebruik te maken van een reeks potentiële winststrategieën.

Maar de meest interessante gevolgen van open source zijn die welke niets te maken hebben met de snelheid van vooruitgang:

• Open source verbetert de gelijkheid van toegang. Als iets open source is, is het automatisch toegankelijk voor iedereen in elk land. Voor fysieke goederen en diensten betalen mensen nog steeds marginale kosten, maar in veel gevallen zijn eigen producten hoog geprijsd omdat de vaste kosten van het uitvinden ervan zo hoog zijn dat ze niet meer concurrentie aantrekken. Daarom zijn marginale kosten vaak vrij laag, zoals het geval is in de farmaceutische industrie.
• Open source verbetert de gelijkheid van toegang voor degenen die producenten worden. Een kritiek is dat het geven van gratis eindproducten aan mensen hen niet helpt de vaardigheden en ervaring op te doen die nodig zijn om in de wereldeconomie op te klimmen naar welvaart, wat een echt betrouwbare garantie is voor een blijvende levenskwaliteit. Open source doet dat niet; het stelt in wezen iedereen, waar ook ter wereld, in staat om een producent te worden, niet alleen een consument, in elke stap van de toeleveringsketen.
• Open source verbetert de verifieerbaarheid. Als iets open source is, idealiter inclusief niet alleen de output maar ook het proces van het uitvinden ervan, parameterkeuzes, enzovoort, is het gemakkelijker om te verifiëren dat je krijgt wat de provider beweert, en voor onderzoek door derden om verborgen gebreken te identificeren.
• Open source elimineert de kans op vendor lock-in. Als iets open source is, kan de fabrikant het niet nutteloos maken door op afstand functionaliteit te verwijderen of simpelweg failliet te gaan, zoals het geval is met sterk gecomputeriseerde/verbonden auto's die niet zouden werken als de fabrikant zou sluiten. Je hebt altijd het recht om het zelf te repareren of een andere provider te vragen.

We kunnen dit analyseren door de lens van enkele van de meer radicale technieken die aan het begin van het artikel zijn genoemd:

• Als we eigen levensverlengingstechnologie hadden, zou deze waarschijnlijk beperkt zijn tot miljardairs en politieke leiders, hoewel ik persoonlijk verwacht dat de prijs van deze technologie snel zal dalen. Maar als het open source was, zou iedereen het kunnen gebruiken en goedkoop beschikbaar kunnen stellen aan anderen.
• Als we eigen menselijke genetische verbeteringstechnologie hadden, zou deze waarschijnlijk beperkt zijn tot miljardairs en politieke leiders, waardoor een bovenklasse ontstaat. Nogmaals, ik geloof persoonlijk dat dergelijke technologie zich zal verspreiden, maar er zal ongetwijfeld een kloof zijn tussen waar de rijken en gewone mensen toegang toe hebben. Als het echter open source was, zou de kloof tussen waar de goed verbonden en machtigen toegang toe hebben en waar iedereen anders toegang toe heeft veel kleiner zijn.
• Voor biotechnologie in het algemeen is een open-source wetenschappelijk veiligheidstestecosysteem waarschijnlijk effectiever en eerlijker dan bedrijven die hun eigen producten onderschrijven en deze laten goedkeuren door meegaande toezichthouders.
• Als slechts enkele mensen naar de ruimte kunnen gaan, dan zouden sommigen van hen, afhankelijk van politieke trends, de kans kunnen hebben om een hele planeet of maan te monopoliseren. Als de technologie breder verspreid is, zullen hun kansen om dat te doen kleiner zijn.
• Als slimme auto's open source waren, zou je kunnen verifiëren dat de fabrikant je niet bespioneerde en zou je niet afhankelijk zijn van de fabrikant voor het blijvende gebruik van de auto.

We kunnen het argument samenvatten in een diagram:

Merk op dat de bubbel voor "Bouw het alleen als open source" breder is, wat een grotere onzekerheid weerspiegelt over hoeveel vooruitgang open source zal brengen en hoeveel risico op machtsconcentratie het zal voorkomen. Maar zelfs dan is het in veel gevallen nog steeds gemiddeld een goede deal.

Open Source en het Risico van Misbruik

Een belangrijk argument dat soms wordt aangevoerd tegen het open-sourcen van krachtige technologieën is het risico van nulsomgedrag en niet-hiërarchische vormen van misbruik. Iedereen kernwapens geven zou zeker een einde maken aan nucleaire ongelijkheid. Dit is een reëel probleem, aangezien we hebben gezien dat meerdere machtige landen asymmetrische nucleaire toegang gebruiken om anderen te intimideren, maar het zou ook bijna zeker leiden tot miljarden doden.

Als voorbeeld van negatieve sociale gevolgen zonder opzettelijke schade, zou het geven van toegang tot plastische chirurgie aan iedereen kunnen leiden tot een nulsomspel van competitie, waarbij iedereen enorme middelen besteedt en zelfs hun gezondheid riskeert om mooier te zijn dan anderen. Uiteindelijk raken we echter allemaal gewend aan hogere niveaus van schoonheid, en de samenleving is niet echt beter af. Sommige vormen van biotechnologie zouden potentieel vergelijkbare effecten op grote schaal kunnen produceren. Veel technologieën, waaronder veel biotechnologieën, vallen ergens tussen deze twee uitersten.

"Ik ondersteun het alleen als het zorgvuldig wordt gecontroleerd door vertrouwde poortwachters." Dit is een geldig argument om in de tegenovergestelde richting te bewegen. Poortwachters kunnen positieve gebruikssituaties voor de technologie toestaan terwijl ze