O artigo mais recente de Vitalik: Por que o código aberto pode promover a igualdade tecnológica?

Por Vitalik Buterin

Compilado e editado por Janna e ChainCatcher

Resumo do Editor da ChainCatcher

Este artigo é do site pessoal de Vitalik Buterin, que principalmente publica os seus posts de blog, opiniões e pesquisas, abrangendo tópicos como tecnologia blockchain, criptoeconomia, governança descentralizada e proteção de privacidade. Este artigo explora como a tecnologia open source pode promover justiça e transparência, por que as tecnologias emergentes podem exacerbar a desigualdade, e o open source como um "ponto de Schelling" para a governança tecnológica.

A ChainCatcher organizou e compilou o conteúdo (com algumas exclusões).

Ideias principais:

• Tecnologias radicais podem exacerbar a desigualdade social porque são mais acessíveis aos ricos e poderosos, levando a lacunas na expectativa de vida e vantagens entre ricos e pobres, e até mesmo à formação de uma subclasse global.
• Outra forma de abuso tecnológico é quando os fabricantes projetam poder sobre os utilizadores através da recolha de dados, ocultação de informações, etc., o que é fundamentalmente diferente do acesso desigual à tecnologia.
• O open source é um terceiro caminho subestimado que melhora a igualdade de acesso e o acesso dos produtores à tecnologia, aumenta a verificabilidade e elimina o bloqueio de fornecedor.
• Os opositores do open source acreditam que ele carrega um risco de abuso, mas o controle centralizado de guardiões não é confiável, propenso a abusos para fins militares e outros, e é difícil garantir a igualdade entre países.
• Se a tecnologia carrega um alto risco de uso indevido, a melhor solução pode ser não implementá-la; se o risco é desconfortável devido à dinâmica de poder, abordagens open source podem torná-la mais justa.
• Open source não significa laissez-faire. Pode ser combinado com leis e outras regulamentações. O núcleo é garantir a democratização da tecnologia e a acessibilidade da informação.

Uma preocupação que frequentemente ouvimos é que certas tecnologias radicais poderiam exacerbar as desigualdades de poder porque são inevitavelmente limitadas aos ricos e poderosos.

Aqui está uma citação de alguém que expressou preocupação sobre as consequências de vidas mais longas:

"Algumas pessoas serão deixadas para trás? Tornaremos a sociedade ainda mais desigual do que já é?" ele pergunta. Tuljapurkar prevê que o aumento na expectativa de vida será limitado a países ricos, onde os cidadãos podem pagar por tecnologias anti-envelhecimento e os governos podem financiar pesquisas científicas. Esta disparidade complica ainda mais o debate atual sobre o acesso aos cuidados de saúde, à medida que a lacuna entre ricos e pobres se amplia não apenas na qualidade de vida, mas também em quanto tempo vivem.

"As grandes farmacêuticas têm um histórico de serem muito exigentes em termos de fornecer produtos a pessoas que não podem pagar", disse Tuljapurkar.

Se as tecnologias anti-envelhecimento forem distribuídas em um mercado livre não regulamentado, "parece-me inteiramente possível que possamos acabar com uma subclasse global permanente, onde os países estão presos às taxas de mortalidade atuais", diz Tuljapurkar. "Se isso acontecer, você terá um ciclo de feedback negativo, um ciclo vicioso. Os países que são excluídos serão sempre excluídos."

Aqui está uma declaração igualmente forte de um artigo preocupado com as consequências do aprimoramento genético humano:

No início deste mês, cientistas anunciaram que editaram genes em embriões humanos para remover uma mutação causadora de doenças. Este trabalho notável é a resposta às orações de muitos pais. Quem não gostaria da chance de evitar que seus filhos sofram com algo que agora é evitável?

Mas isso não será o fim. Muitos pais querem garantir que seus filhos tenham as melhores vantagens através do aprimoramento genético. Estas tecnologias agora são acessíveis àqueles que podem pagar por elas. Com esta capacidade aumentada surgem preocupações éticas que superam a segurança final de tais tecnologias. O alto custo destes procedimentos criará escassez e exacerbará a desigualdade de renda já crescente.

Visões semelhantes em outras áreas tecnológicas:

• Tecnologia digital em geral: https://www.amnestyusa.org/issues/technology/technology-and-inequality/
• Viagens espaciais: https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html
• Geoengenharia solar: https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

Este tema perpassa muitas críticas às novas tecnologias. Um tema relacionado, mas fundamentalmente diferente, é o uso de produtos tecnológicos como ferramentas para recolha de dados, bloqueio de fornecedor, ocultação deliberada de efeitos colaterais (como as vacinas da Moderna foram criticadas), e outras formas de abuso.

Novas tecnologias frequentemente criam maiores oportunidades para as pessoas acessarem coisas sem lhes conceder direitos ou informações completas sobre elas, então, desta perspectiva, tecnologias mais antigas frequentemente parecem mais seguras. Esta também é uma forma de tecnologia fortalecendo os poderosos à custa de outros, mas o problema é o poder que os fabricantes projetam sobre os utilizadores através da tecnologia, não o acesso desigual nos exemplos anteriores.

Pessoalmente, sou muito pró-tecnologia, e se a escolha for binária entre "avançar mais" versus "manter o status quo", eu felizmente avançaria com tudo, exceto algumas poucas coisas (como pesquisa de ganho de função, armas e IA superinteligente), apesar dos riscos.

Isso porque os benefícios, em geral, são vidas mais longas e saudáveis, sociedades mais prósperas, maior relevância humana em uma era de rápidos avanços da IA, e continuidade cultural mantida através de gerações mais velhas como pessoas vivas em vez de memórias em livros de história.

Mas e se eu me colocar no lugar de alguém que é menos otimista sobre os impactos positivos, ou mais preocupado com as maneiras pelas quais indivíduos poderosos explorarão novas tecnologias para dominar a economia e exercer controle, ou ambos? Por exemplo, já me sinto assim em relação a produtos de casa inteligente: os benefícios de poder falar com minhas lâmpadas são superados pela minha relutância em entregar minha vida pessoal ao Google ou à Apple.

Se eu adotar uma suposição mais pessimista, também posso imaginar-me sentindo de forma semelhante sobre certas tecnologias de mídia: se elas permitem que os poderosos transmitam informações de forma mais eficiente do que outros, então podem ser usadas para exercer controle e abafar os outros, e para muitas dessas tecnologias, os ganhos que obtemos com melhor informação ou melhor entretenimento não serão suficientes para compensar a forma como redistribuem o poder.

Open Source como um Terceiro Caminho

Penso que uma perspectiva que é muito subestimada nestas situações é apoiar apenas tecnologias que são desenvolvidas de maneira open source.

O argumento de que o open source acelera o progresso é muito plausível: torna mais fácil para as pessoas construírem sobre as inovações umas das outras. Ao mesmo tempo, o argumento de que exigir open source retarda o progresso também é muito plausível: impede que as pessoas usem uma série de potenciais estratégias de lucro.

Mas as consequências mais interessantes do open source são aquelas que não têm nada a ver com a velocidade do progresso:

• O open source melhora a igualdade de acesso. Se algo é open source, é automaticamente acessível a qualquer pessoa em qualquer país. Para bens físicos e serviços, as pessoas ainda pagam custos marginais, mas em muitos casos, produtos proprietários têm preços elevados porque os custos fixos de inventá-los são tão altos que não atraem mais concorrência. Portanto, os custos marginais são frequentemente bastante baixos, como é o caso na indústria farmacêutica.
• O open source melhora a igualdade de acesso para aqueles que se tornam produtores. Uma crítica é que dar às pessoas produtos finais gratuitos não as ajuda a adquirir as habilidades e experiência necessárias para subir na economia global em direção à prosperidade, o que é uma garantia verdadeiramente confiável de uma qualidade de vida duradoura. O open source não faz isso; ele essencialmente permite que qualquer pessoa, em qualquer lugar do mundo, se torne um produtor, não apenas um consumidor, em cada etapa da cadeia de suprimentos.
• O open source melhora a verificabilidade. Se algo é open source, idealmente incluindo não apenas o resultado, mas também o processo de inventá-lo, escolhas de parâmetros e assim por diante, é mais fácil verificar que você está recebendo o que o provedor afirma, e para pesquisas de terceiros identificarem falhas ocultas.
• O open source elimina a chance de bloqueio de fornecedor. Se algo é open source, o fabricante não pode torná-lo inútil removendo remotamente funcionalidades ou simplesmente falindo, como é o caso de carros altamente computadorizados/conectados que não funcionariam se o fabricante fechasse. Você sempre tem o direito de consertá-lo você mesmo ou solicitar um provedor diferente.

Podemos analisar isso através da lente de algumas das técnicas mais radicais listadas no início do artigo:

• Se tivéssemos tecnologia proprietária de extensão de vida, provavelmente seria limitada a bilionários e líderes políticos, embora eu pessoalmente espere que o preço desta tecnologia caia rapidamente. Mas se fosse open source, qualquer pessoa poderia usá-la e disponibilizá-la para outros a baixo custo.
• Se tivéssemos tecnologia proprietária de aprimoramento genético humano, provavelmente seria limitada a bilionários e líderes políticos, criando uma classe superior. Novamente, acredito pessoalmente que tal tecnologia se espalhará, mas sem dúvida haverá uma lacuna entre o que os ricos e as pessoas comuns têm acesso. No entanto, se fosse open source, a lacuna entre o que os bem conectados e poderosos têm acesso e o que todos os outros têm acesso seria muito menor.
• Para qualquer biotecnologia em geral, um ecossistema de testes de segurança científica open source provavelmente seria mais eficaz e honesto do que empresas endossando seus próprios produtos e tendo-os carimbados por reguladores complacentes.
• Se apenas algumas pessoas pudessem ir ao espaço, então, dependendo das tendências políticas, algumas delas poderiam ter a oportunidade de monopolizar um planeta ou lua inteira. Se a tecnologia for mais amplamente distribuída, suas chances de fazer isso serão menores.
• Se carros inteligentes fossem open source, você poderia verificar que o fabricante não estava espionando você e não seria dependente do fabricante para o uso contínuo do carro.

Podemos resumir o argumento em um diagrama:

Observe que a bolha para "Construa apenas se for open source" é mais ampla, refletindo maior incerteza sobre quanto progresso o open source trará e quanto risco de concentração de poder ele evitará. Mas mesmo assim, em muitos casos, ainda é um bom negócio em média.

Open Source e o Risco de Abuso

Um argumento importante às vezes levantado contra o open-sourcing de tecnologias poderosas é o risco de comportamento de soma zero e formas não hierárquicas de abuso. Dar a todos armas nucleares certamente acabaria com a desigualdade nuclear. Este é um problema real, pois vimos várias nações poderosas explorarem o acesso nuclear assimétrico para intimidar outras, mas também quase certamente levaria a bilhões de mortes.

Como exemplo de consequências sociais negativas sem danos intencionais, dar a todos acesso à cirurgia plástica poderia levar a um jogo de soma zero de competição, onde todos gastam vastos recursos e até arriscam sua saúde para serem mais bonitos que os outros. No final, no entanto, todos nos acostumamos com níveis mais altos de beleza, e a sociedade não está realmente melhor. Algumas formas de biotecnologia poderiam potencialmente produzir efeitos semelhantes em grande escala. Muitas tecnologias, incluindo muitas biotecnologias, caem em algum lugar entre esses dois extremos.

"Eu só apoio se for cuidadosamente controlado por guardiões confiáveis." Este é um argumento válido para se mover na direção oposta. Guardiões podem permitir casos de uso positivos para a tecnologia enquanto excluem os negativos. Guardiões podem até receber um mandato público para garantir acesso não discriminatório a todos que não violem certas regras.

No entanto, tenho um forte ceticismo implícito sobre esta abordagem. Principalmente, duvido que guardiões confiáveis sequer existam no mundo moderno. Muitos dos casos de uso mais de soma zero e mais arriscados são militares, e os militares têm um histórico ruim de autodisciplina.

Um bom exemplo é o programa de armas biológicas soviético:

Dada a contenção de Gorbachev em relação ao SDI e armas nucleares, suas ações relacionadas ao programa ilegal de armas biológicas da União Soviética são intrigantes, observou Hoffman. Quando Gorbachev chegou ao poder em 1985, apesar de ser signatário da Convenção de Armas Biológicas,