d/acc: Uma retrospectiva de um ano

Escrito por: Vitalik Buterin, fundador do Ethereum

Introdução

Primeiro, quero agradecer aos voluntários como Liraz Siri, Janine Leger e Balvi pelo feedback e revisão deste artigo.

Há cerca de um ano, escrevi um artigo sobre otimismo tecnológico, onde expressei meu entusiasmo geral pela tecnologia e seus enormes benefícios, ao mesmo tempo que manifestei uma atitude cautelosa em relação a certas questões específicas, que se concentram principalmente na superinteligência artificial e nos riscos de destruição que podem surgir se forem construídos de forma inadequada, ou no risco de a humanidade perder irrevogavelmente o poder.

Um dos pontos centrais do artigo é promover uma filosofia: aceleração defensiva descentralizada, democrática e diferenciada. É necessário acelerar o desenvolvimento tecnológico, mas com um foco diferenciado nas tecnologias que podem aumentar nossas capacidades de defesa em vez de causar danos, e dedicar-se a promover a descentralização do poder, em vez de permitir que ele se concentre nas mãos de poucos elites, que julgam o que é certo e errado em nome de todos. O modelo de defesa deve ser como a Suíça democrática e a região de Zomia, que historicamente era quase anarquista, em vez do modelo feudal medieval de senhores e castelos.

No último ano, essas ideias e conceitos evoluíram e amadureceram bastante. Eu compartilhei essas ideias na plataforma "80,000 horas", recebi muitas respostas, a maior parte positiva, mas também houve algumas críticas.

Este trabalho está a avançar continuamente e a alcançar resultados práticos: na área de vacinas de código aberto verificáveis, vimos progresso; a consciência sobre o valor do ar interior saudável tem vindo a aumentar; as notas da comunidade continuam a desempenhar um papel positivo; os mercados preditivos tiveram um ano revolucionário como uma ferramenta de informação; as provas de conhecimento nulo estão a ser aplicadas na identificação governamental e nas redes sociais ( e garantiram a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto foram aplicadas na medicina e nas interfaces cérebro-máquina, entre outros.

No outono passado, recebemos o primeiro evento importante de d/acc: "Dia de Descoberta d/acc" ( d/aDDy ), que ocorreu no Devcon, reunindo palestrantes de diversos campos pilares do d/acc (, como biologia, física, redes, defesa da informação e tecnologia neural ), durando o dia todo. Ao longo dos anos, as pessoas dedicadas a essas tecnologias têm se tornado cada vez mais cientes do trabalho umas das outras, enquanto o público externo também tem se conscientizado dessa visão mais ampla: que os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem se expandir para um mundo mais amplo.

O significado e a extensão de d/acc

Imagine o cenário de 2042. Você vê uma notícia nos meios de comunicação dizendo que a sua cidade pode enfrentar um novo surto de doença. Para esse tipo de notícia, você já está acostumado: as pessoas tendem a reagir de forma exagerada a cada mutação de doenças animais, e na grande maioria dos casos, essas mutações acabam não provocando uma crise real. As duas potenciais epidemias anteriores foram detectadas precocemente através de monitoramento de águas residuais e análise de código aberto das redes sociais, e foram contidas com sucesso em seu estágio inicial. No entanto, desta vez a situação é diferente, os mercados de previsão mostram uma probabilidade de 60% de haver pelo menos 10.000 casos, o que o deixa preocupado.

Foi ontem que a sequência genética do vírus foi determinada. Uma atualização de software para o seu dispositivo de teste de ar de bolso foi imediatamente lançada; com essa atualização, o dispositivo pode detectar o novo vírus (, seja através de um teste de respiração, ou testando ) após 15 minutos de exposição ao ar interior. Ao mesmo tempo, as instruções e códigos de código aberto para gerar vacinas usando equipamentos acessíveis em qualquer instalação médica moderna em todo o mundo devem ser lançados em algumas semanas. A maioria das pessoas ainda não tomou nenhuma ação, dependendo principalmente de medidas de filtragem de ar e ventilação amplamente adotadas para proteger sua segurança.

Devido a problemas imunológicos, você age com mais cautela: o assistente de inteligência artificial pessoal de código aberto que você utiliza, além de realizar tarefas comuns como navegação, recomendações de restaurantes e atividades, também considera dados de testes de qualidade do ar em tempo real e dados de dióxido de carbono, recomendando apenas os locais mais seguros. Esses dados são fornecidos por milhares de participantes e dispositivos, e, com o uso de provas de conhecimento zero e técnicas de privacidade diferencial, minimizam o risco de vazamento ou uso indevido dos dados para outros fins ( Se você estiver interessado em contribuir com dados para esses conjuntos de dados, outros assistentes de inteligência artificial pessoal verificarão se essas ferramentas criptográficas são realmente eficazes ).

Dois meses depois, a pandemia dissipou-se de forma milagrosa: parece que 60% das pessoas seguiram as diretrizes básicas de prevenção, ou seja, usaram máscaras quando o detector de ar emitia alarmes e mostrava a presença do vírus, e se o resultado do teste pessoal fosse positivo, ficavam em isolamento em casa. Foi essa medida que conseguiu reduzir ainda mais a taxa de transmissão, que já havia diminuído drasticamente devido à filtragem passiva do ar, para abaixo de 1. Uma simulação mostrou que uma doença que poderia ser cinco vezes mais grave do que a pandemia de COVID-19 de há vinte anos, agora não causou impactos significativos.

O evento d/acc realizado pelo Devcon obteve um resultado extremamente positivo, que foi a ideia de d/acc conseguir unir pessoas de diferentes áreas e realmente estimular seu grande interesse pelo trabalho uns dos outros.

Realizar um evento com "diversidade" não é uma tarefa difícil, mas fazer com que pessoas de diferentes origens e interesses realmente estabeleçam conexões estreitas é bastante desafiador. Eu ainda me lembro claramente da experiência de ser forçado a assistir a longas óperas durante o ensino fundamental e médio, quando na verdade eu achava essas óperas entediantes. Eu sabia que "deveria" apreciá-las, pois caso contrário, seria visto como um preguiçoso em Ciência da Computação sem cultura, mas não consegui me conectar em um nível mais profundo com o conteúdo das óperas. No entanto, a atmosfera do evento d/acc foi completamente diferente: senti que as pessoas realmente gostavam de conhecer diversos trabalhos de diferentes áreas.

Se desejamos construir um futuro mais brilhante do que o domínio, a desaceleração e a destruição, é necessário desenvolver esta ampla construção de alianças. O d/acc parece ter alcançado resultados significativos nesse aspecto, e apenas isso já é suficiente para destacar o valioso valor desta ideia.

A ideia central do d/acc é clara e concisa: defesa acelerada descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio de ataque e defesa em direção à defesa, sem depender da transferência de mais poder para autoridades centrais durante o processo de implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a florescer quando a defesa é fácil de implementar, enquanto enfrenta desafios severos quando a defesa é difícil — nessas situações, o resultado mais provável é um período caótico de conflitos entre todos, culminando em um estado de equilíbrio dominado pelos mais fortes.

Uma forma de compreender a importância de tentar realizar simultaneamente a descentralização, a defesa e a aceleração é compará-la com as ideias geradas pela renúncia a qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte de "defesa diferenciada"

Essencialmente, isso é semelhante a se tornar um aceleracionista eficaz ( e/acc), mas ao mesmo tempo perseguindo a descentralização. Muitas pessoas adotam essa abordagem, algumas das quais se autodenominam d/acc, mas que de forma benéfica descrevem seu foco como "ofensivo". Além disso, há muitos outros que demonstram um entusiasmo mais moderado por "inteligência artificial descentralizada" e tópicos semelhantes, mas, na minha opinião, sua atenção para o aspecto "defensivo" é claramente insuficiente.

Na minha opinião, essa abordagem pode evitar o risco de um grupo específico exercer um domínio ditatorial sobre a humanidade global, mas não resolve os problemas estruturais subjacentes: em um ambiente favorável à ofensiva, sempre há o risco contínuo de desastres, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio. No que diz respeito à inteligência artificial, ela também não consegue lidar adequadamente com o risco de a humanidade como um todo ter seu poder em relação à inteligência artificial reduzido.

Defesa diferenciada acelerada, mas ignora "descentralização e democracia"

A aceitação do controle centralizado para alcançar objetivos de segurança sempre teve um certo apelo para algumas pessoas, e os leitores sem dúvida estão familiarizados com muitos desses casos, assim como os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupações de que o controle centralizado extremo pode ser a única maneira de lidar com tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético, "cada pessoa usa uma 'etiqueta de liberdade' — que é um produto sucessor dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhantes às etiquetas de tornozelo usadas como alternativas à prisão em alguns países... vídeos e áudios criptografados sendo continuamente enviados e interpretados em tempo real por máquinas". No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente moderada, frequentemente ignorada, mas ainda prejudicial, se manifesta no campo da biotecnologia (, como na resistência pública à supervisão em alimentos e vacinas ), bem como na permissão para que essa resistência não seja contestada por normas de código fechado.

Os riscos dessa abordagem são evidentes, pois o próprio centro frequentemente se torna a fonte do risco. Vimos isso durante a pandemia de COVID-19, onde a pesquisa funcional, financiada por vários governos mundiais, pode ser a raiz da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a rejeitar por anos o reconhecimento de que o vírus COVID-19 é transmitido pelo ar, enquanto o distanciamento social obrigatório e os mandatos de vacinas provocaram uma reação política que pode durar décadas. Situações semelhantes podem muito bem ocorrer novamente em qualquer cenário de risco relacionado à inteligência artificial ou a outras tecnologias de risco. Em contraste, uma abordagem descentralizada lidará de forma mais eficaz com os riscos provenientes do próprio centro.

Defesa descentralizada, mas rejeição à aceleração

Essencialmente, isso tenta desacelerar o progresso tecnológico ou impulsionar a recessão econômica.

Esta estratégia enfrenta duplo desafio. Primeiro, no geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso acarretará custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais, que conseguem encontrar maneiras aparentemente razoáveis de continuar a avançar, terão vantagem. A estratégia de desaceleração pode funcionar até certo ponto em algumas circunstâncias específicas: por exemplo, os alimentos na Europa são mais saudáveis do que os alimentos nos Estados Unidos, este é um exemplo; o sucesso obtido até agora na não proliferação nuclear é outro. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:

• Defender princípios em um mundo cada vez mais tribal, e não apenas construir coisas de forma cega — ao contrário, esperamos construir coisas específicas que tornem o mundo mais seguro e melhor.
• Reconhecer que os avanços tecnológicos exponenciais significam que o mundo se tornará extremamente peculiar, e que a "pegada" global da humanidade no universo inevitavelmente aumentará. Nossa capacidade de proteger animais, plantas e comunidades vulneráveis de danos deve continuar a aumentar, e a única saída é seguir em frente.
• Construir tecnologias que realmente nos protejam, em vez de se basear na suposição de que "bons humanos ( ou uma boa inteligência artificial ) controlam tudo". Alcançamos esse objetivo construindo ferramentas que, quando usadas para construir e proteger, são naturalmente mais eficazes do que quando usadas para destruir.

Uma outra perspectiva sobre o d/acc é voltar ao quadro do movimento dos piratas europeus no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que preserve a capacidade de ação humana, realizando a liberdade negativa, ou seja, evitando que outros (, sejam cidadãos comuns, governos ou superinteligências ), intervenham ativamente na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que realizamos a liberdade positiva, ou seja, garantindo que temos o conhecimento e os recursos para exercer essa capacidade. Isso reflete uma continuidade que se estende por várias gerações.