d/acc: Tinjauan Setelah Setahun

Tulisan oleh: Pendiri Ethereum Vitalik Buterin

Pendahuluan

Pertama-tama, saya ingin mengucapkan terima kasih kepada para relawan seperti Liraz Siri, Janine Leger, dan Balvi atas umpan balik dan tinjauan mereka terhadap artikel ini.

Sekitar setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan semangat saya terhadap teknologi secara keseluruhan dan manfaat besar yang ditawarkannya, sekaligus menyampaikan sikap hati-hati terhadap beberapa masalah tertentu, yang terutama berfokus pada kecerdasan buatan super, serta risiko kehancuran yang mungkin timbul jika dibangun dengan cara yang salah, atau risiko di mana manusia kehilangan kekuasaan secara tidak dapat dipulihkan.

Salah satu poin inti dari artikel tersebut adalah mengadvokasi suatu konsep: percepatan defensif yang terdesentralisasi, demokratis, dan berbeda. Kita perlu mempercepat perkembangan teknologi, sambil secara berbeda memfokuskan pada teknologi yang dapat meningkatkan kemampuan pertahanan kita, bukan yang dapat menyebabkan kerugian, serta berkomitmen untuk mendorong distribusi kekuasaan, bukan membiarkan kekuasaan terpusat di tangan segelintir elit yang mewakili semua orang untuk menentukan baik dan buruk. Model pertahanan seharusnya mirip dengan demokrasi Swiss, serta daerah Zomia yang hampir anarkis dalam sejarah, bukan model feodalisme abad pertengahan dengan tuan dan kastil.

Dalam satu tahun terakhir, ide dan pemikiran ini telah berkembang dan matang dengan pesat. Saya telah membagikan pemikiran ini di platform "80,000 Jam" dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritis.

Pekerjaan ini sendiri terus maju dan telah mencapai hasil yang nyata: di bidang vaksin sumber terbuka yang dapat diverifikasi, kami melihat kemajuan; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus meningkat; catatan komunitas terus memainkan peran positif; pasar prediksi sebagai alat informasi mengalami tahun yang sangat berbreakthrough; bukti nol pengetahuan diterapkan dalam identifikasi pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka diterapkan di bidang medis dan antarmuka otak-mesin, dan lain-lain.

Musim gugur tahun lalu, kami menyambut acara d/acc penting pertama: "Hari Penemuan d/acc"(d/aDDy). Acara ini diadakan di Devcon, mengumpulkan pembicara dari berbagai bidang pilar d/acc( seperti biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf), berlangsung selama sehari penuh. Selama bertahun-tahun, orang-orang yang berdedikasi pada teknologi ini semakin memahami pekerjaan satu sama lain, sementara orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat meluas ke dunia yang lebih luas.

Konsep dan Ekstensi d/acc

Bayangkan skenario di tahun 2042. Anda melihat berita di media yang menyatakan bahwa kota Anda mungkin akan mengalami wabah baru. Anda sudah terbiasa dengan jenis berita ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua wabah potensial sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil dihentikan pada tahap awal. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan bahwa probabilitas munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda khawatir.

Baru kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui pengujian pernapasan tunggal, atau setelah terpapar udara dalam ruangan selama 15 menit sebelum mendeteksi ). Sementara itu, instruksi dan kode open-source untuk menghasilkan vaksin dengan menggunakan perangkat yang dapat diakses di fasilitas medis modern mana pun di seluruh dunia, diperkirakan akan dirilis dalam beberapa minggu. Sebagian besar orang saat ini belum mengambil tindakan apa pun, mereka terutama bergantung pada langkah-langkah filtrasi udara dan ventilasi yang luas untuk melindungi keselamatan mereka.

Karena Anda memiliki masalah kekebalan, Anda harus bertindak lebih hati-hati: asisten pribadi AI lokal open source yang Anda gunakan, selain menangani tugas-tugas rutin seperti navigasi, rekomendasi restoran, dan acara, juga akan mempertimbangkan data uji udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman bagi Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan memanfaatkan bukti nol pengetahuan dan teknologi privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda ingin menyumbangkan data untuk kumpulan data ini, ada asisten pribadi AI lain yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).

Dua bulan kemudian, pandemi secara ajaib menghilang: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara berbunyi dan menunjukkan adanya virus, serta isolasi di rumah jika hasil tes individu positif. Langkah ini cukup untuk lebih menurunkan tingkat penularan yang sudah banyak berkurang akibat penyaringan udara yang kuat secara pasif menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menyebabkan dampak serius.

Acara d/acc yang diselenggarakan oleh Devcon mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil mengumpulkan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.

Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi untuk membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar menjalin hubungan yang erat itu sangat sulit. Saya masih ingat pengalaman saya dipaksa menonton opera yang panjang di SMP dan SMA, di mana saya pribadi merasa opera-opera tersebut membosankan. Saya sangat menyadari bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak mampu merasakan hubungan yang lebih dalam dengan isi opera tersebut. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar menyukai untuk memahami berbagai pekerjaan dari berbagai bidang.

Jika kita ingin membangun masa depan yang lebih cerah daripada dominasi, perlambatan, dan penghancuran, maka kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai kemajuan yang signifikan dalam hal ini, dan hanya itu saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.

Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan akselerasi defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan untuk condong ke arah pertahanan, dan dalam proses implementasinya tidak bergantung pada memberikan lebih banyak kekuatan kepada otoritas pusat. Ada hubungan erat yang inheren antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis atau bebas, cenderung berkembang pesat ketika pertahanan mudah dilaksanakan, dan menghadapi tantangan berat ketika pertahanan mengalami kesulitan yang signifikan — dalam situasi tersebut, hasil yang lebih mungkin terjadi adalah periode kekacauan di mana semua orang saling berhadapan, yang pada akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.

Salah satu cara untuk memahami pentingnya mencoba mencapai desentralisasi, defensif, dan akselerasi secara bersamaan adalah dengan membandingkannya dengan ide yang dihasilkan dari melepaskan salah satu dari ketiga aspek tersebut.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"

Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara menguntungkan menggambarkan fokus mereka sebagai "serangan". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan desentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.

Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu yang menerapkan kekuasaan tirani atas umat manusia secara global, tetapi ini tidak menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung agresi, selalu ada risiko bencana yang berkelanjutan, atau seseorang akan memposisikan dirinya sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal kecerdasan buatan, ini juga tidak dapat dengan baik mengatasi risiko kekuasaan manusia yang melemah relatif terhadap kecerdasan buatan.

Percepatan pertahanan yang terbedakan, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca tentu sudah akrab dengan banyak contoh seperti itu, serta kerugian yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan beberapa negara sebagai alternatif penjara... video dan audio terenkripsi terus diunggah dan ditafsirkan secara real-time oleh mesin". Namun, ada masalah derajat dengan kontrol terpusat. Bentuk kontrol terpusat yang relatif ringan namun masih merugikan, yang biasanya diabaikan, tercermin dalam bidang bioteknologi ( misalnya penolakan publik terhadap makanan, vaksin ) dan membiarkan tindakan penolakan ini tidak ditantang oleh norma-norma tertutup.

Risiko dari cara ini jelas terlihat, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi Covid-19, di mana penelitian yang didanai oleh beberapa pemerintah dunia utama mungkin merupakan sumber dari pandemi tersebut, dan epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia menolak untuk mengakui bahwa virus Covid-19 ditularkan melalui udara selama bertahun-tahun, sementara jarak sosial yang diwajibkan dan mandat vaksin memicu kemungkinan reaksi politik yang berlangsung puluhan tahun. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, cara desentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Pada dasarnya, ini mencoba memperlambat kemajuan teknologi atau mendorong penurunan ekonomi.

Strategi ini menghadapi dua tantangan. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi manusia, dan setiap penundaan akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi hingga batas tertentu dalam beberapa situasi tertentu: misalnya, makanan di Eropa lebih sehat daripada makanan di Amerika, ini adalah salah satu contohnya; kesuksesan non-proliferasi hingga saat ini juga demikian. Namun, strategi ini tidak dapat selalu berhasil.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Mempertahankan prinsip di tengah tren tribalitas yang semakin meningkat di dunia saat ini, bukan sekadar membangun berbagai hal secara membabi buta — sebaliknya, kami berharap untuk membangun hal-hal tertentu, sehingga dunia menjadi lebih aman dan lebih baik.
• Menyadari bahwa kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
• Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan yang baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk menghancurkan.

Satu perspektif lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir tahun 2000-an: pemberdayaan.

Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga sipil biasa, pemerintah, atau robot super pintar ) terhadap kemampuan kami untuk membentuk nasib kami sendiri, sambil mencapai kebebasan positif, yaitu memastikan bahwa kami memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan sebuah kesinambungan yang telah berlangsung selama beberapa generasi.