d/acc:Огляд через рік

Автор: засновник Ethereum Віталік Бутерін

Передмова

По-перше, я хочу подякувати волонтерам, таким як Ліраз Сірі, Жанін Лежер і Балві, за їхні відгуки та рецензії на цю статтю.

Приблизно рік тому я написав статтю про технічний оптимізм, в якій виклав своє загальне захоплення технологіями та їх величезними перевагами, одночасно висловлюючи обережне ставлення до певних конкретних питань, які в основному зосереджені на надінтелектуальному штучному інтелекті і ризиках, які можуть виникнути в разі неправильного його створення, або ризиках, що призводять до незворотної втрати влади людиною.

Однією з основних ідей цієї статті є пропаганда концепції: децентралізованого, демократичного та диференційованого оборонного прискорення. Слід не лише прискорювати розвиток технологій, але й зосереджувати увагу на тих, які можуть підвищити нашу обороноздатність, а не завдати шкоди, а також прагнути до розподілу влади, а не до її концентрації в руках небагатьох еліт, які представляють всіх у визначенні добра і зла. Модель оборони повинна бути схожа на демократичну Швейцарію та історичний приклад майже анархічного регіону Зомія, а не на модель феодалізму середньовіччя з лордами та замками.

За останній рік ці ідеї та думки значно розвинулися та дозріли. Я поділився цими думками на платформі "80,000 годин", отримав багато відгуків, більшість з яких позитивні, хоча були й деякі критичні голоси.

Ця робота також продовжує просуватися і досягати реальних результатів: у сфері перевіряємої відкритої вакцини ми спостерігаємо прогрес; усвідомлення цінності здорового повітря в приміщеннях постійно зростає; громадські записки продовжують відігравати позитивну роль; прогностичні ринки стали проривом року як інформаційний інструмент; нульові знання знайшли застосування в ідентифікації особи урядом і соціальних мережах ( і забезпечили безпеку гаманців Ethereum через абстракцію облікового запису ); інструменти з відкритим кодом були застосовані в медицині та в галузі мозкових інтерфейсів, тощо.

Минулої осені ми відзначили нашу першу важливу подію d/acc: "день відкриття d/acc"(d/aDDy), яка проходила на Devcon, зібравши доповідачів з різних стовпів d/acc( біології, фізики, мереж, інформаційної безпеки та нейротехнологій), і тривала цілий день. Люди, які протягом багатьох років працюють над цими технологіями, дедалі більше дізнаються про роботу одне одного, а зовнішні спостерігачі також все більше усвідомлюють цю більш грандіозну мету: просування однакових цінностей розвитку Ethereum і криптовалют, які можуть бути розширені на більш широкий світ.

Значення та межі d/acc

Уявіть собі сцену 2042 року. Ви бачите в засобах масової інформації повідомлення про те, що у вашому місті може спалахнути нова епідемія. Щодо таких новин ви вже звикли: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, і в більшості випадків ці мутації врешті-решт не викликають фактичної кризи. Попередні два потенційні спалахи епідемій були виявлені на ранній стадії за допомогою моніторингу стічних вод та аналізу відкритих даних у соціальних мережах, і були успішно зупинені на зародковій стадії. Однак, ця ситуація відрізняється, ринкові прогнози вказують на ймовірність того, що буде принаймні 10,000 випадків, на рівні 60%, що викликає у вас тривогу.

Вчора було підтверджено генетичну послідовність вірусу. Випущено оновлення програмного забезпечення для вашого портативного повітряного тестера, завдяки якому тестер може виявляти новий вірус ( як за допомогою одного дихання, так і при впливі на повітря в кімнаті протягом 15 хвилин після тестування ). Водночас, очікується, що відкриті інструкції та код для створення вакцини за допомогою обладнання, доступного в будь-якому сучасному медичному закладі у світі, будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, покладаючись переважно на широко використовувані методи фільтрації повітря та вентиляції для забезпечення власної безпеки.

Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний асистент штучного інтелекту, окрім виконання звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також буде комплексно враховувати дані про тестування повітря в режимі реального часу та дані про вуглекислий газ, щоб рекомендувати лише найбезпечніші місця. Ці дані надаються тисячами учасників і пристроїв, і завдяки технологіям нульових знань і диференційної конфіденційності ризик витоку даних або їх неналежного використання зведено до мінімуму ( Якщо ви хочете внести дані до цих наборів даних, інші асистенти штучного інтелекту також перевірять, чи дійсно ці криптографічні інструменти є ефективними ).

Через два місяці епідемія дивовижним чином зникла: здається, 60% людей дотримувалися основних протиепідемічних заходів, а саме носили маски, коли повітряні тестери сповіщали про наявність вірусу, а у разі позитивного результату тесту залишалися вдома на самоізоляції. Саме цей захід дозволив знизити рівень поширення, що вже значно зменшився завдяки пасивній потужній фільтрації повітря, до нижче 1. Симуляційні дані показують, що хвороба, яка могла б бути в п'ять разів серйознішою, ніж COVID-19 двадцятирічної давності, сьогодні не завдала серйозної шкоди.

Подія d/acc, організована Devcon, досягла надзвичайно позитивного результату, а саме, що концепція d/acc успішно об'єднала людей з різних областей і дійсно викликала в них жвавий інтерес до роботи один одного.

Організувати захід з "різноманітністю" не є складним завданням, але справжнє встановлення тісних зв'язків між людьми з різним досвідом та інтересами є набагато складнішим. Я досі пам'ятаю, як у середній та старшій школі мене змушували дивитися довгі опери, і в той час я вважав їх нудними і безбарвними. Я добре усвідомлював, що "мав би" їх цінувати, адже інакше мене б вважали безкультурним комп'ютерним науковцем-ледарем, але мені не вдалося глибше зрозуміти зміст опер. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що людям дійсно цікаво дізнаватися про різні сфери роботи.

Якщо ми прагнемо побудувати майбутнє, яке буде яскравішим за панування, уповільнення та знищення, нам обов'язково потрібно розпочати таку широку побудову альянсів. d/acc, здається, досяг значних успіхів у цьому напрямку, і цього самого факту достатньо, щоб підкреслити цінність цієї концепції.

Основна ідея d/acc проста і зрозуміла: децентралізована, демократична та диференційована оборонна прискорювальна система. Створення технологій, які можуть сприяти зміщенню балансу сил на користь оборони, не покладаючись при цьому на передачу більшої влади центральним органам влади. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура зазвичай може процвітати, коли оборона легко реалізується, тоді як стикається з серйозними викликами, коли оборона є складною - в таких випадках більш імовірним результатом є період хаосу, в якому всі протистоять один одному, врешті-решт досягаючи стану балансу, що підпорядковується найсильнішому.

Розуміння важливості спроби одночасно реалізувати децентралізацію, захист і прискорення можна досягти, порівнявши це з концепцією, що виникає внаслідок відмови від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

По суті, це подібно до того, щоб стати ефективним акселераціоністом(e/acc), але одночасно прагнути до децентралізації. Багато людей обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, хто проявляє більш помірний інтерес до "децентралізованого штучного інтелекту" та подібних тем, але, на мій погляд, їхня увага до аспектів "захисту" явно недостатня.

На мою думку, цей підхід, можливо, зможе уникнути ризику диктатури певних груп над усім людством, але він не вирішує потенційні структурні проблеми: у середовищі, яке сприяє атакам, завжди існує постійний ризик катастрофи, або ж хтось може позиціонувати себе як захисник і назавжди зайняти панівну позицію. Щодо штучного інтелекту, то він також не може належним чином вирішити ризик ослаблення влади людства в порівнянні зі штучним інтелектом.

Диференційована оборона прискорена, але ігнорує "децентралізацію та демократію"

Щоб досягти цілей безпеки, приймати централізований контроль, це завжди має певну привабливість для частини людей; читачі, безсумнівно, вже знайомі з багатьма такими випадками та їх недоліками. Нещодавно деякі люди висловили стурбованість, що екстремальний централізований контроль може бути єдиним способом впоратися з майбутніми екстремальними технологіями: наприклад, уявіть собі гіпотетичний сценарій, "кожен носить 'вільну мітку' — це наступний продукт сучасних більш обмежених носимих моніторингових пристроїв, подібних до браслетів на щиколотку, що використовуються в кількох країнах як альтернатива в'язниці... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має проблему рівня. Один з форм централізованого контролю, який зазвичай ігнорується, але все ж таки є шкідливим — це відносно помірна форма, що виявляється в біотехнологічній сфері (, наприклад, опір громадського контролю щодо продуктів харчування, вакцин ) та дозволяє таким актам опору залишатися без виклику закритим нормам.

Цей спосіб ризику є очевидним, а саме те, що центр сам по собі часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, що фінансувалися кількома основними світовими урядами, могли стати причиною пандемії; централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я протягом багатьох років відмовлялася визнати, що коронавірус передається повітрям, а обов'язкова соціальна дистанція та примусові вакцинації викликали можливу політичну реакцію, що може тривати десятиліттями. Подібна ситуація, ймовірно, знову виникне в будь-якому ризиковому контексті, пов'язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід буде ефективніше справлятися з ризиками, що походять від самого центру.

Децентралізована оборона, але відторгнення прискорення

По суті, це спроба уповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійними викликами. По-перше, в цілому, технологічний та економічний ріст є вкрай вигідними для людства, будь-яка затримка в цьому призводитиме до важко оцінюваних витрат. По-друге, у неавторитарному світі стагнація є нестабільною: ті, хто "обманює" найбільше, зможуть знайти здавалося б розумні способи продовжувати розвиток. Стратегія сповільнення може в певних конкретних ситуаціях спрацювати певною мірою: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також підтверджують це. Проте ці стратегії не можуть працювати вічно.

Через d/acc ми прагнемо досягти наступних цілей:

• Дотримуючись принципів у світі, що дедалі більше стає племінним, а не просто сліпо будуючи різні речі — навпаки, ми сподіваємось створити конкретні речі, щоб зробити світ більш безпечним і кращим.
• Визнання експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "відбиток" людства у Всесвіті обов'язково буде постійно зростати. Наша здатність захищати вразливі види тварин, рослин і людей від шкоди повинна постійно вдосконалюватися, і єдиний шлях вперед — це рухатися вперед.
• Створення технологій, які дійсно захищають нас, а не ґрунтуються на припущенні, що "хороші люди ( або добрий штучний інтелект ) контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними для побудови та захисту, ніж для знищення.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення владою.

Наша мета полягає в створенні світу, який зможе зберегти людську активність, реалізувати негативну свободу, тобто уникнути активного втручання інших (, будь то звичайні громадяни, уряди чи суперінтелектуальні роботи ) у нашу здатність формувати власну долю, одночасно забезпечуючи позитивну свободу, тобто гарантувати, що ми маємо знання та ресурси для здійснення цієї здатності. Це відгукується на тривалість кількох поколінь.