Kebangkitan Lapisan Kepercayaan AI: Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI

Baru-baru ini, jaringan publik Mira resmi diluncurkan, bertujuan untuk membangun lapisan kepercayaan yang dapat diandalkan untuk AI. Ini memicu pemikiran tentang masalah kepercayaan AI: mengapa AI perlu dipercaya? Bagaimana Mira akan menghadapi tantangan ini?

Saat ini, orang-orang sering terlalu fokus pada kemampuan kuat AI ketika membahasnya, dan mengabaikan masalah "ilusi" atau bias yang ada pada AI. Yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang "mengarang" dan memberikan penjelasan yang tampak masuk akal tetapi sebenarnya tidak memiliki dasar. Misalnya, jika seseorang bertanya mengapa bulan berwarna pink, AI mungkin dengan serius memberikan serangkaian penjelasan yang tampak masuk akal.

Kemunculan "ilusi" atau bias pada AI terkait dengan beberapa jalur teknologi AI saat ini. Misalnya, AI generatif mencapai koherensi dan rasionalitas dengan memprediksi konten yang "paling mungkin", tetapi metode ini kadang-kadang sulit untuk memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten yang fiktif, semua ini dapat mempengaruhi kualitas keluaran AI. Dengan kata lain, AI mempelajari pola bahasa manusia, bukan fakta itu sendiri.

Mekanisme generasi probabilitas saat ini dan model berbasis data hampir tidak terhindarkan dapat menyebabkan AI menghasilkan ilusi. Untuk pengetahuan umum atau konten hiburan, keluaran yang bias atau ilusi ini mungkin tidak langsung berdampak besar. Namun, jika terjadi di bidang yang memerlukan ketelitian tinggi seperti medis, hukum, penerbangan, dan keuangan, hal ini dapat menghasilkan konsekuensi serius. Oleh karena itu, menangani masalah ilusi dan bias AI menjadi salah satu tantangan inti dalam proses perkembangan AI.

Proyek Mira telah mengusulkan solusi untuk masalah ini. Ini mencoba mengurangi bias dan ilusi AI dengan membangun lapisan kepercayaan AI, serta meningkatkan keandalan AI. Ide inti Mira adalah untuk memverifikasi output AI melalui konsensus dari beberapa model AI.

Kunci jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Ini menggabungkan teknologi konsensus terdesentralisasi di bidang kripto dengan keunggulan kolaborasi multi-model, melalui mode verifikasi kolektif untuk mengurangi kejadian bias dan ilusi.

Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Operator node terlibat dalam memverifikasi pernyataan ini dan memastikan perilaku jujur melalui mekanisme insentif/punishment ekonomi kripto. Beberapa model AI dan operator node terdistribusi berpartisipasi bersama untuk menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira terdiri dari tiga bagian utama: konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem membagi konten kandidat yang diajukan oleh klien menjadi berbagai pernyataan yang dapat diverifikasi, dan mendistribusikannya ke node untuk diverifikasi. Setelah node menentukan validitas pernyataan, sistem merangkum hasilnya untuk mencapai konsensus, dan akhirnya mengembalikan hasil kepada klien. Untuk melindungi privasi klien, pernyataan akan didistribusikan ke berbagai node dengan cara pemecahan acak, untuk mencegah kebocoran informasi selama proses verifikasi.

Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengirimkan hasil verifikasi. Motivasi mereka untuk berpartisipasi dalam verifikasi berasal dari imbalan yang tersedia. Imbalan ini berasal dari nilai yang diciptakan untuk klien, yaitu mengurangi tingkat kesalahan AI di bidang medis, hukum, penerbangan, keuangan, dan lainnya. Untuk mencegah perilaku spekulatif dari respons acak node, node yang terus-menerus menyimpang dari konsensus akan mengalami pemotongan token yang dipertaruhkan.

Secara keseluruhan, Mira memberikan pendekatan baru untuk mewujudkan keandalan AI. Ini membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan beberapa model AI, memberikan keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan ilusi AI, untuk memenuhi kebutuhan akurasi dan presisi yang lebih tinggi. Pada saat yang sama, ini juga menciptakan peluang pendapatan bagi para peserta jaringan.

Jaringan publik Mira telah diluncurkan. Pengguna dapat berpartisipasi dalam pengujian dengan menggunakan Klok (aplikasi obrolan LLM berbasis Mira) untuk merasakan keluaran AI yang telah terverifikasi dan memiliki kesempatan untuk mendapatkan poin Mira. Inovasi ini diharapkan dapat mendorong perkembangan aplikasi AI yang lebih mendalam, membuka jalan untuk membangun sistem AI yang lebih andal dan lebih dapat dipercaya.