Sự trỗi dậy của tầng tin cậy AI: Mạng Mira giải quyết vấn đề thiên kiến và ảo giác của AI

Gần đây, mạng lưới Mira đã chính thức khởi động mạng thử nghiệm công cộng, nhằm xây dựng một lớp tin cậy đáng tin cho AI. Điều này đã dấy lên những suy nghĩ về vấn đề độ tin cậy của AI: Tại sao AI cần phải được tin tưởng? Mira sẽ đối phó với thách thức này như thế nào?

Hiện nay, khi mọi người thảo luận về AI, họ thường quá chú trọng vào khả năng mạnh mẽ của nó, mà bỏ qua vấn đề AI tồn tại "ảo giác" hoặc thành kiến. Cái gọi là "ảo giác" của AI, nói một cách đơn giản, là AI đôi khi sẽ "bịa đặt", đưa ra những giải thích có vẻ hợp lý nhưng thực tế lại không có căn cứ. Chẳng hạn, nếu ai đó hỏi tại sao mặt trăng lại có màu hồng, AI có thể rất nghiêm túc cung cấp một loạt các giải thích có vẻ hợp lý.

Sự xuất hiện "ảo giác" hoặc thiên lệch của AI liên quan đến một số con đường công nghệ AI hiện tại. Ví dụ, AI tạo sinh đạt được tính liên kết và hợp lý bằng cách dự đoán nội dung "có khả năng nhất", nhưng phương pháp này đôi khi khó xác minh tính xác thực. Hơn nữa, dữ liệu huấn luyện có thể chứa lỗi, thiên lệch thậm chí là nội dung hư cấu, điều này sẽ ảnh hưởng đến chất lượng đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người, chứ không phải sự thật bản thân.

Cơ chế sinh ra xác suất hiện tại và mô hình dựa trên dữ liệu gần như không tránh khỏi việc AI tạo ra ảo giác. Đối với nội dung kiến thức thông thường hoặc giải trí, đầu ra có thiên kiến hoặc ảo giác này có thể tạm thời không gây ra hậu quả trực tiếp. Tuy nhiên, nếu xảy ra trong các lĩnh vực yêu cầu tính chính xác cao như y tế, pháp lý, hàng không, tài chính, nó có thể gây ra hậu quả nghiêm trọng. Do đó, việc giải quyết vấn đề ảo giác và thiên kiến của AI đã trở thành một trong những thách thức cốt lõi trong quá trình phát triển AI.

Dự án Mira đã đưa ra giải pháp cho vấn đề này. Nó cố gắng giảm thiểu sự thiên lệch và ảo giác của AI bằng cách xây dựng một lớp tin cậy cho AI, nâng cao độ tin cậy của AI. Triết lý cốt lõi của Mira là xác thực đầu ra của AI thông qua sự đồng thuận của nhiều mô hình AI.

Chìa khóa của mạng Mira nằm ở việc xác minh đồng thuận phi tập trung. Nó kết hợp các công nghệ đồng thuận phi tập trung trong lĩnh vực tiền mã hóa và những lợi ích của sự phối hợp đa mô hình, thông qua mô hình xác minh tập thể để giảm thiểu sự thiên lệch và ảo giác.

Về cấu trúc xác minh, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố có thể xác minh độc lập. Các nhà điều hành nút tham gia xác minh các tuyên bố này và đảm bảo hành vi trung thực thông qua cơ chế khuyến khích/ trừng phạt kinh tế mã hóa. Nhiều mô hình AI và các nhà điều hành nút phân tán đồng tham gia để đảm bảo độ tin cậy của kết quả xác minh.

Kiến trúc mạng của Mira bao gồm ba phần chính: chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận. Đầu tiên, hệ thống phân tách nội dung ứng cử mà khách hàng gửi thành các tuyên bố có thể xác minh khác nhau và phân phối chúng cho các nút để xác thực. Sau khi các nút xác định tính hợp lệ của các tuyên bố, hệ thống tổng hợp kết quả để đạt được sự đồng thuận, và cuối cùng trả kết quả cho khách hàng. Để bảo vệ quyền riêng tư của khách hàng, các tuyên bố sẽ được phân phối cho các nút khác nhau theo cách phân đoạn ngẫu nhiên, ngăn chặn rò rỉ thông tin trong quá trình xác thực.

Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý tuyên bố và nộp kết quả xác thực. Động lực tham gia xác thực của họ đến từ lợi nhuận có sẵn. Những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng, tức là giảm tỷ lệ lỗi của AI trong các lĩnh vực như y tế, pháp lý, hàng không, tài chính. Để ngăn chặn hành vi đầu cơ của các nút phản hồi ngẫu nhiên, các nút liên tục lệch khỏi sự đồng thuận sẽ bị trừ token đặt cọc.

Tổng thể, Mira cung cấp một giải pháp mới để đạt được độ tin cậy cho AI. Nó xây dựng mạng xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu thiên lệch và ảo giác của AI, nhằm đáp ứng nhu cầu về độ chính xác và tỷ lệ chính xác cao hơn. Đồng thời, nó cũng tạo ra cơ hội thu nhập cho các người tham gia mạng.

Mạng thử nghiệm công khai của Mira đã được khởi động. Người dùng có thể tham gia thử nghiệm bằng cách sử dụng Klok (ứng dụng trò chuyện LLM dựa trên Mira) để trải nghiệm đầu ra AI đã được xác thực và có cơ hội kiếm điểm Mira. Sáng kiến này hứa hẹn sẽ thúc đẩy sự phát triển sâu sắc của ứng dụng AI, mở đường cho việc xây dựng các hệ thống AI đáng tin cậy và đáng tin cậy hơn.