O desempenho do modelo Manus provoca reflexões sobre a Segurança da IA

Recentemente, o modelo Manus alcançou resultados inovadores nos testes de benchmark GAIA, demonstrando um desempenho excepcional que supera modelos de grande porte da mesma categoria. Este feito significa que o Manus pode lidar de forma independente com tarefas complexas, como negociações comerciais internacionais, envolvendo análise de cláusulas contratuais, formulação de estratégias e geração de propostas em várias etapas. As vantagens do Manus estão principalmente na decomposição dinâmica de objetivos, raciocínio multimodal e aprendizado aprimorado pela memória. Ele consegue dividir tarefas gigantes em centenas de subtarefas executáveis, enquanto processa vários tipos de dados e, através do aprendizado reforçado, melhora continuamente a eficiência das decisões e reduz a taxa de erros.

O avanço do Manus suscitou novamente discussões na indústria sobre o caminho de desenvolvimento da IA: o futuro será dominado pela inteligência artificial geral (AGI) ou por sistemas multiagente (MAS) que colaboram? Este debate reflete, na verdade, a questão central de como equilibrar eficiência e segurança no desenvolvimento da IA. À medida que a inteligência individual se aproxima da AGI, o risco de falta de transparência em seu processo de decisão também aumenta; enquanto a colaboração entre múltiplos agentes pode dispersar riscos, pode também perder momentos críticos de decisão devido a atrasos na comunicação.

O desenvolvimento do Manus amplifica, de forma invisível, os riscos inerentes à IA. Por exemplo, em cenários médicos, o Manus precisa de acesso em tempo real a dados sensíveis dos pacientes; em negociações financeiras, podem estar envolvidos informações não divulgadas das empresas. Além disso, o problema do viés algorítmico não pode ser ignorado, como na contratação, onde pode haver sugestões salariais mais baixas para determinados grupos, ou na revisão de contratos legais, onde a taxa de erro pode ser alta para cláusulas de indústrias emergentes. Mais grave ainda, os sistemas de IA podem enfrentar ataques adversariais, como hackers interferindo no julgamento de negociações do Manus através de frequências de áudio específicas.

Esses desafios destacam um fato preocupante: quanto mais inteligente o sistema de IA, maior a sua superfície de ataque potencial.

No domínio do Web3, a segurança tem sido um tema de grande atenção. A teoria do "triângulo impossível" proposta por Vitalik Buterin, fundador do Ethereum (as redes de blockchain têm dificuldade em alcançar simultaneamente segurança, descentralização e escalabilidade), inspirou o desenvolvimento de várias tecnologias criptográficas:

1. Modelo de segurança de zero confiança: enfatiza a verificação rigorosa de cada solicitação de acesso, não confiando automaticamente em nenhum dispositivo ou usuário.

2. Identidade Descentralizada (DID): permite que entidades obtenham uma identificação verificável sem registro centralizado.

3. Criptografia totalmente homomórfica (FHE): permite realizar cálculos diretamente em dados criptografados, sem a necessidade de descriptografar os dados originais.

Entre eles, a criptografia totalmente homomórfica, como uma tecnologia emergente, tem o potencial de se tornar uma ferramenta chave para resolver problemas de segurança na era da IA. A FHE permite realizar cálculos complexos enquanto protege a privacidade dos dados, o que é especialmente importante em cenários que exigem análise sem expor os dados originais.

Na resposta aos desafios de Segurança da IA, o FHE pode desempenhar um papel a partir dos seguintes níveis:

1. Camada de dados: Todas as informações inseridas pelos usuários (incluindo características biométricas, voz, etc.) são processadas em estado encriptado, mesmo o próprio sistema de IA não pode decriptar os dados originais.

2. Nível de algoritmo: através da FHE implementar "treinamento de modelos criptografados", garantindo que mesmo os desenvolvedores não consigam observar diretamente o processo de decisão da IA.

3. Nível de colaboração: A comunicação entre vários agentes de IA utiliza criptografia de limiar, de modo que mesmo que um único nó seja comprometido, não resultará na divulgação global de dados.

Embora a tecnologia de segurança Web3 possa parecer abstrata para os usuários comuns, seu impacto é profundo. Neste ambiente cheio de desafios, é crucial melhorar continuamente a capacidade de proteção de segurança.

Historicamente, alguns projetos tentaram fazer avanços na área de segurança Web3. Por exemplo, a uPort lançou uma solução de identidade descentralizada na rede principal Ethereum em 2017; a NKN lançou sua rede principal baseada em um modelo de confiança zero em 2019. No campo da FHE, a Mind Network foi o primeiro projeto a lançar uma rede principal e colaborou com instituições como a ZAMA, Google e DeepSeek.

Embora os primeiros projetos de segurança possam não ter recebido ampla atenção, com o rápido desenvolvimento da tecnologia de IA, a importância de tecnologias de segurança como a FHE se tornará cada vez mais evidente. Elas não só podem resolver os problemas de segurança atuais, mas também estabelecer uma base para a futura era da IA forte. No caminho para a AGI, tecnologias de segurança como a FHE não são mais uma opção, mas sim uma garantia necessária para o funcionamento confiável dos sistemas de IA.