작성자: 0xResearcher
Manus는 GAIA 벤치마크에서 SOTA(State-of-the-Art) 결과를 달성하여, 그 성능이 동일 수준의 Open AI의 대규모 모델을 능가한다는 것을 보여주었습니다. 즉, 계약 조건 분석, 전략 예측, 솔루션 생성, 심지어 법률 및 재무 팀과의 조정까지 포함하는 국가 간 비즈니스 협상과 같은 복잡한 업무를 독립적으로 완료할 수 있습니다. 기존 시스템과 비교했을 때, 마누스의 장점은 동적 타겟 분해 기능, 교차 모달 추론 기능, 기억을 강화한 학습 기능입니다. 대규모 작업을 수백 개의 실행 가능한 하위 작업으로 나누고, 여러 유형의 데이터를 동시에 처리하고, 강화 학습을 사용하여 의사 결정 효율성을 지속적으로 개선하고 오류율을 줄일 수 있습니다.
마누스는 과학과 기술의 급속한 발전에 감탄하면서도 AI의 진화 경로에 대한 업계 내부의 의견 불일치를 다시 한번 불러일으켰습니다. 미래에는 AGI가 세상을 지배할 것인가, 아니면 MAS가 협력적으로 지배할 것인가?
이는 두 가지 가능성을 암시하는 Manus의 디자인 컨셉에서 시작됩니다.
하나는 AGI 경로입니다. 각 개인의 지능 수준을 끊임없이 향상시킴으로써 인간의 종합적인 의사결정 능력에 가까워질 수 있습니다.
MAS 경로도 있습니다. 슈퍼 코디네이터로서 수천 명의 현장 요원이 함께 일하도록 지휘합니다.
표면적으로는 우리는 서로 다른 방향의 차이점을 논의하고 있지만, 실제로는 AI 개발의 근본적인 모순, 즉 효율성과 보안의 균형을 어떻게 맞춰야 하는가에 대해 논의하고 있습니다. 단일 지능이 AGI에 가까울수록 블랙박스 의사결정의 위험이 커집니다. 다중 에이전트 협업은 위험을 분산할 수 있지만, 커뮤니케이션 지연으로 인해 중요한 의사결정 기간을 놓칠 수 있습니다.
마누스의 진화는 AI 개발에 내재된 위험을 눈에 보이지 않게 확대시켰습니다. 예를 들어, 데이터 개인정보 보호 블랙홀이 있습니다. 의료 상황에서 Manus는 환자 유전체 데이터에 실시간으로 액세스해야 합니다. 재정 협상 중에 회사의 비공개 재무 보고서 정보를 건드릴 수도 있습니다. 예를 들어, 알고리즘 편향 함정에서 Manus는 채용 협상에서 특정 인종의 지원자에게 평균 이하의 급여를 권고합니다. 법적 계약서를 검토할 때 새로운 업계 조건에 대한 잘못된 판단률은 거의 절반입니다. 또 다른 예는 안티 공격 취약성입니다. 해커는 특정 음성 주파수를 이식하여 Manus가 협상 중에 상대방의 견적 범위를 잘못 판단하게 했습니다.
우리는 AI 시스템에 대한 엄청난 고통에 직면해 있습니다. 즉, 시스템이 더 똑똑해질수록 공격 표면이 더 넓어진다는 것입니다.
하지만 보안은 web3에서 반복적으로 언급된 단어입니다. Vitalik의 불가능한 삼각형(블록체인 네트워크는 보안, 분산화, 확장성을 동시에 달성할 수 없음)의 틀에서 다양한 암호화 방법이 도출되었습니다.
- Zero Trust 보안 모델: Zero Trust 보안 모델의 핵심 개념은 "아무도 믿지 말고, 항상 확인하세요"입니다. 즉, 장치가 내부 네트워크에 있든 없든 기본적으로 신뢰해서는 안 된다는 것입니다. 이 모델은 시스템 보안을 보장하기 위해 각 액세스 요청에 대한 엄격한 인증 및 승인을 강조합니다.
- 분산형 신원(DID): DID는 중앙 집중식 레지스트리가 필요 없이 검증 가능하고 지속적인 방식으로 개체를 식별할 수 있도록 하는 식별자 표준 세트입니다. 이를 통해 자주 주권형 신원과 비교되는 새로운 분산형 디지털 신원 모델이 가능해지며, 이는 Web3의 중요한 구성 요소입니다.
- 완전 동형 암호화(FHE) 는 데이터를 해독하지 않고도 암호화된 데이터에 대한 임의의 계산을 수행할 수 있는 고급 암호화 기술입니다. 즉, 제3자가 암호문에 대한 연산을 수행하여 복호화 후에 평문에 대한 동일 연산의 결과와 일치하는 결과를 얻을 수 있다는 의미입니다. 이 기능은 클라우드 컴퓨팅, 데이터 아웃소싱과 같이 원본 데이터를 노출하지 않고 컴퓨팅해야 하는 시나리오에서 매우 중요합니다.
일부 프로젝트는 여러 강세장에서 제로 트러스트 보안 모델과 DID를 다루었습니다. 일부는 성공을 거두었지만 다른 일부는 암호화 물결에 빠져들었습니다. 가장 젊은 암호화 방식인 완전 동형 암호화(FHE)는 AI 시대의 보안 문제를 해결하는 강력한 무기이기도 합니다. 완전 동형 암호화(FHE)는 암호화된 데이터에 대한 계산을 수행할 수 있는 기술입니다.
어떻게 해결하나요?
첫째, 데이터 수준입니다. 사용자가 입력한 모든 정보(생체 인식, 음성 억양 포함)는 암호화된 상태로 처리되며, 마누스 자체도 원본 데이터를 해독할 수 없습니다. 예를 들어, 의료 진단 사례에서 환자의 유전체 데이터는 생물학적 정보 유출을 방지하기 위해 전체 과정 동안 암호화된 형태로 분석됩니다.
알고리즘 수준. FHE가 달성한 '암호화된 모델 학습'을 통해 개발자조차도 AI의 의사결정 경로를 엿볼 수 없습니다.
협력적인 수준에서. 여러 에이전트가 임계값 암호화를 사용하여 통신하므로 단일 노드가 손상되어도 글로벌 데이터 유출이 발생하지 않습니다. 공급망 공격 및 방어 훈련에서도 공격자는 여러 에이전트에 침투한 후에는 전체적인 비즈니스 관점을 얻을 수 없습니다.
기술적 한계로 인해 web3 보안은 대부분 사용자와 직접적으로 관련이 없을 수 있지만 간접적인 이해관계와 떼려야 뗄 수 없는 관계입니다. 이 어두운 숲에서 최선을 다해 무장하지 않으면 "leek"의 정체성에서 결코 벗어날 수 없습니다.
- uPort는 2017년 이더리움 메인넷에서 출시되었으며, 아마도 메인넷에서 출시된 최초의 분산형 신원(DID) 프로젝트일 것입니다.
- 제로 트러스트 보안 모델 측면에서 NKN은 2019년에 메인넷을 출시했습니다.
- 마인드 네트워크는 메인넷에 출시된 최초의 FHE 프로젝트이며, ZAMA, Google, DeepSeek 등과의 협력을 주도하고 있습니다.
uPort와 NKN은 제가 들어본 적이 없는 프로젝트입니다. 보안 프로젝트는 투기꾼들에게는 전혀 주목받지 못하는 듯합니다. Mind 네트워크가 이 저주에서 벗어나 보안 분야의 선두 주자가 될 수 있을지 기다려 보겠습니다.
미래가 여기 있습니다. AI가 인간의 지능에 가까워질수록 비인간적인 방어수단이 더욱 필요해질 것입니다. FHE의 가치는 현재의 문제를 해결하는 데에만 있는 것이 아니라, 강력한 AI 시대를 위한 길을 만드는 데에도 있습니다. AGI로 가는 이 험난한 길에서 FHE는 선택 사항이 아니라 생존에 필요한 것입니다.
