베이징, 2025년 2월 21일 /PRNewswire/ -- Inspur Information은 EPAI 엔터프라이즈 빅 모델 개발 플랫폼이 DeepSeek 빅 모델을 지원하도록 완벽하게 연결되었다고 발표했습니다. EPAI를 통해 기업 사용자는 비즈니스 데이터를 DeepSeek 대규모 모델과 결합하고, 모델의 잠재력을 심층적으로 개발하고, DeepSeek의 현지화된 배포를 신속하게 구현하고, 높은 정확도, 보안성 및 안정성을 갖춘 독점적인 지능형 애플리케이션을 구축할 수 있습니다. 실제 테스트 데이터에 따르면 DeepSeek이 EPAI에서 개발한 엔터프라이즈 애플리케이션의 답변 정확도는 95%에 도달합니다.
기업들은 DeepSeek를 구현하는 데 많은 어려움 에 직면합니다.
DeepSeek R1 671B 대형 모델은 뛰어난 성능과 폭넓은 적용 가능성으로 인해 폭넓은 주목을 받았습니다. 그러나 DeepSeek를 실제로 구현하는 데 있어 기업은 개인 지식의 불충분한 적응, 지식의 역동적인 변화, 대규모 모델 환각과 같은 많은 과제에 직면하며, 이는 특정 시나리오에서 DeepSeek를 적용하는 데 한계가 있습니다.
첫째, 기업의 적용 시나리오는 종종 매우 독특하고 전문적입니다. 특히 금융이나 의료와 같은 산업의 경우, 이러한 산업의 비즈니스 로직은 복잡하고 많은 전문 용어, 규정, 정책 및 내부 프로세스가 포함됩니다. 이러한 회사들은 사적 지식을 이해하고 적용할 수 있는 지능형 도구가 필요합니다. 그러나 DeepSeek의 대규모 모델의 훈련 데이터는 주로 일반 분야의 공개 정보에서 나오며 전문 분야에 대한 심층적 적응이 부족합니다. 이러한 고유한 지식 불일치로 인해 DeepSeek은 회사 내에서 전문적인 문제를 처리할 때 정확한 답변을 제공하기 어렵고 회사의 고정밀 답변 요구를 충족할 수 없습니다.
둘째, 기업의 내부 지식은 정적이지 않고 사업 개발과 기술적 반복을 통해 지속적으로 업데이트됩니다. 모델이 이러한 역동적인 변화에 적시에 학습하고 적응하지 못한다면 출력 결과의 정확도는 더욱 낮아질 것입니다. 특히 실시간 데이터 분석이나 신속한 의사 결정 지원이 필요한 응용 프로그램 시나리오에서 모델의 지연은 심각한 결과를 초래할 수 있습니다.
또한 대규모 모델이 콘텐츠를 생성할 때 불가피하게 '환각'이라는 문제에 부딪히게 됩니다. 즉, 사실과 일치하지 않거나 근거가 없는 정보를 생성하는 것입니다. 일반적인 상황에서는 이러한 현상이 미치는 영향이 제한적일 수 있지만, 법률이나 의학과 같이 정확도가 매우 높은 분야에서는 환각이 잠재적인 위험을 초래할 수 있습니다. 대규모 모델에서 환각 발생률을 효과적으로 줄이고 생성된 콘텐츠의 신뢰성과 정확성을 개선하는 방법은 업계의 공통된 관심사가 되었습니다.
따라서 DeepSeek의 실제 적용을 진정으로 실현하려면 기업 자체가 축적한 지식을 DeepSeek에 깊이 통합해야 하며, 모델 미세 조정, 신속한 엔지니어링, 지식 기반 등을 통해 모델 성능을 최적화해야 합니다. 이 프로세스는 기업의 기술적 역량에 매우 높은 요구를 합니다. 게다가 기업은 데이터 보안과 개인정보 보호라는 두 가지 압박에 직면합니다.
Metabrain EPAI+DeepSeek , 기업의 대규모 모델 애플리케이션 개발에 활력을 불어넣다
위와 같은 과제에 직면하여 Metabrain Enterprise Intelligence EPAI는 DeepSeek R1 671B와 완벽하게 호환되어 기업 사용자가 비즈니스 데이터를 DeepSeek와 긴밀하게 통합하고 매우 정확하고 안전하며 안정적인 기업용 지능형 애플리케이션을 빠르게 만들 수 있도록 지원합니다. EPAI는 Inspur Information의 대규모 모델 애플리케이션 구현을 위한 솔루션입니다. 기업 AI 대규모 모델 구현을 위한 효율적이고 사용하기 쉬우며 안전한 엔드투엔드 개발 플랫폼을 제공하여 기업이 생성적 AI 애플리케이션을 효율적으로 개발하고 배포하고 지능형 생산성을 창출할 수 있도록 지원합니다.
- 4가지 핵심 툴, DeepSeek 답변 정확도 대폭 향상
EPAI는 답변 정확도를 최적화하기 위해 모델 미세 조정부터 애플리케이션 개발까지 전체 링크 품질 개선 시스템을 구축했습니다. EPAI는 기업이 개인 비즈니스 데이터를 DeepSeek와 긴밀하게 통합하고, 도메인 미세 조정을 통해 고도로 전문적인 개인 모델을 형성하고, 지식 질의응답의 정확도를 근본적으로 향상시킬 수 있도록 지원합니다. DeepSeek의 "환각" 문제를 해결하기 위해 Metabrain Enterprise Intelligence(EPAI)는 지식 검색, 플러그인 관리, 즉각적인 단어 엔지니어링, 지능형 에이전트 오케스트레이션이라는 네 가지 핵심 도구를 통합했습니다. 지식 검색 모듈은 엔드투엔드 최적화된 RAG 파이프라인 아키텍처를 채택하고 중국어 텍스트 검색 기능을 강화하기 위해 특별히 설계된 내장형 모델(임베딩 모델) Yuan-EB를 갖추고 있습니다. 권위 있는 임베딩 모델 테스트 목록 C-MTEB에서 검색 작업 챔피언십에서 우승했으며 RAG 시스템의 검색 정확도를 효과적으로 개선할 수 있습니다. 선도적인 하이브리드 검색 및 결과 재순위 지정 기술과 결합되어 종단 간 검색 정확도가 90%를 넘습니다. 플러그인 모듈은 기업 지식 기반과 비즈니스 시스템에 대한 실시간 액세스를 지원하여 정보 수집의 정확성과 시기적절함을 보장합니다. 지능형 에이전트 오케스트레이션 모듈은 다중 모델 협업 작업 메커니즘을 구축하고, 의사 결정 체인 설계를 통해 단일 모델 편향의 위험을 줄일 수 있습니다. 실제 테스트 데이터에 따르면 DeepSeek이 EPAI에서 개발한 엔터프라이즈 애플리케이션의 답변 정확도는 95%에 도달합니다.
- 로우코드 + 시각화로 개발 효율성 대폭 향상
개발 효율성 측면에서 EPAI는 혁신적으로 "로우코드 + 시각화" 풀스택 개발 환경을 구축했습니다. vLLM 및 Transformer와 같은 주류 프레임워크를 통합하여 몇 분 내에 DeepSeek 전체 매개변수 모델 서비스를 시작할 수 있습니다. 모델 미세 조정 측면에서 Metabrain Enterprise Intelligence EPAI는 로코드를 통해 미세 조정 데이터 생성, 도메인 모델 미세 조정 및 평가의 완료를 지원합니다. 애플리케이션 개발을 위해 듀얼 모드 구축 시스템이 제공됩니다. 대화형 애플리케이션은 자연어를 통해 어시스턴트 매개변수 구성을 지원하고, 시각적 워크플로 편집기는 복잡한 비즈니스 로직의 드래그 앤 드롭 구축을 지원합니다. 둘 다 표준화된 API 인터페이스를 자동으로 생성할 수 있습니다. 특정 제조 기업의 사례에서는 Metabrain Enterprise Intelligence(EPAI)를 사용하여 품질 검사 지능형 애플리케이션을 개발함으로써 수요 대응 주기를 기존 코딩 개발 방식에서 3주에서 3일로 단축하고 개발 효율성을 5배 이상 높인 것으로 나타났습니다.
- 다중 계층 보호 메커니즘으로 DeepSeek의 안전성과 안정성을 보장합니다.
시스템 안정성을 보장하기 위해 EPAI는 지능적이고 탄력적인 아키텍처 설계를 채택합니다. 리소스 스케줄링 시스템은 QPS 변동을 실시간으로 모니터링하고 1초 이내에 컴퓨팅 리소스를 동적으로 확장하여 높은 동시성의 안정적인 처리를 달성할 수 있습니다. EPAI는 하드웨어 장애 발생 시에도 원활한 서비스 전환을 가능하게 하는 서비스 장애 허용 기능을 도입하여 연중 99.99%의 가용성을 보장합니다. 보안 시스템은 모델 입력 필터링, 출력 검토, 데이터 암호화 전송 및 기타 측면을 포함하는 다층 보호 메커니즘을 구축하여 생성된 콘텐츠의 보안 및 개인 정보 보호를 보장하여 기업이 DeepSeek을 안전하고 안정적으로 사용할 수 있도록 보장합니다.
Inspur Information은 IT 인프라 제품, 솔루션 및 서비스의 세계적 선도 기업입니다. 새로운 세대의 시스템 중심 컴퓨팅 아키텍처를 개발하여 개방적이고 다양하며 친환경적인 메타브레인 지능형 컴퓨팅 제품과 솔루션을 만듭니다. Inspur Information은 AI 컴퓨팅 플랫폼, 리소스 플랫폼, 알고리즘 플랫폼의 연구 개발 및 혁신에 전념하고 있으며, Metabrain 생태계를 통해 주요 파트너와 협력하여 인공지능의 혁신과 응용을 가속화하고 있습니다.
