PANews는 5월 7일, Tether AI 연구팀이 클라우드에 의존하지 않고 스마트폰이나 웨어러블 기기와 같은 저사양 기기에서도 로컬로 실행 가능한 의료 언어 모델인 QVAC MedPsy를 발표했다고 보도했습니다. 공식 발표에 따르면, 17억 개의 파라미터를 가진 이 모델은 7개의 비공개 의료 벤치마크 테스트에서 평균 62.62점을 기록했는데, 이는 Google MedGemma-1.5-4B-it보다 11.42점 높은 점수이며, HealthBench Hard와 같은 임상 시나리오에서는 MedGemma 27B보다도 우수한 성능을 보였습니다. 40억 개의 파라미터를 가진 버전은 동일한 테스트에서 70.54점을 기록하며, 약 7배 더 큰 규모의 경쟁 모델들을 능가하는 성능을 보였습니다. 또한, 생성되는 토큰의 평균 개수를 유사 시스템 대비 3분의 1에서 절반 수준으로 줄여 추론 비용과 지연 시간을 단축했습니다. 이 모델은 GGUF 양자화 버전을 제공하며, Q4_K_M(약 1.2GB, 1.7B) 및 2.6GB(4B) 버전은 병원 로컬 시스템 및 모바일 장치와 같이 개인 정보 보호 및 지연 시간에 민감한 시나리오에 배포하는 데 권장됩니다.