Mercury 3가 중요한 이유는 텍스트 생성에 익숙한 순수한 왼쪽에서 오른쪽 방식이 아니라 디퓨전 언어 모델링이라는 다른 접근 방식을 제시하기 때문입니다. Inception은 높은 처리량과 낮은 지연 시간을 강조합니다. 개인용 에이전트에서 중요한 것은 이 속도가 정확하고 바로 사용할 수 있는 결과를 얻는 시간을 줄여주는지 여부입니다.
빠른 추론은 모델을 여러 번 호출하는 워크플로에 도움이 될 수 있지만, 느린 파일 검색, 브라우저 작업, 사람의 검토까지 없애지는 못합니다. 선택한 저장소에 원본 문서를 보관하고, 작업에 필요한 입력만 제출하세요. 헤드라인에 나온 토큰 속도를 기준으로 NAS 기반 워크플로를 재설계하기 전에 전체 작업을 측정하세요.
디퓨전 언어 모델은 어떻게 다를까요?
일반적으로 자기회귀 모델은 이전에 생성된 내용을 바탕으로 다음 토큰을 하나씩 순차적으로 생성합니다. 디퓨전 방식은 출력의 표현을 반복적으로 개선하며 다른 생성 패턴을 활용할 수 있습니다. 실제 API 및 스트리밍 동작은 배포된 서비스에 따라 달라집니다.
저희의 디퓨전과 자기회귀 모델 비교에서는 이러한 실질적인 영향을 중점적으로 다룹니다. 아키텍처만으로 더 나은 답변이나 동일한 클라이언트 동작이 보장되는 것은 아닙니다.
Mercury 3는 무엇을 개선하도록 설계되었나요?
Inception은 Mercury 3를 빠른 텍스트 생성 및 에이전트 워크로드에 적합한 모델로 소개합니다. 보고된 속도 결과는 공급업체가 측정한 조건에서 나온 것입니다. 프롬프트 길이, 출력 크기, 추론 강도 설정, 네트워크 위치, 동시 실행 수, 도구 사용 여부에 따라 사용자가 체감하는 성능은 달라질 수 있습니다.
지원되는 기능은 현재 모델 문서를 확인하세요. 모델이 빠르다고 설명되어 있다고 해서 사용 중인 특정 통합 기능에서 모든 도구나 구조화된 출력 옵션을 지원한다는 뜻은 아닙니다.
AI 워크플로에서 속도가 어디에 도움이 될까요?
| 워크플로 단계 | 생성 속도 향상의 효과 |
|---|---|
| 짧은 대화형 답변 | 서비스 오버헤드가 적다면 사용자가 체감하는 대기 시간을 줄일 수 있습니다 |
| 반복되는 추론 호출 | 반복 과정 전반에 걸쳐 절감 효과가 누적될 수 있습니다 |
| 대용량 파일 다운로드 | 다운로드 자체에는 영향이 거의 없습니다 |
| 브라우저 조작 | 도구 및 페이지 지연 시간이 더 큰 영향을 미칠 수 있습니다 |
| 최종 검토 | 결과를 사용할 수 있는지는 여전히 정확성에 달려 있습니다 |
수용된 결과의 효율성 가이드가 여기에 적용됩니다. 빠르지만 틀린 답변은 약간 느리더라도 유용한 답변보다 더 많은 일을 초래할 수 있습니다.
모델 아키텍처가 NAS 데이터 제어에 영향을 주나요?
아니요. 원격 Mercury 요청도 선택한 입력을 제공업체로 전송합니다. 검색 범위를 좁게 설정하고, 프롬프트에 포함되는 내용을 검토하며, 쓰기 가능한 출력 디렉터리를 원본 아카이브와 분리하세요. 파일이 NAS에 그대로 있어도 로그에 원본 콘텐츠가 포함될 수 있습니다.
전체 데이터 흐름을 파악하려면 NAS 문서 데이터 제어 가이드를 참조하세요. 확산 방식과 자기회귀 생성 방식 모두 개인정보 보호 정책을 대신하지는 않습니다.
무엇부터 시도해 보면 좋을까요?
최종 결과물이 명확한 간단한 텍스트 작업이나 도구 작업을 선택하세요. 처음으로 콘텐츠가 표시될 때까지의 시간, 응답이 완료될 때까지의 시간, 결과물이 검토를 통과할 때까지의 시간을 기록하세요. 도구 동작이 필요한 경우, 관련 없는 텍스트 전용 프롬프트의 시간을 재는 대신 해당 동작을 명시적으로 확인하세요.
Mercury 지연 시간 측정 가이드를 따르세요. ZimaCube 2에 입력과 결과를 보관하면서 클라이언트가 원격 서비스를 사용할 수 있지만, 이것이 Mercury의 로컬 배포가 지원된다는 뜻은 아닙니다.
자주 묻는 질문
Mercury 3는 로컬에 설치하는 NAS 앱인가요?
언급된 제품은 모델 서비스입니다. 발표 내용만으로 로컬에서 가중치를 사용할 수 있다거나 바로 설치할 수 있는 NAS 패키지가 있다고 추정하지 마세요.
토큰 처리량이 높으면 모든 작업이 더 빨리 끝나나요?
아니요. 네트워크 시간, 입력 처리, 도구 호출, 재시도, 검토가 전체 완료 시간의 대부분을 차지할 수 있습니다.
확산 모델을 에이전트 도구와 함께 사용할 수 있나요?
실제 모델과 API에 문서화된 기능을 사용하세요. 아키텍처만으로 특정 도구 인터페이스의 지원 여부를 알 수는 없습니다.
가장 유용한 속도 지표는 무엇인가요?
정확도와 함께, 이를 설명하는 데 필요한 중간 시간 측정값을 기록하며, 작업 결과가 승인될 때까지 걸리는 시간.
관련 글
출처
표지: Mercury 3 공식 발표 이미지. 이미지 출처.
기술 및 AI 허브
더 읽어보기

LFM2.5-24B-A2B 설명: 로컬 AI 에이전트에서 전체 파라미터와 활성 파라미터가 의미하는 것
LFM2.5-24B-A2B는 총 24B, 활성 파라미터 2B로 구성되어 있습니다. 메모리, 에이전트 도구, 로컬 실행과 NAS가 워크플로에 어떻게 활용되는지 알아보세요.

IBM Granite Speech 5.0 설명: 프라이빗 오디오 아카이브에 컴팩트 ASR이 의미하는 것
Granite Speech 5.0 TurboCTC는 다국어 기능이 추가된 경량 ASR 모델입니다. NAS 기반 오디오 아카이브에서 로컬 전사를 활용하는 방법을 알아보세요.

Claude Duet 설명: 선제적 작업, 연결된 앱, 개인 파일
Claude Duet은 능동형 에이전트 연구 프리뷰입니다. 백그라운드 작업, 연결된 계정, 검토 범위, NAS 기반 개인 파일에 대해 알아보세요.

