Inception, 초당 1068토큰 생성하는 디퓨전 LLM Mercury 3 공개

왜 지금 이 주제인가

Inception Labs가 10월 19일 디퓨전 방식 대규모 언어모델(diffusion LLM) Mercury의 세 번째 버전인 Mercury 3를 공개했습니다. 이 회사는 토큰을 한 개씩 순서대로 만드는 기존 autoregressive 모델과 달리 문장 전체를 한꺼번에 다듬어 가는 디퓨전 방식으로 상업용 LLM을 처음 상품화한 곳입니다. Mercury 3는 전작 대비 파라미터 규모를 크게 늘리면서도 생성 속도는 그대로 유지했다고 밝혀, 디퓨전 구조가 모델을 키우면서도 속도를 희생하지 않을 수 있는지를 보여주는 사례로 주목받고 있습니다.

핵심 내용

디퓨전 LLM은 노이즈가 섞인 초기 상태에서 출발해 여러 토큰을 동시에 반복적으로 정제해 문장을 완성하는 방식입니다. 토큰을 순차적으로 하나씩 생성해야 하는 autoregressive 모델과 달리 여러 자리의 토큰을 병렬로 다듬을 수 있어, 모델이 커져도 생성 속도가 비례해 느려지지 않을 수 있다는 것이 Inception이 내세우는 핵심입니다.

Inception의 공식 발표에 따르면 Mercury 3는 NVIDIA GPU 기준 초당 1,068토큰을 생성합니다. 이는 전작 Mercury 1과 비슷한 속도 수준입니다. 그런데 회사는 Mercury 3의 파라미터 규모가 Mercury 1보다 40배 커졌고, 표준 벤치마크 기준 지능 수준은 Mercury 1(mini) 대비 세 배로 올랐다고 밝혔습니다. 컨텍스트 윈도우는 전작 Mercury 2.5의 26만 토큰에서 100만 토큰으로 늘었습니다.

가격은 출시 할인가로 입력 토큰 100만 개당 0.10달러, 출력 토큰 100만 개당 0.35달러이며, 캐시된 입력 토큰에는 90% 할인이 적용됩니다. 할인이 끝나면 정가는 각각 0.20달러와 0.70달러로 돌아갑니다.

Inception은 Mercury 3가 GPT-6 Luna와 Claude Haiku 5.5보다 품질이 낫고 4~8배 빠르다고 주장했습니다. 다만 공식 발표 글에는 이 두 모델과 비교한 구체적인 벤치마크 이름이나 점수가 나와 있지 않습니다. 발표에서 제시한 정량적 수치는 에이전트형 작업 중심입니다. 웹 탐색 능력을 재는 Mind2Web에서 Mercury 3를 적용한 에이전트가 과제의 50%를 완료했다고 밝혔고, 스마트글래스 업체 Octen이 실제 서비스에 적용해 본 테스트에서는 요청부터 응답 생성까지 중간값 0.9초가 걸렸다고 소개했습니다. 초기 접근 파트너들은 브라우저 사용 에이전트, 실시간 검색 에이전트, 대화형 교육, 고객 지원처럼 응답 지연에 민감한 영역에 Mercury 3를 적용하고 있다고 회사는 설명했습니다.

의미와 한계

Mercury 3는 디퓨전 구조로 만든 상업용 LLM이 파라미터 규모를 큰 폭으로 늘리면서도 추론 속도를 그대로 유지할 수 있다는 것을 실제 제품으로 보여준 사례입니다. 속도가 중요한 실시간 에이전트나 음성·스마트글래스처럼 응답 지연이 체감되는 서비스에는 이런 구조가 실질적인 선택지가 될 수 있습니다.

다만 이번 발표에는 품질 비교에 필요한 구체적인 벤치마크 점수나 비교 조건(하드웨어, 배치 크기 등)이 공개되지 않았습니다. 업계 분석 매체 orcarouter.ai는 10월 20일 기준 독립 평가기관 Artificial Analysis에 아직 Mercury 3 측정 결과가 올라오지 않았다는 점, 그리고 전작 Mercury 2.5의 경우 독립 측정 속도가 회사가 발표한 수치보다 낮게 나온 적이 있다는 점을 지적했습니다. GPT-6 Luna나 Claude Haiku 5.5와의 품질 격차가 실제로 어느 정도인지는 제3자 검증 전까지는 회사 측 설명만으로 판단하기 어렵습니다.

한 줄 정리

Inception이 파라미터를 40배 늘리면서도 속도는 유지했다는 디퓨전 LLM Mercury 3를 내놓았지만, 품질을 뒷받침할 독립 검증된 벤치마크는 아직 나오지 않았습니다.