DeepSeek, 입력과 출력에 다른 연산량 쓰는 오픈 가중치 모델 공개
중국 DeepSeek가 인코더와 디코더에 각각 다른 활성 파라미터를 쓰는 오픈 가중치 모델 V4.1-Flash-1017을 MIT 라이선스로 공개하고 코딩·에이전트 벤치마크를 끌어올렸습니다.
왜 지금 이 주제인가
중국 DeepSeek가 2026년 10월 17일 오픈 가중치 모델 DeepSeek-V4.1-Flash-1017을 공개했습니다. 모델 이름 끝의 “1017”은 공개 날짜를 그대로 적어 넣은 숫자로, 기존 V4.1-Flash를 코딩과 에이전트 작업 중심으로 끌어올린 갱신판입니다. 이번 갱신에서 눈에 띄는 점은 성능 수치보다 구조입니다. 프롬프트를 읽는 단계와 답을 생성하는 단계에 서로 다른 크기의 연산을 쓰도록 인코더와 디코더를 분리했는데, 디코더 전용 구조가 당연시되던 최근 대형 언어모델 흐름과는 다른 선택입니다.
핵심 내용
DeepSeek-V4.1-Flash-1017은 20개 계층으로 이뤄진 인과적(causal) 인코더와 20개 계층의 디코더를 이어붙인 비대칭 구조를 씁니다. 공식 발표와 모델 카드에 따르면 전체 파라미터는 552B 규모의 백본에 196B 규모의 조건부 메모리(Engram) 파라미터를 더해 약 763B이며, 이 가운데 실제로 활성화되는 파라미터는 단계마다 다릅니다. 프롬프트를 읽어들이는 입력 처리 단계에서는 8B, 답을 한 토큰씩 생성하는 출력 단계에서는 16B가 활성화됩니다. 입력을 읽을 때 쓰는 연산을 출력을 쓸 때보다 가볍게 둔 설계로, 긴 프롬프트를 빠르게 소화하고 답변 품질이 걸린 생성 단계에만 더 많은 연산을 배정하겠다는 의도로 보입니다. 컨텍스트 길이는 최대 100만 토큰이며, 직접 API 기준 한 번에 생성할 수 있는 출력은 최대 38만4천 토큰입니다.
벤치마크는 이전 V4.1-Flash 대비 코딩·에이전트 과업에서 고르게 올랐습니다. 터미널 환경에서 명령을 수행하는 Terminal-Bench 4.0은 31.2점에서 42.3점으로, 프로그램 작성 능력을 재는 ProgramBench는 20.3점에서 29.1점으로, 반복 작업을 자동화하는 Automation-Bench는 54.8점에서 60.5점으로, 소프트웨어 엔지니어링 과업인 DeepSWE v1.1은 74.2점에서 77.0점으로, 복합 과업 지표인 Apex Bench v1.1은 64.6점에서 72.1점으로 올랐습니다. 전문가 수준의 지식을 묻는 Humanity’s Last Exam에서는 42.6점을 받았습니다.
가격은 바뀌지 않았습니다. 비피크 시간대 기준 입력 토큰은 캐시가 비어 있을 때 100만 토큰당 0.15달러, 캐시가 맞을 때는 0.003달러, 출력은 0.60달러이며 피크 시간대에는 모두 두 배로 뛰습니다. DeepSeek는 이번 갱신이 작업 완료 시간과 출력 길이를 함께 줄여, 같은 작업을 더 적은 비용으로 끝낼 수 있다고 설명했습니다. 가중치는 MIT 라이선스로 Hugging Face와 ModelScope에 공개됐으며, 공개된 체크포인트는 약 510GB 분량입니다.
이번 공개와 함께 자체 검색 엔진을 기반으로 한 Search API와 웹 문서를 가져오는 Fetch API도 함께 열렸습니다. 두 API 모두 1000회 호출당 0.75달러로 책정됐으며, DeepSeek는 이 검색 엔진이 자사 서비스에서 하루 수억 건의 요청을 처리해 온 것이라고 밝혔습니다. 모델이 직접 웹을 검색하고 문서를 읽어 온 뒤 코드를 작성하거나 과업을 완결하는 흐름을 API 차원에서 지원하겠다는 뜻입니다.
의미와 한계
성능 갱신만 보면 같은 체급 오픈 가중치 모델들과의 경쟁에서 가격 대비 성능을 조금 더 끌어올린 수준이지만, 입력과 출력에 다른 활성 파라미터를 쓰는 구조는 주목할 만합니다. 긴 문서를 읽어야 하는 비용과 정교한 답을 써야 하는 비용을 분리해서 설계하면, 긴 컨텍스트를 다루는 에이전트 작업에서 전체 비용을 낮출 수 있는 여지가 생깁니다. 다만 이 구조가 실제로 비용을 얼마나 줄이는지는 공개된 자료만으로는 가늠하기 어렵습니다. 벤치마크 비교도 모두 자사가 선정한 지표 안에서 이전 버전과 비교한 것이라, 경쟁 모델과 나란히 놓고 검증한 결과는 아닙니다. 또한 196B 규모의 조건부 메모리(Engram) 파라미터가 정확히 어떤 방식으로 동작하는지, MoE 구조에서 전문가를 몇 개 두고 토큰마다 몇 개를 고르는지 같은 세부 사항은 공개 문서에 구체적으로 적혀 있지 않습니다. 구조적 실험이 실제로 효과가 있는지는 외부 재현과 독립적인 벤치마크가 뒤따라야 확인될 사안입니다.
한 줄 정리
DeepSeek가 입력과 출력에 다른 연산량을 쓰는 비대칭 구조의 오픈 가중치 모델 V4.1-Flash-1017을 MIT 라이선스로 공개했습니다.