Devstral 2: 미스트랄의 새로운 오픈 웨이트 코딩 모델

소개

올해 코딩 모델들은 엄청난 발전을 이루었습니다. GLM-4.5, Kimi-K2, Qwen-3 Coder 모두 눈에 띄는 출시작이었습니다. 우리는 올해 초 오리지널 Devstral을 다뤘고, Mistral에서 이렇게 빨리 또 다른 버전이 나올 줄은 예상하지 못했습니다.

데브스트랄 2

Devstral 2는 소프트웨어 엔지니어링을 위해 설계된 Mistral의 새로운 코딩 및 에이전트형 LLM 계열로, 24B와 123B 파라미터 크기로 제공됩니다. 123B 모델은 SWE-bench에서 최첨단 성능을 달성하며, 코딩, 도구 호출, 에이전트 활용 사례에서 뛰어난 성능을 발휘합니다. 24B 모델은 25GB의 RAM/VRAM에 무리 없이 적합하며, 123B 모델은 128GB가 필요합니다.

아키텍처 측면에서, Mistral이 123B 모델에 대해 Mixture of Experts(MoE) 대신 밀집 아키텍처를 고수한 결정은 상당히 흥미롭습니다. 우리는 모델의 뛰어난 성능 대비 효율 비율이 어떻게 달성되었는지 궁금합니다. 이 모델은 SWE-bench Verified에서 72.2% 점수를 기록하며, 256K 컨텍스트 창을 지원합니다!!

123B 버전은 일반 소비자 하드웨어에서 실행할 수 없지만, 24B 버전은 실행할 수 있습니다. Devstral Small 2는 SWE-bench Verified에서 68.0%를 기록했습니다.

이 기사에서는 Devstral 2를 사용해 볼 것입니다.
123B 파라미터는 수정된 MIT 라이선스를 가지고 있으며, 23B 파라미터 버전은 Apache 2.0 라이선스를 가지고 있다는 점에 유의하세요.

전제 조건

이 튜토리얼을 시작하기 전에, 다음이 필요합니다:

GPU Droplets에 접근할 수 있는 Linux-Console.net 계정
리눅스 명령어 사용에 대한 기본적인 이해

Linux-Console.net에서 Devstral 2 실행

Devstral 2는 데이터센터급 GPU에 맞춰 설계되었으며 실행하려면 최소 4개의 H100급 GPU가 필요합니다.
Devstral Small 2는 단일 GPU에서 작동하도록 설계되었으며 DGX Spark 및 GeForce RTX 시스템과 같은 다양한 NVIDIA 하드웨어와 호환됩니다. NVIDIA NIM 지원은 가까운 미래에 제공될 예정입니다. Devstral Small은 일반 소비자용 GPU에서도 작동할 수 있으며, 별도의 그래픽 카드 없이 CPU 전용 환경에서도 사용할 수 있습니다.

Linux-Console.net GPU 드롭릿을 설정하는 것부터 시작하세요.

우리는 unsloth 구현을 실행할 예정입니다. 사실 이번 버전에는 25GB RAM/VRAM만 필요합니다. unsloth, 감사합니다.

apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build \
   -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp

./llama.cpp/llama-cli \
    -hf unsloth/Devstral-2-123B-Instruct-2512-GGUF:UD-Q2_K_XL \
    --jinja -ngl 99 --threads -1 --ctx-size 16384 \
    --temp 0.15\

./llama.cpp/llama-cli \
    --model unsloth/Devstral-2-123B-Instruct-2512-GGUF/Devstral-2-123B-Instruct-2512-UD-Q2_K_XL.gguf \
    --mmproj unsloth/Devstral-2-123B-Instruct-2512-GGUF/mmproj-F16.gguf \
    --threads -1 \
    --ctx-size 16384 \
    --n-gpu-layers 99 \
    --seed 3407 \
    --prio 2 \
    --temp 0.15 \
    --jinja

마지막 생각

이 모델들은 워크플로우와 통합되어 IDE, CI/CD, 이슈 트래커와 함께 작동하며 소프트웨어 개발에 영향을 줄 수 있습니다. 한 번 시도해보고 피드백 주세요:)

참고 문헌 및 추가 자료

Devstral 2 - 실행 가이드 | Unsloth 문서 Mistral의 Devstral 2 공식 발표

Linux-Console.net 커뮤니티와 함께 학습해 주셔서 감사합니다.