1. Giriş
DeepSeek-V3, toplamda 671 milyar parametreye sahip güçlü bir Mixture-of-Experts (MoE) dil modelidir. Her bir token için 37 milyar parametre etkinleştirilerek çalışır. Model, DeepSeekMoE mimarisi ve Çoklu Kafa Latent Dikkat (MLA) mekanizmalarını kullanarak verimli çıkarım ve düşük maliyetli eğitim sağlar. Bu teknikler daha önce DeepSeek-V2 ile başarıyla test edilmiştir.
DeepSeek-V3, yardımcı kayıp (auxiliary loss) içermeyen bir yük dengeleme stratejisi sunarak geleneksel MoE modellerinde yaşanan verimlilik kayıplarını minimize eder. Ayrıca, çoklu token tahmin (MTP) hedefi ile model performansını artırır ve daha hızlı çıkarım sağlar.
Model, 14.8 trilyon yüksek kaliteli token ile önceden eğitilmiş olup Denetimli İnce Ayar (SFT) ve Takviyeli Öğrenme (RLHF) aşamalarından geçmiştir. Yapılan kapsamlı testler, DeepSeek-V3’ün diğer açık kaynaklı modellerden üstün olduğunu ve kapalı kaynaklı en iyi modellerle rekabet edebildiğini göstermektedir.
Bu üstün performansa rağmen, DeepSeek-V3 yalnızca 2.788 milyon H800 GPU saatlik ekonomik bir eğitim sürecinden geçmiştir. Tüm eğitim süreci boyunca herhangi bir geri alınamaz kayıp artışı veya geri alma işlemi yaşanmamıştır, bu da modelin son derece kararlı olduğunu göstermektedir.
2. Model Özeti
Mimari: Yük Dengeleme ve Eğitim Hedefi
DeepSeek-V3, DeepSeek-V2’nin verimli yapısını temel alarak aşağıdaki yenilikleri ekler:
- Yardımcı kayıpsız yük dengeleme stratejisi, MoE modellerinde yaygın görülen performans kayıplarını önler.
- Çoklu Token Tahmin (MTP) hedefi, modelin doğruluğunu artırırken spekülatif kod çözmeyi (speculative decoding) mümkün kılarak çıkarım sürecini hızlandırır.
Ön Eğitim: Maksimum Verimlilik
DeepSeek-V3, ölçeklenebilirliği ve verimliliği artırmak için şu yenilikleri içerir:
- FP8 karışık hassasiyetli eğitim, büyük ölçekli modeller için başarıyla uygulanmıştır.
- Çapraz düğüm (cross-node) MoE eğitimindeki iletişim darboğazlarını aşan özel bir algoritma, hesaplama-iletişim örtüşmesini maksimuma çıkarır.
Bu stratejiler, yalnızca 2.664 milyon H800 GPU saatlik maliyetle mevcut en güçlü açık kaynaklı temel modelin ön eğitimini tamamlamayı mümkün kılmıştır. Ön eğitim sonrası ince ayar aşamaları ise yalnızca 0.1 milyon GPU saati gerektirmektedir.
Sonradan Eğitim: Gelişmiş Bilgi Aktarımı
DeepSeek-V3, DeepSeek-R1 serisi modellerinden elde edilen uzun Zincirleme Düşünme (CoT) yeteneklerini aktararak çıkarım gücünü artırır. Bu süreç, doğrulama ve yansıtma (reflection) yöntemlerini içeren gelişmiş bir bilgi aktarım mekanizması sayesinde gerçekleştirilir. Böylece modelin gerekçelendirme yetenekleri önemli ölçüde iyileştirilirken, çıktı stili ve uzunluğu da kontrol altında tutulur.
3. Model İndirmeleri
| Model | Toplam Parametre | Etkinleştirilen Parametre | Bağlam Uzunluğu | İndirme Linki |
|---|---|---|---|---|
| DeepSeek-V3-Base | 671B | 37B | 128K | 🤗 Hugging Face |
| DeepSeek-V3 | 671B | 37B | 128K | 🤗 Hugging Face |
Notlar:
- Hugging Face üzerinde bulunan DeepSeek-V3 modeli toplamda 685 milyar parametreye sahiptir. Bu, 671 milyar Ana Model ağırlıkları ve 14 milyar Çoklu Token Tahmin (MTP) Modülü ağırlıklarını içerir.
- DeepSeek, açık kaynak toplulukları ve donanım üreticileriyle iş birliği yaparak modelin yerel olarak çalıştırılması için çeşitli yöntemler sunmaktadır. Ayrıntılı talimatlar için Bölüm 6: Modeli Yerel Olarak Çalıştırma rehberine göz atabilirsiniz.
- Geliştiriciler, model ağırlıklarıyla ilgili daha fazla ayrıntıya README_WEIGHTS.md dosyasından ulaşabilirler.
- MTP desteği hâlâ geliştirme aşamasındadır, bu nedenle topluluk katkılarına ve geri bildirimlere açıktır.
Bu versiyon, orijinal içeriğin anlamını koruyarak daha anlaşılır ve akıcı bir şekilde Türkçeye çevrildi. İstediğiniz değişiklikleri yapmamı ister misiniz?
4. Değerlendirme Sonuçları
Base Model
Standard Benchmarks
| Benchmark (Metric) | # Shots | DeepSeek-V2 | Qwen2.5 72B | LLaMA3.1 405B | DeepSeek-V3 | |
|---|---|---|---|---|---|---|
| Architecture | – | MoE | Dense | Dense | MoE | |
| # Activated Params | – | 21B | 72B | 405B | 37B | |
| # Total Params | – | 236B | 72B | 405B | 671B | |
| English | Pile-test (BPB) | – | 0.606 | 0.638 | 0.542 | 0.548 |
| BBH (EM) | 3-shot | 78.8 | 79.8 | 82.9 | 87.5 | |
| MMLU (Acc.) | 5-shot | 78.4 | 85.0 | 84.4 | 87.1 | |
| MMLU-Redux (Acc.) | 5-shot | 75.6 | 83.2 | 81.3 | 86.2 | |
| MMLU-Pro (Acc.) | 5-shot | 51.4 | 58.3 | 52.8 | 64.4 | |
| DROP (F1) | 3-shot | 80.4 | 80.6 | 86.0 | 89.0 | |
| ARC-Easy (Acc.) | 25-shot | 97.6 | 98.4 | 98.4 | 98.9 | |
| ARC-Challenge (Acc.) | 25-shot | 92.2 | 94.5 | 95.3 | 95.3 | |
| HellaSwag (Acc.) | 10-shot | 87.1 | 84.8 | 89.2 | 88.9 | |
| PIQA (Acc.) | 0-shot | 83.9 | 82.6 | 85.9 | 84.7 | |
| WinoGrande (Acc.) | 5-shot | 86.3 | 82.3 | 85.2 | 84.9 | |
| RACE-Middle (Acc.) | 5-shot | 73.1 | 68.1 | 74.2 | 67.1 | |
| RACE-High (Acc.) | 5-shot | 52.6 | 50.3 | 56.8 | 51.3 | |
| TriviaQA (EM) | 5-shot | 80.0 | 71.9 | 82.7 | 82.9 | |
| NaturalQuestions (EM) | 5-shot | 38.6 | 33.2 | 41.5 | 40.0 | |
| AGIEval (Acc.) | 0-shot | 57.5 | 75.8 | 60.6 | 79.6 | |
| Code | HumanEval (Pass@1) | 0-shot | 43.3 | 53.0 | 54.9 | 65.2 |
| MBPP (Pass@1) | 3-shot | 65.0 | 72.6 | 68.4 | 75.4 | |
| LiveCodeBench-Base (Pass@1) | 3-shot | 11.6 | 12.9 | 15.5 | 19.4 | |
| CRUXEval-I (Acc.) | 2-shot | 52.5 | 59.1 | 58.5 | 67.3 | |
| CRUXEval-O (Acc.) | 2-shot | 49.8 | 59.9 | 59.9 | 69.8 | |
| Math | GSM8K (EM) | 8-shot | 81.6 | 88.3 | 83.5 | 89.3 |
| MATH (EM) | 4-shot | 43.4 | 54.4 | 49.0 | 61.6 | |
| MGSM (EM) | 8-shot | 63.6 | 76.2 | 69.9 | 79.8 | |
| CMath (EM) | 3-shot | 78.7 | 84.5 | 77.3 | 90.7 | |
| Chinese | CLUEWSC (EM) | 5-shot | 82.0 | 82.5 | 83.0 | 82.7 |
| C-Eval (Acc.) | 5-shot | 81.4 | 89.2 | 72.5 | 90.1 | |
| CMMLU (Acc.) | 5-shot | 84.0 | 89.5 | 73.7 | 88.8 | |
| CMRC (EM) | 1-shot | 77.4 | 75.8 | 76.0 | 76.3 | |
| C3 (Acc.) | 0-shot | 77.4 | 76.7 | 79.7 | 78.6 | |
| CCPM (Acc.) | 0-shot | 93.0 | 88.5 | 78.6 | 92.0 | |
| Multilingual | MMMLU-non-English (Acc.) | 5-shot | 64.0 | 74.8 | 73.8 | 79.4 |
En iyi sonuçlar kalın olarak gösterilmiştir. 0,3’ü aşmayan bir farka sahip puanlar aynı seviyede kabul edilir. DeepSeek-V3, özellikle matematik ve kod görevlerinde çoğu kıyaslamada en iyi performansı elde eder. Daha fazla değerlendirme ayrıntısı için lütfen makalemizi inceleyin.
Bağlam Penceresi
Needle In A Haystack (NIAH) testlerinde değerlendirme sonuçları. DeepSeek-V3, 128K’ya kadar tüm bağlam penceresi uzunluklarında iyi performans gösteriyor.
Sohbet Modeli
Standart Ölçütler (67B’den büyük modeller)
| Benchmark (Metric) | DeepSeek V2-0506 | DeepSeek V2.5-0905 | Qwen2.5 72B-Inst. | Llama3.1 405B-Inst. | Claude-3.5-Sonnet-1022 | GPT-4o 0513 | DeepSeek V3 | |
|---|---|---|---|---|---|---|---|---|
| Architecture | MoE | MoE | Dense | Dense | – | – | MoE | |
| # Activated Params | 21B | 21B | 72B | 405B | – | – | 37B | |
| # Total Params | 236B | 236B | 72B | 405B | – | – | 671B | |
| English | MMLU (EM) | 78.2 | 80.6 | 85.3 | 88.6 | 88.3 | 87.2 | 88.5 |
| MMLU-Redux (EM) | 77.9 | 80.3 | 85.6 | 86.2 | 88.9 | 88.0 | 89.1 | |
| MMLU-Pro (EM) | 58.5 | 66.2 | 71.6 | 73.3 | 78.0 | 72.6 | 75.9 | |
| DROP (3-shot F1) | 83.0 | 87.8 | 76.7 | 88.7 | 88.3 | 83.7 | 91.6 | |
| IF-Eval (Prompt Strict) | 57.7 | 80.6 | 84.1 | 86.0 | 86.5 | 84.3 | 86.1 | |
| GPQA-Diamond (Pass@1) | 35.3 | 41.3 | 49.0 | 51.1 | 65.0 | 49.9 | 59.1 | |
| SimpleQA (Correct) | 9.0 | 10.2 | 9.1 | 17.1 | 28.4 | 38.2 | 24.9 | |
| FRAMES (Acc.) | 66.9 | 65.4 | 69.8 | 70.0 | 72.5 | 80.5 | 73.3 | |
| LongBench v2 (Acc.) | 31.6 | 35.4 | 39.4 | 36.1 | 41.0 | 48.1 | 48.7 | |
| Code | HumanEval-Mul (Pass@1) | 69.3 | 77.4 | 77.3 | 77.2 | 81.7 | 80.5 | 82.6 |
| LiveCodeBench (Pass@1-COT) | 18.8 | 29.2 | 31.1 | 28.4 | 36.3 | 33.4 | 40.5 | |
| LiveCodeBench (Pass@1) | 20.3 | 28.4 | 28.7 | 30.1 | 32.8 | 34.2 | 37.6 | |
| Codeforces (Percentile) | 17.5 | 35.6 | 24.8 | 25.3 | 20.3 | 23.6 | 51.6 | |
| SWE Verified (Resolved) | – | 22.6 | 23.8 | 24.5 | 50.8 | 38.8 | 42.0 | |
| Aider-Edit (Acc.) | 60.3 | 71.6 | 65.4 | 63.9 | 84.2 | 72.9 | 79.7 | |
| Aider-Polyglot (Acc.) | – | 18.2 | 7.6 | 5.8 | 45.3 | 16.0 | 49.6 | |
| Math | AIME 2024 (Pass@1) | 4.6 | 16.7 | 23.3 | 23.3 | 16.0 | 9.3 | 39.2 |
| MATH-500 (EM) | 56.3 | 74.7 | 80.0 | 73.8 | 78.3 | 74.6 | 90.2 | |
| CNMO 2024 (Pass@1) | 2.8 | 10.8 | 15.9 | 6.8 | 13.1 | 10.8 | 43.2 | |
| Chinese | CLUEWSC (EM) | 89.9 | 90.4 | 91.4 | 84.7 | 85.4 | 87.9 | 90.9 |
| C-Eval (EM) | 78.6 | 79.5 | 86.1 | 61.5 | 76.7 | 76.0 | 86.5 | |
| C-SimpleQA (Correct) | 48.5 | 54.1 | 48.4 | 50.4 | 51.3 | 59.3 | 64.8 |
Tüm modeller, çıktı uzunluğunu 8K ile sınırlayan bir yapılandırmada değerlendirilir. 1000’den az örnek içeren kıyaslamalar, sağlam nihai sonuçlar elde etmek için değişen sıcaklık ayarları kullanılarak birden çok kez test edilir. DeepSeek-V3, en iyi performans gösteren açık kaynaklı model olarak öne çıkar ve ayrıca sınır kapalı kaynaklı modellere karşı rekabetçi performans sergiler.
Açık Uçlu Nesil Değerlendirmesi
| Model | Arena-Hard | AlpacaEval 2.0 |
|---|---|---|
| DeepSeek-V2.5-0905 | 76.2 | 50.5 |
| Qwen2.5-72B-Instruct | 81.2 | 49.1 |
| LLaMA-3.1 405B | 69.3 | 40.5 |
| GPT-4o-0513 | 80.4 | 51.1 |
| Claude-Sonnet-3.5-1022 | 85.2 | 52.0 |
| DeepSeek-V3 | 85.5 | 70.0 |
İngilizce açık uçlu konuşma değerlendirmeleri. AlpacaEval 2.0 için, uzunluk kontrollü kazanma oranını metrik olarak kullanıyoruz.
5. Sohbet Web Sitesi ve API Platformu
DeepSeek-V3 ile DeepSeek’in resmi web sitesinde sohbet edebilirsiniz: chat.deepseek.com
DeepSeek Platformunda OpenAI Uyumlu API de sağlıyoruz: platform.deepseek.com
6. İletişim
Herhangi bir sorunuz varsa lütfen bir sorun bildirin veya service@deepseekturkce.com adresinden bizimle iletişime geçin.