Çok daha büyük bir projenin yalnızca bir aşaması için küçük bir fiyat etiketi
DeepSeek’in çok konuşulan 294 bin dolarlık eğitim maliyeti, R1 akıl yürütme modeli ve ilgili veri üretimi için yürütülen son pekiştirmeli öğrenme çalışmalarını kapsıyor. Ancak önce çok daha büyük bir temel oluşturuldu: Yaklaşık iki ay boyunca 2.048 Nvidia H800 grafik işlem birimiyle (GPU) eğitilen V3 temel modeli.
İçindekiler
- Çok daha büyük bir projenin yalnızca bir aşaması için küçük bir fiyat etiketi
- Yayımlanan eğitim maliyeti rakamları neleri kapsıyor?
- İşlem gücü maliyeti 5,87 milyon dolara nasıl ulaşıyor?
- Ekipman satın almak neden farklı bir gider kalemi?
- Pekiştirmeli öğrenme ne kattı?
- DeepSeek’in kullandığı çipler ve bunların önemi
- Batılı rakiplerle karşılaştırma ne ölçüde geçerli?
- Veri, damıtma ve diğer modellerden öğrenme
- Bu rakam neden bu kadar hızlı yayıldı?
- Eğitimden sonra maliyetler nereye kayıyor?
- Öne Çıkanlar
Bu aşamalar için açıklanan işlem gücü kullanımı ve kiralama varsayımlarına göre V3’ün ön eğitimi yaklaşık 5,58 milyon dolara mal oldu. Buna yaklaşık 294 bin dolar eklendiğinde, R1’in yayımlanan sürümüne ulaşmak için gereken tahmini işlem gücü maliyeti yaklaşık 5,87 milyon dolara çıkıyor. Araştırma, çalışanlar, veri hazırlığı, altyapı ve başarısız deneyler de proje bütçesini bu hesabın ötesine taşıyor.
DeepSeek’in R1 hakkında Nature’da hakem değerlendirmesinden geçmiş bir makale yayımlamasının ardından bu ayrım önem kazandı. 294 bin dolarlık rakam dikkat çekti; çünkü kodlama ve matematikte rekabet edebilen bir modelin, önde gelen ABD şirketlerinin açıkladığı harcamaların çok küçük bir bölümüyle geliştirilebileceğine işaret ediyordu.
DeepSeek’in sonucu yine de kayda değer bir mühendislik verimliliğine işaret ediyor. Araştırmacılar mevcut bir temel modelden, modelin her seferinde yalnızca bir bölümünü etkinleştiren bir tasarımdan ve başarılı yanıtları ödüllendiren pekiştirmeli öğrenmeden yararlandı. Bu tercihler, mevcut işlem gücünden daha verimli yararlanılmasını sağladı.
Buna rağmen R1, aylar süren önceki öğrenme çalışmalarına dayanıyordu. Akıl yürütme yeteneği geliştirilemeden önce V3’ün büyük bir veri koleksiyonundaki örüntüleri öğrenmesi gerekiyordu. Kapsamlı veri hazırlığı, tekrarlanan deneyler, güvenlik çalışmaları ve değerlendirmeler de geliştirme sürecinin parçasıydı.
Bu nedenle anlamlı karşılaştırma, açıkça tanımlanmış aşamalar arasında yapılmalı. Yaklaşık 294 bin dolar, maliyetli bir temel üzerine kurulan son aşamayı ifade ediyor. Yaklaşık 5,87 milyon dolar, başarıyla tamamlanan başlıca çalıştırmaların tahmini işlem gücü maliyetini gösterirken, araştırma ve geliştirmenin toplam bütçesi daha fazla çalışmayı kapsıyor.
Yayımlanan eğitim maliyeti rakamları neleri kapsıyor?
DeepSeek’in ek materyallerinde, 512 Nvidia H800 GPU’yla yürütülen pekiştirmeli öğrenme çalışmaları anlatılıyor. Önce yaklaşık 198 saatlik bir R1 Zero eğitim süreci, ardından yayımlanan R1 modeline ulaşmak için 80 saatlik ek eğitim veriliyor. Ekip, süreçte kullanılan tercih verilerini üretmek için de yaklaşık 5.000 GPU saati harcandığını bildirdi.
Tercih verileri, modelin daha iyi kabul edilen yanıtları alternatiflerine tercih etmesine yardımcı oluyor. Bildirilen pekiştirmeli öğrenme ve veri üretimi çalışmaları, H800 sınıfı hızlandırıcılar için tipik kiralama ücretleri esas alındığında toplamda 300 bin doların biraz altında kalıyor.
Teknik ayrıntılar ve maliyet tartışması, Nature makalesi ile bağlantılı materyallerde yer alıyor. Hesaplamanın temel noktası, R1 için yapılan harcamaların temel modelin maliyetine eklenmiş olması.
DeepSeek, R1’in başlıca pekiştirmeli öğrenme çalışmasında ağırlıklı olarak H800 GPU’ları kullandı. Araştırmacılar, daha küçük bir modelle yapılan hazırlık deneylerinde A100 GPU’lardan da yararlandıklarını belirtti. Bu önceki deneyler, ana eğitim aşamasından önce yaklaşımın geliştirilmesine katkı sağladı.
Geliştirme süreci, manşetlere taşınan rakamın hangi aşamaya ait olduğunu açıklıyor:
- V3 ön eğitimi: R1’in dayandığı temeli oluşturmak için 2.048 H800 GPU yaklaşık iki ay çalıştırıldı.
- Hazırlık araştırmaları: Ana R1 çalıştırmalarından önce, daha küçük bir modelle yapılan deneylerde A100 GPU’lar kullanıldı.
- R1 Zero: 512 H800 GPU’dan oluşan bir kümede yaklaşık 198 saatlik ilk pekiştirmeli öğrenme süreci yürütüldü.
- Yayımlanan R1: Ardından 80 saatlik ek eğitim yapıldı; tercih verisi üretimi için de yaklaşık 5.000 GPU saati kaydedildi.
İşlem gücü maliyeti 5,87 milyon dolara nasıl ulaşıyor?
V3 için bildirilen eğitim ölçeği yaklaşık 2,79 milyon GPU saatine karşılık geliyor. GPU saati, bir GPU’nun bir saat boyunca çalışması anlamına geliyor. Yüzlerce ya da binlerce GPU aynı anda çalıştırıldığında bu süreler toplanıyor.
GPU saati başına yaklaşık 2 dolarlık varsayımsal kiralama ücretiyle V3’ün ön eğitim maliyeti yaklaşık 5,58 milyon dolara ulaşıyor. R1’in pekiştirmeli öğrenme ve veri üretimiyle ilişkilendirilen yaklaşık 294 bin dolar da eklendiğinde tahmini toplam 5,87 milyon dolara yaklaşıyor.
Bu hesaplama, iki aşamanın göreli ağırlığını ortaya koyuyor. Birleşik işlem gücü tahmininin yaklaşık yüzde 95’ini V3 temeli, yüzde 5’ini ise son R1 çalışmaları oluşturuyor. Daha büyük aşama, son çalışmaları mümkün kılan yetenekleri sağlamasına rağmen manşetlere küçük rakam taşındı.
Kiralama tahmini, işlem gücünü kullanmanın maliyetine bir fiyat biçiyor. Bulut hizmetlerinden yararlanan geliştiriciler hızlandırıcılara erişim için ödeme yaparken, ekipman sahibi geliştiricilerin satın alma maliyetini, zaman içindeki değer kaybını ve işletme giderlerini de hesaba katması gerekiyor.
Dolayısıyla DeepSeek’in tahmini 5,87 milyon doları, belirli bir fiyat varsayımı altında başarıyla tamamlanan başlıca işlem gücü çalışmalarının maliyetini gösteriyor. Projenin toplam maliyeti açıklanmadı. Bu toplam; çalışanları, veri çalışmalarını, deneyleri ve işleyen bir sistem üretmek için gereken diğer kaynakları da kapsıyor.
Ekipman satın almak neden farklı bir gider kalemi?
H800 sınıfında 2.048 GPU’dan oluşan bir küme kurmanın ilk maliyeti, tek bir eğitim çalışması için benzer işlem gücünü kiralamaktan çok daha yüksek olur. GPU’lar, sunucular ve ağ donanımını temin etmenin, belirtilen piyasa fiyatlarıyla 51 milyon doların çok üzerinde olacağı tahmin ediliyor.
Elektrik, soğutma, alan ve bakım giderleri de işletme maliyetlerine ekleniyor. Mühendislik zamanı, veri lisansları, depolama ve değerlendirme çalışmaları da maliyeti artırıyor. Araştırmacılar başarılı bir yönteme ulaşmadan önce sonuçsuz kalan deneyler de buna dahil.
Satın alınan ekipman birden fazla deney ve model için kullanılabilir. Bu nedenle satın alma bedeli ile tek bir eğitim çalışmasının kiralama karşılığı, farklı bütçe sorularını yanıtlar: Bir laboratuvarın ne kadar altyapıya ihtiyaç duyduğu ve belirli bir çalıştırmanın ne kadar işlem gücü tükettiği.
R1’i yeniden üretmeyi planlayan bir şirket için her iki soru da önem taşıyor. Yeterli sayıda hızlandırıcıya erişim bunlardan biri. Araştırmacılara ödeme yapmak, kullanılabilir veri hazırlamak, sonuçları test etmek ve tekrarlanan denemeleri desteklemek de diğer gereklilikler.
Bağımsız analizler, R1’in toplam işlem gücü ölçeğini diğer büyük açık modellerle aynı genel aralıkta değerlendirdi. Bu, özellikle en büyük kapalı sistemlerin söylentilere konu olan bütçeleriyle karşılaştırıldığında, DeepSeek’in görece verimli bir sonuç elde etmiş olmasıyla çelişmiyor.
Pekiştirmeli öğrenme ne kattı?
Pekiştirmeli öğrenme, istenen sonuçları ödüllendirerek eğitilmiş bir modelin davranışını değiştiriyor. R1’in geliştirilmesinde model, problemleri çözmek için farklı yollar denedi ve başarıyla bağlantılı geri bildirimler aldı. Böylece doğru sonuca ulaşan yanıtlara yönelmesi sağlandı.
Araştırmacılar bu yaklaşımı saf pekiştirmeli öğrenme olarak tanımladı. Modelin kopyalaması için insanların akıl yürütme adımlarını yazmasını gerektirmiyor. Bunun yerine model olası yolları deniyor, doğruluğa ilişkin bir sinyal alıyor ve stratejisini aşamalı olarak geliştiriyor.
Matematik, kodlama ve bilimsel problemler bu yöntem için elverişli alanlar olabiliyor; çünkü birçok yanıtın doğruluğu kontrol edilebiliyor. Bir hesaplamanın doğru sonucu bulunabilir, bir program test edilebilir. Bu kontroller, uygulamada işe yarayan bir ödül sinyali sağlıyor.
V3’ün ön eğitimi farklı bir görev üstlendi. Veri üzerinden kapsamlı öğrenme yoluyla temel modele geniş dil bilgisi ve yetenekler kazandırdı. Pekiştirmeli öğrenme ise bu yetenekleri problemler üzerinde akıl yürütmek ve araç kullanmak gibi hedeflere yöneltti.
Son aşama, temeli oluşturmanın maliyetinden çok daha düşük bir işlem gücü maliyetiyle önemli kazanımlar sağlayabilir. Bu nedenle 294 bin dolarlık rakam anlam taşıyor: Güçlü bir temel model mevcut olduğunda, görece küçük bir ek eğitim aşamasının ne kadar değerli olabileceğini gösteriyor.
R1’in performansı tek bir ödül mekanizmasının ötesindeki çalışmaları da yansıtıyor. Veri seçimi, değerlendirme, güvenlik kontrolleri ve tekrarlanan deneyler, bir eğitim yöntemini zorlu görevleri yerine getirebilen yayımlanmış bir sisteme dönüştürmeye yardımcı oldu.
DeepSeek’in kullandığı çipler ve bunların önemi
Nvidia, ABD’nin ihracat kuralları daha güçlü hızlandırıcılara erişimi kısıtladıktan sonra Çin için H800’ü geliştirdi. Bu tedarik kısıtı, DeepSeek’in eğitim tercihlerini ve mevcut donanımdan daha fazla iş çıkarma çabalarını şekillendiren koşulların bir parçası.
DeepSeek’in R1’in başlıca pekiştirmeli öğrenme çalışmasına ilişkin açıklaması, 512 H800 GPU’dan oluşan bir kümeyi kapsıyor. Ek belgeye göre ekip, önceki araştırmalarda A100 GPU’lardan yararlandı.
DeepSeek araştırmacıları, A100 donanımının hazırlık çalışmalarındaki rolünü şöyle açıkladı:
DeepSeek-R1 üzerine araştırmamız kapsamında, daha küçük bir modelle yapılacak deneylere hazırlanmak için A100 GPU’ları kullandık.
Sektördeki tartışmalarda, Çin’deki araştırmacıların daha hızlı çiplere erişmenin yollarını bulduğu öne sürüldü. Şirket açıklamaları da donanım kaynaklarına ilişkin ipuçları bulmak amacıyla incelendi. Maliyet hesabında belgelenen ayrım ise hazırlık aşamasındaki A100 çalışmaları ile H800’lerle yürütülen ana pekiştirmeli öğrenme süreci arasında.
Farklı çiplerin kullanılması, araştırma maliyetlerinin yayımlanan son eğitim aşamasının ötesine neden geçtiğini açıklamaya yardımcı oluyor. Daha küçük modellerle yapılan deneyler, maliyetleri son çalıştırmanın manşet rakamına dahil olmasa bile, daha büyük ölçekte kullanılan yöntemi şekillendirebilir.
Batılı rakiplerle karşılaştırma ne ölçüde geçerli?
R1’in tahmini işlem gücü maliyeti 300 bin dolardan çok 6 milyon dolara yakın. Bu, en büyük kapalı yapay zekâ sistemleri için öne sürülen yüz milyonlarca dolarlık harcamaların küçük bir bölümü. Ancak kamuoyunda sıkça tartışılan bu bütçeler ile DeepSeek’in yayımladığı çalıştırma maliyetleri farklı gider kalemlerini kapsıyor.
Büyük açık modeller başka bir karşılaştırma olanağı sunuyor. R1’in hızlandırıcı sayısı ve eğitim süresi, Meta’nın Llama 4’ü gibi modellerle aynı genel kategoriye yerleştiriyor; ancak bu programlarda daha fazla token kullanıldı. Token’lar, modelin eğitim ve kullanım sırasında işlediği metin parçalarıdır.
DeepSeek’in mimarisi, verimliliğini açıklamaya yardımcı oluyor. Uzman karışımı tasarımı, her token için parametrelerinin yalnızca küçük bir bölümünü etkinleştiriyor. Parametreler, modelin öğrendiği sayısal değerlerdir; bir seferde yalnızca bir alt kümenin kullanılması, her metin parçasını işlemek için gereken çalışmayı azaltıyor.
Bu tasarım, işlem hacmini, yani GPU saati başına yapılan yararlı işlem miktarını artırabiliyor. DeepSeek ayrıca modele bir soruyu yanıtlarken daha uzun süre akıl yürütme olanağı tanıdı. Böylece işlem yükünün bir bölümü ilk eğitimden sonraki kullanıma kaydırıldı.
Bu tercihler, en çarpıcı manşetlerin öne sürdüğünden daha sınırlı bir sonucu destekliyor. DeepSeek kaynaklarını verimli kullanmanın yollarını buldu; ancak geliştirme sürecinin tamamı için kapsamlı bir temel, yoğun deneyler ve milyonlarca dolarlık işlem gücü harcaması gerekti.
Veri, damıtma ve diğer modellerden öğrenme
Damıtma, geliştiricilerin yetenekli modeller oluşturmak için gereken çalışmayı azaltmasının bir başka yolu. Daha güçlü bir sistem yanıtlar üretiyor ve bu yanıtlar çoğunlukla daha küçük ya da işletme maliyeti daha düşük başka bir modele eğitim amacıyla veriliyor.
Geliştiriciler büyük soru-cevap koleksiyonları, kodlama örnekleri ya da akıl yürütme izleri oluşturup ardından bir modeli bu verilerle ince ayardan geçirebilir. Bu teknik, ön eğitimin en maliyetli aşamalarını tekrarlamadan performansı artırabilir ve daha küçük ekiplerin matematik ve programlama gibi alanlarda güçlü sistemlere yaklaşmasına yardımcı olabilir.
DeepSeek, model ailesindeki bazı damıtılmış sürümlerin Meta’nın Llama’sı gibi açık kaynaklı sistemlerden yararlandığını belirtti. Şirketin V3’ün eğitim verilerine ilişkin açıklamasında, kayda değer miktarda yapay zekâ tarafından üretilmiş yanıt içeren geniş kapsamlı bir internet taraması yer aldı. Bu içerikler başka sistemlerin çıktılarından da oluşmuş olabilir.
Makalede bu durum, akıl yürütme yollarını kasıtlı olarak kopyalamaktan ziyade istem dışı karşılaşma olarak tanımlandı. Bu ayrım, hukuki ve politika tartışmaları açısından olduğu kadar, bir geliştiricinin daha az token ve işlem gücüyle ne kadar yetenek elde edebileceğini değerlendirmek bakımından da önemli.
Yapay zekâ tarafından üretilen içerikler, bir modelin yaygın örüntüleri öğrenmesine yardımcı olabilir; ancak lisans koşullarında belirsizliklere ve kalite sorunlarına da yol açabilir. Makalenin yayımlanması, her aşamada hangi verilerin kullanıldığı ve doğrudan insanlar tarafından sağlanmak yerine üretilen sentetik etiketlerden nerelerde yararlanıldığı konusunda daha fazla açıklık sağlanması çağrılarına yol açtı.
Bu rakam neden bu kadar hızlı yayıldı?
DeepSeek’in ocak ayındaki ilk duyuruları yatırımcıları zaten tedirgin etmişti. Daha ucuz bir rakibin önde gelen ABD şirketleriyle fiyat rekabetine girebileceği endişesi, çip üreticileri ve yapay zekâ ortaklarının hisselerinde satışları tetikledi. Hakem değerlendirmesinden geçen makalenin daha sonra yayımlanması, kolayca tekrarlanabilen çarpıcı bir dolar rakamıyla bu tartışmayı yeniden alevlendirdi.
Bazı gazeteciler de dahil olmak üzere pek çok kişi, pekiştirmeli öğrenmeyi tüm eğitim süreci olarak değerlendirdi. R1’in önceden eğitilmiş V3 temel modeline dayandığı açıklaması ise daha küçük rakam kadar ilgi görmedi.
Nature’ın değerlendirme süreci daha yararlı bir bilimsel kayıt da oluşturdu. Hakemler DeepSeek’ten işlem gücü, güvenlik ve veri kaynaklarını açıklığa kavuşturmasını, modeli fazla insansı gösteren ifadeleri azaltmasını istedi. Yöntemlerin ve rakamların yayımlanması, hangi aşamaların değer sağladığını incelemeyi kolaylaştırdı.
St. Louis’teki Washington Üniversitesi’nde bilgisayar bilimi ve mühendisliği alanında yardımcı profesör olan Umar Iqbal, düşük maliyetlerin teknolojiye erişimi genişletmesiyle bağlantısına dikkat çekti:
Teknolojilerin yaygın biçimde benimsenmesi için karşılanabilir fiyatlı olması gerekir,
Iqbal, daha ucuz geliştirmenin daha büyük deneyleri mümkün kılabileceğini de savundu. Bulut üzerinden sunulan yapay zekâ hizmetlerinin gizlilik, güvenlik ve kullanıcı verilerini kimin kontrol ettiği konusunda soru işaretleri doğurduğu uyarısında bulundu.
Dolayısıyla karşılanabilirlik, bir eğitim çalışmasının fiyatını aşan bir konu. Daha ucuz bir geliştirme süreci erişimin genişlemesine katkı sağlayabilir; hizmetin sunuluş biçimi ise kullanıcıların paylaştığı bilgileri ve bu bilgiler üzerindeki kontrollerini etkiler.
Eğitimden sonra maliyetler nereye kayıyor?
Yapay zekâ geliştirmede, yalnızca daha büyük veri kümelerine ve daha fazla parametreye dayanmak yerine ince ayara ve modellere akıl yürütmeleri için daha fazla zaman tanımaya giderek daha fazla önem veriliyor. Bu değişim, işlem gücü maliyetinin ne zaman ortaya çıktığını da etkiliyor.
Çıkarım, eğitilmiş bir modelin kullanıcı isteğini yanıtladığı aşamadır. Daha uzun akıl yürütme, her yanıt için daha fazla işlem gücü kullanır. Bu nedenle geliştirme sırasındaki tasarruflara günlük işletim maliyetlerindeki artış eşlik edebilir. Verimlilik kazanımları ek masrafı aşarsa kullanıcılar yine de daha uygun fiyatlı hizmet alabilir.
DeepSeek’in uzman karışımı tasarımı, pekiştirmeli öğrenme ve seçici damıtma yaklaşımı, geliştirme çalışmalarının ayrı aşamalara bölündüğü daha geniş bir örüntünün parçası. Modeller diğer modellerden öğreniyor, küçük ekipler mevcut temeller üzerine inşa yapıyor ve açık ağırlıklar, girişimlere ürün geliştirebilecekleri eğitilmiş sayısal değerlere erişim sağlıyor.
Bir Avrupa politika araştırması, bu değişikliklerin küçük şirketlerin rekabet etmesine yardımcı olurken temel model eğitimindeki sabit maliyetlerin karşılanmasını zorlaştırabileceğini ele aldı. Fiyat rekabetinin artması müşterilere fayda sağlayabilir; geliştiriciler ise yapay zekâyı başka ürün ve hizmetlerle birleştirerek gelir elde etmenin yollarını arıyor.
İsviçre merkezli INSAIT enstitüsünün direktörü Martin Vechev, teknik başarıyı överken başarılı bir eğitim çalışmasının geliştirme harcamalarının yalnızca bir bölümünü oluşturduğu uyarısında bulundu:
5 ila 6 milyon dolarlık rakam yanıltıcı; çünkü yalnızca tek bir eğitim çalışmasını hesaba katıyor. Böyle bir model geliştirmek için birden fazla çalışma ve deney gerekiyor, dolayısıyla gerçek maliyet çok daha yüksek.
Vechev’in uyarısı, hesabı aynı pratik noktaya getiriyor. R1’in maliyet tasarrufu; mimari tercihler ve kapsamlı önceki çalışmalar üzerine kurulan etkili bir pekiştirmeli öğrenme yönteminden kaynaklandı. Sonuç, bazı rakiplerine kıyasla daha az işlem gücüyle güçlü performans elde etmenin inandırıcı bir yolunu sunuyor; ancak yine de milyonlarca dolarla ölçülen bir geliştirme bütçesi gerektiriyor.
Öne Çıkanlar
- DeepSeek’in 294 bin dolarlık rakamı, 512 H800 GPU’yla yürütülen R1 pekiştirmeli öğrenme çalışmalarını ve ilgili veri üretimini kapsıyor.
- Bildirilen çalışmalar arasında R1 Zero için yaklaşık 198 saat, yayımlanan R1 için 80 saatlik ek eğitim ve tercih verisi için yaklaşık 5.000 GPU saati bulunuyor.
- R1, yaklaşık iki ay boyunca 2.048 H800 GPU’yla eğitilen ve yaklaşık 2,79 milyon GPU saatine karşılık gelen V3’e dayanıyor.
- GPU saati başına varsayılan 2 dolarlık ücretle V3’ün ön eğitimi yaklaşık 5,58 milyon dolara mal oldu; toplam işlem gücü tahmini de yaklaşık 5,87 milyon dolara ulaştı.
- Benzer bir kümenin GPU’larını, sunucularını ve ağ donanımını satın almanın işletme ve araştırma giderleri hariç 51 milyon doların çok üzerinde olacağı tahmin edildi.
- DeepSeek, daha küçük bir modelle yapılan hazırlık deneylerinde A100 GPU’ları, R1’in ana pekiştirmeli öğrenme çalışmasında ise H800 GPU’ları kullandı.
- Mimari, pekiştirmeli öğrenme ve damıtma maliyetleri düşürebilir; ancak kullanıcıların yanıt talep etmesi sırasında daha uzun akıl yürütme de işlem gücü tüketir.
- Toplam geliştirme bütçesi, başarıyla tamamlanan başlıca eğitim çalışmalarının yanı sıra veri çalışmalarını, çalışanları, değerlendirmeleri ve tekrarlanan deneyleri de kapsıyor.






