Alibaba, ABD Kısıtlamaları Sıkılaşırken Yeni Qwen Modelini T-Head Çiplerinde Eğitiyor

9 dakikalık okuma
Alibaba Trains Its Next Qwen Model on T-Head Chips as US Curbs Tighten

Tek bir çip tedarik zinciri artık hem Qwen'i geliştirmeyi hem de çalıştırmayı destekliyor

Alibaba Üst Yöneticisi (CEO) Eddie Wu, 19 Kasım'da şirketin bir sonraki nesil Qwen yapay zekâ modellerini eğitmek için T-Head çip biriminin işlemcilerini kullandığını söyledi. Şirket ayrıca, yapay zekâ modellerine erişim ve uygulama geliştirme platformu Bailian üzerinden müşteriler için modelleri çalıştırmak amacıyla Çin üretimi çipler kullanıyor.

İçindekiler
  1. Tek bir çip tedarik zinciri artık hem Qwen'i geliştirmeyi hem de çalıştırmayı destekliyor
  2. T-Head eğitim işine ne katıyor?
  3. Eğitim ve çıkarım neden ayrı ayrı ele alınmalı?
  4. Yeni çipler tedariki ne kadar yakında artırabilir?
  5. Kazanç sonuçları yapay zekâ işi hakkında ne söylüyor?
  6. Yeni ABD kuralları Alibaba için ne anlama geliyor?
  7. Neler hâlâ belirsiz?
  8. Öne Çıkan Noktalar

Bu duyuru, zorlu iki işi Alibaba'nın kendi çatısı altına taşıyor. Eğitim, bir modele büyük miktarda veri üzerinden işlem yaptırılarak ve iç ayarları uyarlanarak öğretilmesi sürecidir. Çıkarım (inference) ise tamamlanmış bir modelin bir soruya yanıt vermesi veya bir görevi yerine getirmesi durumunda gerçekleşen şeydir. Eğitim genellikle ciddi bir hesaplama gücü gerektirirken, çıkarım bir kullanıcı ya da uygulama modelden bir şey yapmasını her istediğinde gerçekleşir.

Alibaba açısından T-Head çiplerinin her iki işte kullanılması, dış işlemcilere bağımlılığı azaltabilir ve donanım, modeller ile bulut hizmetlerinin koordinasyonuna yardımcı olabilir. Bu aynı zamanda şirkete, kendi çiplerini üstlenmeleri amaçlanan karmaşık iş yükleri üzerinde test etme imkânı da veriyor. Wu, şirketin çipleri ile modelleri arasındaki bağlantının hesaplama maliyetlerini düşürebileceğini ve yapay zekâ uygulamaları geliştirmeyi daha verimli hale getirebileceğini söyledi.

Bu değişim, Çin'in gelişmiş hesaplama gücüne erişimde daha sıkı sınırlarla karşılaştığı bir dönemde geliyor. 16 Kasım'da açıklanan yeni ABD kuralları, Malezya, Singapur, Tayland, Endonezya ve Brezilya gibi ülkelerdeki veri merkezlerinin Çinli şirketlere ciddi miktarda hesaplama gücü sağlamaları halinde lisans almalarını zorunlu kılıyor. Bu da yurt dışındaki veri merkezleri üzerinden erişimin yanı sıra bazı çiplerin sevkiyatının da daha büyük bir belirsizlikle karşı karşıya olduğu anlamına geliyor.

Alibaba'nın finansal sonuçları, ortada olan riskin altını çiziyor. Temmuz-eylül çeyreğinde gelir 271,5 milyar yuana ulaşarak bir önceki yılın aynı dönemine göre %10 arttı. Şirketin yapay zekâ bulut ve hesaplama hizmetleri yaklaşık 61 milyar yuan gelir getirdi; bu %53'lük bir artış anlamına geliyor. Alibaba, bulut gelirlerindeki büyümenin önümüzdeki mali yılda %30-45 aralığına yavaşlamasını, 2028 takvim yılında ise %50'yi aşabileceğini öngörüyor.

Reklam

T-Head eğitim işine ne katıyor?

T-Head, Alibaba'nın çip tasarımı iştiraki. Wu'nun kazanç açıklamasına göre Zhenwu M890 işlemcisi ağustosta hizmete girdi ve büyük ölçekli satışa geçti. Şirket, M890'ın selefi Zhenwu 810E'nin üç katı performans sunduğunu belirtiyor.

Alibaba'nın M890 duyurusu, 144 gigabayt çip üzeri bellek ve çipler arasında saniyede 800 gigabayt bant genişliği sıralıyor. Bellek, bir işlemcinin veriyi işlerken kullandığı hızlı çalışma alanıdır. Bant genişliği ise büyük bir iş üzerinde birlikte çalışan işlemciler arasındakiler de dahil olmak üzere bilginin ne kadar hızlı hareket edebildiğini tanımlar.

M890, hesaplamalar için daha fazla ayrıntı saklayan FP32'den, daha az veri kullanan ve daha hızlı, daha ekonomik görevlere uygun olabilen FP4'e kadar çeşitli sayısal hassasiyet seviyelerini destekliyor. Bu aralık önemli, çünkü eğitim ve çıkarım her zaman doğruluk, hız ve maliyet açısından aynı dengeyi gerektirmez.

Alibaba, T-Head'in 560 binden fazla Zhenwu çipi sevk ettiğini ve 20 sektörde 400'den fazla dış müşterinin bunları kullandığını söylüyor. Bu rakamlar, Alibaba'nın kendi model geliştirme faaliyetlerinin ötesinde müşterilere hizmet veren bir işe işaret ediyor; ancak şirket T-Head gelirinin ne kadarının dış alıcılardan geldiğini açıklamadı.

Eğitim ve çıkarım neden ayrı ayrı ele alınmalı?

Bir model bir tür donanımda eğitilip ardından başka birinde çalıştırılabilir. Alibaba'nın duyurusu, T-Head işlemcilerinin her iki aşamada da kullanılmasına yönelik bir adım; ancak şirket tedarikini planlarken bu ayrım hâlâ önem taşıyor. Bir sonraki Qwen modelinin eğitilmesi, hesaplama kümeleri üzerinde sürekli talepler yaratıyor. Çıkarım ise çok sayıda müşteri talebine güvenilir biçimde ve işletmelerin karşılayabileceği bir maliyetle yanıt verebilmek için yeterli kapasiteyi gerektiriyor.

Uluslararası alanda Model Studio adıyla bilinen Bailian, bu işlemcileri yapay zekâ modellerini kullanmak isteyen geliştiriciler ve şirketlerle buluşturuyor. Müşteriler, hizmet aracılığıyla modellere ve uygulama geliştirmeye yönelik araçlara erişebiliyor. Alibaba, Bailian'ın hâlihazırda Çin üretimi çipler üzerinde çıkarım sunduğunu, dolayısıyla yerli donanımın iç geliştirmenin yanı sıra müşteri hizmetlerinde de kullanıldığını belirtiyor.

Wu, Alibaba'nın özellikle çıkarım için başka Çin çipleri de satın almayı planladığını söyledi. Şirket, 2027 sonrasında yeni yapay zekâ çipi tedarikinin büyük bölümünün T-Head'den gelmesini bekliyor ve çıkarım ihtiyaçlarını karşılamak için çeşitli yerli işlemciler kullanacak. Bu yaklaşım, Alibaba'ya ana bir şirket içi tedarik kaynağı sağlarken diğer Çinli üreticilerin çiplerini kullanmaya da alan bırakıyor.

PPU adı verilen ayrı bir T-Head işlemcisi de çıkarıma odaklı bir ürün olarak tanımlandı. Yayımlanan bilgiler, ona M890'dan farklı özellikler atfediyor; bunlar arasında 96 gigabayt bellek ve çipler arası saniyede 700 gigabayt bant genişliği yer alıyor. Bu rakamlar Qwen'i eğitmek için kullanılan M890'a değil, PPU'ya ait. Ürünleri birbirinden ayrı tutmak, Alibaba'nın farklı işler için neden farklı çipler kullanabileceğini açıklamaya yardımcı oluyor.

Reklam

Yeni çipler tedariki ne kadar yakında artırabilir?

Alibaba'nın planları M890'ın ötesine uzanıyor. Wu, yeni nesil Zhenwu V900'ün 2027'nin ilk çeyreğinde seri üretime geçmesinin beklendiğini ve hesaplama kapasitesinin M890'ın üç katı olacağını söyledi. V900'ü kullanan bir süper düğüm kümesinin 2027'nin ikinci çeyreğinde ticari olarak devreye alınması planlanıyor. Süper düğüm, tek bir büyük hesaplama sistemi olarak birlikte çalışmak üzere tasarlanmış, sıkı biçimde birbirine bağlı bir işlemci grubudur.

Onu izleyen Zhenwu J900 ise 2028 için planlanıyor. Takvim önemli, çünkü Alibaba Çin'de hesaplama arzının 2027 ve 2028 boyunca sıkı kalmasını bekliyor. Yeni modeller ve işlemcilerin daha geniş kullanılabilirliği bu baskının bir kısmını hafifletebilir; ancak şirketin planları çip üretimi ile destekleyici altyapının amaçlandığı gibi büyüyüp büyüyemeyeceğine bağlı.

Alibaba ayrıca T-Head için dış yatırım arıyor. Şirket, T-Head'in 11 Eylül'de gizli bir başvuru yapmasının ardından çip birimini Hong Kong'da halka arz için ayırma planlarını duyurdu. Alibaba, iştirakin ayrıntılı finansal verilerini veya nihai halka arz koşullarını açıklamadı. T-Head'in planlanan halka arzı, yatırımcılara çip işini ayrı olarak değerlendirme imkânı sunarken, Alibaba Cloud ile ticari ilişkisinin nasıl işleyeceği sorusunu açık bırakıyor.

Wu, Alibaba'nın önce kendi modellerinin yeterli hesaplama kapasitesine sahip olduğundan emin olacağını, ardından önemli ortakların ihtiyaçlarını değerlendireceğini söyledi. Yapay zekâ hizmetlerine talep işlemci arzını aşmaya devam ederse bu tahsis, bulut müşterileri açısından önemli olabilir.

Kazanç sonuçları yapay zekâ işi hakkında ne söylüyor?

Alibaba'nın yapay zekâ bulut ve hesaplama hizmetleri eylül çeyreğinde 60,97 milyar yuan kazandı; bu geçen yılın aynı dönemine göre %53'lük bir artış. Dış müşterilerden elde edilen gelir yaklaşık 47 milyar yuan olurken %64 arttı. Bunun içinde yapay zekâ ürün geliri 17,9 milyar yuana ulaştı ve sonuçlarla birlikte açıklanan verilere göre 13 çeyrek üst üste üç haneli büyüme kaydetti.

Şirketin bulut işi için düzeltilmiş faiz, vergi ve amortisman öncesi kârı 8,84 milyar yuan oldu; marj %14,5. Alibaba, bulut kârlılığındaki iyileşmeyi daha yüksek marjlı yapay zekâ ürünlerinin payının artmasına, hesaplamaya yönelik güçlü talebe ve veri merkezlerinden sağlanan verimliliğe bağlıyor. Daha pahalı satın alınan çiplerin yerine T-Head işlemcilerinin kullanılması da maliyetlerin kontrol altında tutulmasına yardımcı olabilir; ancak bunlar üzerinde Qwen eğitmekten elde edilen gerçek tasarruflar açıklanmadı.

Bailian'ın model hizmeti işinin kendi satış hedefi var. Wu, mevcut abonelik ve kullanım hızına dayalı yıllık bir tahmin olan yıllık yinelenen gelirin ağustosta 20 milyar yuanı aştığını söyledi. Mali yıl sonuna kadar 30 milyar yuan hedefini korudu. Şirketin daha önceki bir duyurusu, platformun yıllık yinelenen gelirini haziran çeyreğinde 10 milyar yuanın üzerinde göstermişti; bu da rakamların farklı zaman dilimlerine işaret ettiğini ortaya koyuyor.

Alibaba, bu büyümenin arkasındaki kapasiteyi kurmak için yoğun yatırım yapıyor. Sermaye harcamaları eylül çeyreğinde 50,5 milyar yuana ulaştı; bu bir yıl öncesine göre yaklaşık %60 daha yüksek. Şirket, yapay zekâ modelleri, çipler ve bulut altyapısını kapsayan işler ve hizmetler için üç yıl içinde 53 milyar doların üzerinde taahhütte bulundu. Yöneticiler ayrıca 20 gigavat hesaplama kapasitesi inşa etmeye yönelik uzun vadeli planın revize edilebileceğini söylerken, nakit akışının 2028'in ikinci yarısında pozitife dönmesini bekliyor.

Reklam

Yeni ABD kuralları Alibaba için ne anlama geliyor?

16 Kasım'da alınan önlemler, Çinli şirketlerin gelişmiş çiplere erişmek için kullandığı bir güzergâhı hedef alıyor: Çin dışındaki veri merkezlerinden hesaplama gücü kiralamak. Yeni kısıtlamalar kapsamında, Çinli müşterilere ciddi miktarda hesaplama gücü sağlayan veri merkezlerinin lisans alması gerekiyor. Kurallar ayrıca Güneydoğu Asya'daki belirli ülkeleri ve Brezilya'yı kapsıyor; böylece kontroller doğrudan çip sevkiyatının ötesine, hesaplama hizmetlerine erişime kadar genişletiliyor.

Wu, kuralların 2027'de Alibaba'nın ürün ve hizmetlerini etkileyeceğini ve küresel tedarik zincirlerine belirsizlik getireceğini söyledi. Ayrıca kısıtlamaların Qwen'in gelişimini nasıl etkileyebileceğini bilmek için henüz erken olduğunu belirtti. Bu iki ifade arasındaki fark, şirketin konumunu özetliyor: T-Head hâlihazırda gerçek iş yüklerini destekliyor; ancak gelecekteki tedarik ve model geliştirme hızı, çiplerinin ne kadar hızlı üretilebileceğine bağlı olmayı sürdürüyor.

Alibaba, 2030 için dış bulut gelirinde 100 milyar dolar ve uzun vadede %20'nin üzerinde kâr marjı hedefini koruyor. Kısa vadeli bulut büyüme tahmini ise daha temkinli: önümüzdeki mali yıl için %30 ila %45. Bu fark, birkaç yıl boyunca iddialılığını koruyan, ama kısa vadede müşterilere hizmet vermek ve yeni modeller geliştirmek için gereken hesaplama kaynaklarındaki sınırlarla karşılaşan bir planı yansıtıyor.

Neler hâlâ belirsiz?

Alibaba, bir sonraki Qwen modelinin eğitiminin ne kadarının T-Head çiplerinde yürütüleceğini, bu işin ne kadar hesaplama kapasitesi gerektireceğini veya şirketin ne kadar maliyet tasarrufu sağladığını açıklamadı. Veri merkezi inşasının nihai ölçeği ve 20 gigavatlık hedefte yapılacak olası bir değişiklik de belirsizliğini koruyor. Şirketin önündeki başlıca donanım kilometre taşları, 2027'nin başlarında beklenen V900 üretim başlangıcı ve süper düğüm kümesinin o baharın ilerleyen döneminde planlanan ticari lansmanı.

Asıl sınav, T-Head'in yeterli sayıda işlemci tedarik edip edemeyeceği ve bu işlemcilerin ölçekte iyi ve ekonomik biçimde performans gösterip göstermeyeceği. Başarı, Alibaba'nın model geliştirme ve bulut hizmetlerinde kendi donanımına daha fazla güvenmesine yardımcı olur. Aynı zamanda yabancı hesaplama kaynaklarına erişimin daha belirsiz hale geldiği bir dönemde T-Head'e Çin'in yerli yapay zekâ tedarik zincirinde daha büyük bir rol kazandırır.

Reklam

Öne Çıkan Noktalar

  • Alibaba CEO'su Eddie Wu, şirketin bir sonraki Qwen modelini T-Head çiplerinde eğittiğini ve Bailian çıkarım hizmetleri için Çin çiplerini kullandığını söyledi.
  • Zhenwu M890, 144 gigabayt çip üzeri belleğe sahip ve Alibaba tarafından selefinin üç katı performansla derecelendiriliyor.
  • Alibaba, 2027 sonrasında yeni yapay zekâ çipi tedarikinin büyük bölümünün T-Head'den gelmesini bekliyor ve çıkarım için başka yerli çipler de satın alıyor.
  • V900'ün 2027'nin başlarında seri üretime girmesi bekleniyor; bir süper düğüm kümesinin de ikinci çeyrekte ticari olarak devreye alınması planlanıyor.
  • Alibaba, eylül çeyreğinde yapay zekâ bulut ve hesaplama hizmetlerinden 61 milyar yuan gelir bildirdi; bu geçen yılın aynı dönemine göre %53 artış anlamına geliyor.
  • 16 Kasım'da açıklanan ABD kısıtlamaları, Çinli şirketlere hesaplama gücü sağlayan bazı veri merkezleri için lisans zorunluluğu getiriyor.
Bu haberi paylaş

Bunlar da ilginizi çekebilir