Kimi'nin yeniden tasarlanmasına katkı sağlayan genç araştırmacı ayrılıyor
Yapay zekâ modellerinin katmanları arasında bilgi aktarımı için yeni bir yöntem geliştirilmesine katkıda bulunan 17 yaşındaki araştırmacı Chen Guangyu, Kimi'nin arkasındaki Çinli şirket Moonshot AI'dan ayrıldığını 15 Ekim 2026'da duyurdu. Chen, 16 yaşındayken, Kasım 2025'te şirketin araştırma ekibine katılmıştı.
İçindekiler
- Kimi'nin yeniden tasarlanmasına katkı sağlayan genç araştırmacı ayrılıyor
- Chen araştırmaya ne kattı?
- Attention Residuals modeli nasıl değiştiriyor?
- Yayımlanan sonuçlar ne gösteriyor?
- Okul hackathon'undan araştırma ekibine
- Hızlı yükselişin tarihleri
- Anthropic'in daveti ve milyon dolarlık iddia
- Discovery Loop neden gündeme geldi?
- Ayrılığı Moonshot'ta neleri değiştirecek?
- Öne Çıkanlar
Uluslararası alanda Nathan Chen adıyla tanınan Shenzhenli genç, somut bir araştırma katkısının ardından ayrılıyor: Moonshot araştırmacıları Yu Zhang ve Jianlin Su ile birlikte 16 Mart 2026'da yayımlanan Attention Residuals makalesinin eşit ilk yazarlığını üstlendi. Modelin temmuzdaki lansmanına ilişkin haberlere göre teknik daha sonra Kimi K3'ün bir parçası oldu.
Moonshot'ın yayımladığı deneyler, çalışmanın yaşına yönelik ilgiden daha net bir resim sunuyor. Araştırmacılar, 48 milyar parametreli bir Kimi Linear modeliyle yaptıkları testlerde değerlendirilen tüm görevlerde iyileşme kaydetti. Block Attention Residuals yöntemi, 1,25 kat daha fazla işlem gücü kullanan geleneksel bir modelin eğitim kaybını da yakaladı.
Chen'in ayrılığı, Anthropic'ten gelen açık bir davete, eski Google araştırmacılarının kurduğu bir girişim hakkındaki spekülasyonlara ve yaklaşık 1 milyon dolar ya da daha fazla değerinde beş iş teklifi aldığı bildirilen ismi açıklanmamış bir gençle Chen'i ilişkilendirme girişimlerine yol açtı.
Ancak Chen, Anthropic'e katılacağı yönündeki iddiayı kamuoyu önünde reddetti. Yeni işvereni, alacağı ücret paketi ve üniversiteye dönüp dönmeyeceği henüz doğrulanmadı.
Chen, veda mesajında Moonshot'taki zamanını anlattı ve kendisini işe alanlara teşekkür etti. Ayrılan makine öğrenimi araştırma stajyeri şöyle dedi:
Geçen yıl hayatımın en güzel yılı oldu.
Mesajını, belirli bir hedef açıklamaktansa keşfetmeye devam etme arzusunu dile getirerek sonlandırdı.
Chen araştırmaya ne kattı?
Chen'in adı, Kimi ekibinin Attention Residuals raporunda Zhang ve Su ile birlikte eşit katkı ibaresi altında yer alıyor. Bu ibare, çok daha büyük bir ekip çalışmasına öncülük eden katkıların üçünü tarafından da yapıldığını belirtiyor.
RoPE olarak bilinen döndürülebilir konum gömmeleri konusundaki çalışmalarıyla tanınan Su, ilk deneyleri gerçekleştirdi. RoPE, bir dil modelinin bir dizide kelimelerin veya diğer bilgi parçalarının nerede bulunduğunu takip etmesine yardımcı olur. Zhang ise Kimi Linear mimarisi araştırmasının ilk yazarıydı.
Su, erken aşamadaki Attention Residuals fikrini büyük modeller için pratik bir yönteme dönüştürmeye Zhang ve Chen'in yardımcı olduğunu belirtti. İkili, yöntemin avantajlarını korurken bellek ve iletişim gereksinimlerini azaltmak üzere tasarlanan Block AttnRes sürümünü birlikte önerdi.
Chen ayrıca Kimi Delta Attention (KDA) için hesaplama çekirdeklerini hızlandırma üzerinde çalıştı. Çekirdek, grafik işlem biriminde belirli bir hesabı yapan küçük bir programdır. Bu programın iyileştirilmesi, aynı donanımın bir görevi daha kısa sürede tamamlamasını sağlayabilir.
Dolayısıyla çalışmaları, birbiriyle bağlantılı iki alanı kapsıyordu: modelin nasıl tasarlanacağına karar vermek ve bu tasarımın arkasındaki hesaplamaları verimli biçimde çalıştırmak. Büyük modeller eğiten bir laboratuvar için her ikisi de araştırma bütçesiyle ne kadar çalışma yapılabileceğini etkiler.
Attention Residuals modeli nasıl değiştiriyor?
Dil modelleri bilgiyi art arda gelen çok sayıda katmandan geçirerek işler. Her katman aldığı bilgiyi dönüştürür ve sonraki katmanların bir yanıtı tahmin etmek için kullanacağı temsilleri oluşturur.
Standart artık bağlantılar, katman çıktılarının toplanması yoluyla önceki bilgilerin bu süreçte ilerlemesini sağlar. Moonshot'ın resmî araştırma deposunda bu yaklaşımın bir sorunu şöyle açıklanıyor: model derinleştikçe tekrar tekrar yapılan birikim, tekil katkıları seyreltebilir ve iç sinyallerin büyümesine yol açabilir.
Attention Residuals, bu sabit birikimin yerine öğrenilmiş bir seçim süreci getiriyor. Daha sonraki bir katman, mevcut girdiye bağlı olarak önceki katmanların ürettiği bilgilere farklı ağırlıklar verebiliyor. Bunu, her notu eşit önemle yanında taşımak yerine önceki bölümlerdeki en yararlı notlara başvuran bir okur gibi düşünebilirsiniz.
Bu seçimi önceki her katmanda ayrı ayrı uygulamak da kendi maliyetlerini doğuruyor. Block AttnRes, katmanları gruplara ayırıyor, her gruptaki olağan toplama işlemlerini koruyor ve ortaya çıkan grup temsilleri arasında seçim yapıyor. Depoya göre yaklaşık sekiz grup, tam yöntemin sağladığı kazanımların çoğunu elde ediyor.
Makalede anlatılan en büyük Kimi Linear yapılandırması, altışar katmanlı gruplara ayrılmış 54 katman kullanıyordu. İlk belirteç temsiliyle birlikte dokuz grup, seçim için 10 bilgi kaynağı sağlıyordu. Bu pratik mühendislik adımı, fikrin deney aşamasından büyük model eğitimine taşınmasına yardımcı oldu.
Yayımlanan sonuçlar ne gösteriyor?
Mart ayında yayımlanan makalede Attention Residuals, toplam 48 milyar parametreli ve işlem sırasında bunların 3 milyarını etkinleştiren bir Kimi Linear modelinde test edildi. Parametreler, modelin içindeki öğrenilmiş sayısal ayarlardır. Parametrelerin yalnızca bir bölümünü etkinleştirmek, her adımda gereken hesaplama miktarını sınırlarken modelin geniş bir öğrenilmiş bilgi havuzundan yararlanmasını sağlar.
Eğitimde, modelin işlediği metin veya diğer verilerin parçaları olan 1,4 trilyon belirteç kullanıldı. Araştırmacılar, Attention Residuals eklemenin başlangıç tasarımına kıyasla etkisini değerlendirebilmek için modelin diğer temel mimari bileşenlerini değiştirmedi.
Zorlu bilim sorularını ölçen GPQA-Diamond testinde puan 36,9'dan 44,4'e çıkarak 7,5 puan arttı. Kod üretimini ölçen HumanEval'de sonuç 59,1'den 62,2'ye yükseldi. Geniş kapsamlı bir bilgi kıyaslaması olan MMLU'da ise puan 73,5'ten 74,6'ya çıktı.
Hesaplama karşılaştırması da önem taşıyor. 1,25 kat daha fazla hesaplama kullanan başlangıç modelinin sonuçlarına ulaşmak, aynı raporlanan eğitim kaybını başlangıç bütçesinin beşte dördüyle, yani yüzde 20 daha az hesaplama kullanarak elde etmek anlamına geliyor. Eğitim kaybı, eğitim sırasında model tahminlerinin hedef yanıtlardan ne kadar saptığını ölçer.
Moonshot ayrıca teknolojinin K3'e katkısının, yüzde 2'den az ek yükle eğitim verimliliğinde yaklaşık yüzde 25 iyileşme sağladığını açıkladı. Mart ayındaki deneyler ile daha sonra K3 için dile getirilen iddialar farklı model yapılandırmalarıyla ilgili; yukarıdaki ayrıntılı kıyaslama verileri Kimi Linear'dan geliyor.
Okul hackathon'undan araştırma ekibine
Chen 2009'da Shenzhen'de doğdu. Moonshot'a katılmadan önce gençlere yönelik bir açık kaynak topluluğu kurdu, yazılım botları geliştirdi ve yapay zekâ güvenliğinden fiziğe uzanan alanlara ilgi duydu.
Üniversite başvurularına hazırlanırken, ilgisini çekmeyen bazı faaliyetlere ara verdi ve merak duyduğu konuları okumaya başladı. Araştırmaya uzanan yolu; bağımsız çalışma, teknik konularda kamuya açık yazılar yazma ve aktif araştırmacılarla iletişim kurmayı içeriyordu.
Şubat 2025'te, ThirdArm adlı, yardımcı bir robot kolu fikrini ele alan projesiyle ortaöğretim öğrencilerine yönelik Moonshot AI hackathon'una katıldı. Burada, MiraclePlus'ın kurucu ekibinden Dong Kehan ile tanıştı. Kehan, onu öncü teknolojiye odaklanmaya teşvik etti.
DeltaNet üzerine yazdığı teknik bir yazı, araştırmacı Songlin Yang'ın dikkatini çekti ve Yang yazıya yanıt verdi. Tartışma, Kaliforniya'nın Palo Alto kentindeki Tilde Research girişiminden Ben Keigwin'e ulaştı ve şirketin çalışmaları hakkında bir görüşmeye yol açtı. Chen, Temmuz 2025'te 16 yaşındayken yedi haftalık staj için tek başına buraya gitti.
Chen'in öğrenme yöntemleri arasında Gemini ile makaleleri saatlerce tartışmak, zorlandığı bölümlerin ekran görüntülerini gönderip ek sorular sormak da vardı. Ayrıca kodları, blog yazılarını ve araştırmacıların internet sitelerini okudu; önemli kararlar hakkında DeepSeek araştırmacısı Yuan Jingyang'dan tavsiye aldı.
Deneyimi, sohbet botunu öğretmen olarak kullanmanın ötesine geçiyor. Kamuya açık yazıları teknik düşüncelerini görünür kıldı, araştırmacıların dikkatini çekti ve stajlar bu düşünceleri ortak çalışmalara dönüştürme fırsatı sağladı.
Hızlı yükselişin tarihleri
Chen, bir okul projesinden uluslararası staja ve ardından yayımlanan model araştırmasına iki yıldan kısa sürede geçti. Ayrılığı, Attention Residuals'ın önemli bir Kimi sürümünde kullanılmasının ardından geldi.
- Şubat 2025: Chen, Moonshot'ın ortaöğretim öğrencilerine yönelik yapay zekâ hackathon'una katıldı.
- Temmuz 2025: Palo Alto'daki Tilde Research'te yedi haftalık stajına başladı.
- Kasım 2025: 16 yaşındayken makine öğrenimi araştırma stajyeri olarak Moonshot'ın Kimi ekibine katıldı.
- 16 Mart 2026: Attention Residuals teknik raporu yayımlandı; Chen, Zhang ve Su eşit katkı sahibi olarak gösterildi.
- Haziran 2026: Liseden mezun oldu.
- Temmuz 2026: Mimari teknolojileri arasında Attention Residuals'ın da bulunduğu Kimi K3 piyasaya çıktı.
- 15 Ekim 2026: Moonshot'tan ayrıldığını duyurdu.
- 16 Ekim 2026: Anthropic'e katılacağı yönündeki spekülasyonları reddetti.
- 20 Ekim 2026: İsimsiz bir hesap, Discovery Loop'a katıldığını öne sürdü.
Eğitim geçmişine ilişkin kamuya açık bilgilerde, Ağustos ve Eylül 2026'da Carnegie Mellon Üniversitesi'nde bulunduğu da yer alıyor. Bu kısa kayıt, sonraki adımının bir iş mi yoksa eğitime devam etmek mi olacağına ilişkin spekülasyonların parçası hâline geldi.
Anthropic'in daveti ve milyon dolarlık iddia
Anthropic'te ölçeklenebilir pekiştirmeli öğrenme çalışmalarını yöneten Sholto Douglas, Chen'in veda paylaşımına yorum yaptı. Chen'in hâlâ Carnegie Mellon'a gitmeyi düşünüp düşünmediğini sordu ve onu San Francisco'da birlikte çalışmaya davet etti.
Chen, Körfez Bölgesi'ne doğru yola çıktığını söyledi. Bu yazışma Anthropic'e katıldığı yönündeki iddiaları tetikleyince kısa bir yanıt verdi:
hayır :)
Maaş tartışması ise ayrı bir gelişmeyle başladı. Menlo Ventures yatırımcısı Deedy Das, dil modellerinin yardımıyla kendi kendine yapay zekâ öğrenen, önde gelen bir yapay zekâ şirketinde yaklaşık bir yıl staj yapan ve ABD'nin en iyi üniversitelerinden birindeki lisans programından iki hafta sonra ayrılan, adı açıklanmamış 17 yaşındaki biriyle tanıştığını anlattı.
Das'a göre bu genç, San Francisco'daki önde gelen yapay zekâ laboratuvarlarından her biri yaklaşık 1 milyon dolar ya da daha fazla değerinde beş teklif aldı. Das ayrıca gencin paradan çok öğrenmeye önem verdiğini aktardı.
Sosyal medya kullanıcıları, yaşı ve araştırma geçmişi nedeniyle bu tanımı Chen ile ilişkilendirdi. Das gencin adını açıklamadı; Chen de tekliflerin kendisine yapıldığını doğrulamadı. Dolayısıyla tartışma, Chen'e ait olduğu açıklanmış bir iş anlaşmasından ziyade, ismi verilmeyen bir kişiye yapıldığı söylenen tekliflerle ilgili.
Douglas'ın kamuya açık daveti, ilginin daha somut bir göstergesi: Kıdemli bir araştırmacı Chen'i kendisine katılmaya açıkça teşvik etti. Chen'in sonraki reddi de Anthropic iddialarına doğrudan yanıt veriyor.
Discovery Loop neden gündeme geldi?
Yapay zekâ alanındaki personel hareketlerini izleyen Arfur Grok adlı isimsiz hesap, 20 Ekim'de Chen'in şirkete katıldığını öne sürünce dikkatler Discovery Loop'a çevrildi. Chen böyle bir görevi doğrulamadı; girişim de personel konuları hakkında yorum yapmayı reddetti.
Şirket, eski Google araştırmacıları Jeff Dean, Sanjay Ghemawat, Quoc Le ve Oriol Vinyals tarafından Ağustos 2026'da kuruldu. Şirketin açıkladığı amaç; fikirler üretmek, deneyler yapmak ve sonuçları analiz etmek de dâhil olmak üzere bilim ve makine öğrenimi araştırmalarını yapay zekâ kullanarak otomatikleştirmek.
Verimli model tasarımıyla ilgilenen bir araştırmacı için bu misyon, aşina olduğu teknik sorunları içeriyor. Çok sayıda araştırma deneyi yapan sistemlerin hesaplama kaynaklarını verimli kullanması gerekiyor; algoritmalardaki veya çekirdeklerdeki iyileştirmeler, belirli bir bütçeyle daha fazla deney yapılmasını sağlayabilir.
Discovery Loop'un finansmanı da ilgi çekti. Şirketin eylülde yaklaşık 50 milyar dolarlık değerlemeyle yatırım aradığı, birkaç hafta önce ise yaklaşık 10 milyar dolarlık değerleme üzerinden görüşmeler yaptığı bildirildi. Bu, beş katlık artış anlamına geliyor. Söz konusu rakamlar, yatırım görüşmeleri sırasında önerilen şirket değerlemelerini ifade ediyor.
Chen'in Tilde Research üzerinden Körfez Bölgesi'yle hâlihazırda bir bağlantısı da var. Önceki stajı, Kaliforniya'ya yapacağı yolculuğun tek bir açık hedef yerine çeşitli mesleki temasları içerebileceğini açıklamaya yardımcı oluyor.
Ayrılığı Moonshot'ta neleri değiştirecek?
Chen'in 16 yaşında işe alınmasını destekleyen Moonshot araştırmacısı Du Yulun, ayrılık kararı hakkında ikilinin uzun uzun konuştuğunu söyledi. Du, Chen'in yaşında yeni ilgi alanlarını keşfetme arzusunu desteklerken üzüntüsünü de dile getirdi.
Chen'in katkıları, ekibin araştırma kayıtlarında yer almaya devam ediyor. Temmuzda 2,8 trilyon parametreyle piyasaya çıkan Kimi K3, Attention Residuals'ı Kimi Delta Attention ile birleştirdi. Bu iki teknoloji bilgi işlemenin farklı yönlerine odaklanıyor: AttnRes, bilginin model derinliği boyunca nasıl ilerlediğini değiştirirken KDA, dizilerin verimli biçimde işlenmesine yardımcı oluyor.
Moonshot, K3'ün ölçeklendirme verimliliğinde K2'ye kıyasla yaklaşık 2,5 kat iyileşmeyi mimari değişikliklere, eğitim yöntemlerine ve veri tercihlerine birlikte bağladı. Bu da Chen'in çalışmasının, çok sayıda araştırmacıyı ve çeşitli teknik değişiklikleri kapsayan daha geniş bir şirket çalışmasının parçası olduğunu gösteriyor.
Bu gelişmelerin pratik etkisi, sıra dışı yaşta bir çalışanın kariyerinin ötesine uzanıyor. Daha verimli öğrenen bir model, pahalı işlemcileri ve araştırma bütçelerini daha iyi kullanabilir. Matematiksel tasarımı hızlı uygulamayla birleştirebilen bir araştırmacı da bu hedefe doğrudan katkı sunabilir.
Chen, yayımlanmış çalışmaları, iki araştırma ortamındaki deneyimi ve önde gelen başka bir laboratuvardan gördüğü ilgiyle Moonshot'tan ayrılıyor. Doğrulanmış hikâye zaten kayda değer: Genç bir araştırmacı, mimari bir fikrin kullanılabilir bir yönteme dönüşmesine yardımcı oldu; ardından yeni görevini açıklamadan önce keşfetmeye devam etmeyi seçti.
Öne Çıkanlar
- Nathan Chen adıyla da tanınan Chen Guangyu, 17 yaşındayken 15 Ekim 2026'da Moonshot AI'dan ayrıldığını duyurdu.
- 16 Mart'ta yayımlanan Attention Residuals makalesinde Yu Zhang ve Jianlin Su ile eşit ilk yazar olarak yer aldı.
- Moonshot'ın deneyleri, değerlendirilen tüm görevlerde iyileşme gösterdi ve 1,25 kat daha fazla hesaplama kullanan bir başlangıç modelinin sonuçlarına ulaştı.
- Chen, Block AttnRes'in geliştirilmesine katkı sağladı ve Kimi Delta Attention hesaplamalarını hızlandırmak için çalıştı.
- Körfez Bölgesi'ne gittiğini söyledi ve Anthropic'e katılacağı yönündeki iddiaları reddetti.
- Discovery Loop'a katıldığı iddiası ve her biri yaklaşık 1 milyon dolar değerinde beş teklifle ilişkilendirilmesine dair spekülasyonlar doğrulanmadı.






