Uzun belgeleri saklamanın daha küçük bir yolu
DeepSeek, uzun metinleri görüntülere dönüştüren ve gerektiğinde içeriklerini geri çıkaran bir görsel dil sistemi olan DeepSeek-OCR'ı yayımladı. Şirket, ayarlara ve belge türüne bağlı olarak token kullanımının yaklaşık yedi ila yirmi kat azaldığını bildiriyor. Yaklaşık on kat sıkıştırmada, bildirilen çözümleme doğruluğu yüzde 97 civarında.
İçindekiler
- Uzun belgeleri saklamanın daha küçük bir yolu
- Tokenlar uzun belgeleri neden pahalı hâle getiriyor?
- Bir sayfa nasıl kompakt bir görsel temsile dönüşüyor?
- DeepEncoder ve dil modelinin iç işleyişi
- Doğruluk rakamları ne gösteriyor?
- Mod seçimi ve büyük ölçekte işleme
- Bu, yapay zekâ ürünlerinde neleri değiştirebilir?
- Sıkıştırmanın dikkat gerektirdiği noktalar
- Geliştiriciler sürümü nasıl deneyebilir?
- Öne Çıkanlar
22 Ekim 2025 itibarıyla erişime açılan sürüm, geliştiriciler için kod ve model ağırlıklarını içeriyor. Sistem, yapay zekâ için maliyetli bir sorunu hedefliyor: Bir modelin belleğini tüketmeden ya da yanıtları aşırı yavaş ve pahalı hâle getirmeden büyük miktarda bilgiyi okumak ve akılda tutmak.
DeepSeek-OCR; sayfaları, tabloları, grafikleri ve diğer düzenleri kompakt görsel token kümelerine dönüştürmek için DeepEncoder adlı bir görsel kodlayıcı kullanıyor. DeepSeek3B MoE A570M adlı bir dil modeli de bu tokenları metne dönüştürüyor. Çıktı; biçimlendirme ve Markdown tabloları dâhil belge yapısını koruyabiliyor veya düz metin sunabiliyor.
Sıkıştırmanın bir ödünleşimi var. DeepSeek, sıkıştırma yaklaşık yirmi kata çıktığında çözümleme doğruluğunun yüzde 60 civarına düştüğünü bildiriyor. Orta düzey ayarlar, daha küçük girdiler ile içeriğin aslına uygun biçimde geri elde edilmesi arasında daha iyi bir denge sağlarken agresif ayarlar hata olasılığını artırıyor.
Sistem, belge işlemlerini büyük ölçekte gerçekleştirmeyi de hedefliyor. DeepSeek, tek bir Nvidia A100 GPU'da günde 200 binden fazla, benzer özellikteki 20 sunucudan oluşan bir kümede ise günde yaklaşık 33 milyon sayfa işleyebildiğini bildiriyor. Bu rakamlar, tek tek PDF'leri okumanın ötesinde, belge koleksiyonlarını sayısallaştırma ve eğitim verisi üretme gibi kullanım alanlarına işaret ediyor.
Tokenlar uzun belgeleri neden pahalı hâle getiriyor?
Dil modelleri; bütün sayfalar ya da mutlaka bütün kelimeler yerine, dilin küçük parçaları olan tokenlarla işlem yapıyor. Kısa bir kelime tek tokendan oluşabilir. Uzun bir kelime birkaç tokene bölünebilir; noktalama işaretleri de token sayılır. Bu nedenle, bir insana yönetilebilir görünen rapor model için binlerce tokene dönüşebilir.
Bağlam penceresi, bir modelin aynı anda değerlendirebileceği en yüksek token sayısıdır. Bir belge bu sınırı aştığında kullanıcı bölümleri çıkarmak, içeriği daha küçük parçalara ayırmak ya da daha yüksek maliyetli, uzun bağlam için tasarlanmış bir model kullanmak zorunda kalabilir.
Transformer modelleri, girdilerindeki bilgileri birbirine bağlamak için dikkat mekanizmalarından yararlanıyor. Bu mekanizmalar çok sayıda token çiftini karşılaştırıyor; dolayısıyla girdi uzadıkça gereken işlem miktarı hızla artıyor. Daha fazla token, daha çok bellek kullanımı ve daha uzun işlem süreleri anlamına da geliyor. Bir hizmet çok sayıda belgeyi ya da konuşmayı işlediğinde bu durum maliyetleri yükseltebiliyor.
DeepSeek-OCR, metnin tamamını sıradan dil tokenları olarak taşımak yerine bir sayfayı görsel tokenlarla temsil ederek bu soruna yaklaşıyor. Görsel kodlayıcı sayfa görüntüsünü okuyor ve kod çözücünün yapılandırılmış metne dönüştürebileceği kompakt bir temsil oluşturuyor.
Önerilen fayda, uzun oturumlar ve büyük dosyalar için daha düşük maliyetli bir bellek katmanı. Önceki içerikler kompakt görsel biçimde saklanabilir, gerektiğinde ayrıntılar geri elde edilebilir. Kodlama ve çözümleme ek işlem gerektirse de bu yaklaşım, bir yapay zekâ sisteminin kullanabileceği etkili bağlam miktarını yalnızca metinle mümkün olanın ötesine taşıyabilir.
Bir sayfa nasıl kompakt bir görsel temsile dönüşüyor?
DeepEncoder, belge sayfalarının görüntüleriyle çalışmaya başlıyor. Görsel kodlayıcılar görüntüleri parçalara ayırıyor ve bu parçaları tokenlar olarak temsil ediyor. DeepSeek'in mimarisi, ortaya çıkan özellikleri dil modeline aktarmadan önce bir sıkıştırma aşaması ekliyor.
Teknik notlardaki bir örnek, 1.024 x 1.024 piksel boyutundaki bir görüntüyle başlıyor. Görüntü başlangıçta 4.096 parça tokenı üretiyor; sıkıştırma bloğu bu sayıyı 256 tokene indiriyor. Normalde 1.500 ya da daha fazla metin tokenı gerektirecek yoğun bir sayfa, böylece çok daha küçük bir görsel girdiyle temsil edilebiliyor.
Bu iki azaltım, sürecin farklı aşamalarını anlatıyor. 4.096 görüntü parçası tokenının 256'ya indirilmesi, kodlayıcı içindeki görsel temsili küçültüyor. 256 görsel tokenı sayfanın metin tokenı sayısıyla karşılaştırmak ise belge dil işleme sistemine girdiğinde elde edilebilecek tasarrufu gösteriyor.
Sayfa görüntüleri, basit bir metin akışıyla ifade edilmesi güç bilgileri de koruyor. Sütunların, tablo hücrelerinin, denklemlerin ve diyagramların sayfa üzerinde konumları ve birbirleriyle ilişkileri var. Bu düzenin korunması, kod çözücünün kelimelerin yanı sıra yapıyı da yeniden oluşturmasına yardımcı oluyor ve metni dil tokenlarına bölmenin yol açtığı bazı güçlükleri önlüyor.
Bunun bedeli, ek bir dönüştürme süreci ve sıkıştırma oranı yükseldikçe yaşanan kademeli hassasiyet kaybı. Uygulamada önemli olan, belirli bir görevin gerektirdiği ayrıntıları koruyarak temsili ne kadar küçülteceğine karar vermek.
DeepEncoder ve dil modelinin iç işleyişi
DeepEncoder, yerel ayrıntı algısını sayfanın genel kavranışıyla birleştiriyor. Segment Anything Model omurgası bölgeler ve kenarlar gibi ince ayrıntıları işliyor. CLIP tarzı bir modül ise anlam ve düzen konusunda daha geniş bir kavrayış sağlıyor. Aradaki evrişimli sıkıştırıcı, bilgi dil modeline ulaşmadan önce görsel token sayısını azaltıyor.
Farklı çözünürlük modları, geliştiricilerin token bütçesini sayfaya göre ayarlamasına olanak tanıyor. Basit bir slayt görece az sayıda tokenla işlenebilirken, yoğun bir gazete sayfası ya da ayrıntılı bir bilimsel şekil daha fazla ayrıntı gerektirebilir.
Kod çözücü DeepSeek3B MoE A570M, Uzmanlar Karması (Mixture of Experts) mimarisini kullanıyor. Yaklaşık üç milyar parametreye sahip bir tasarımı var ve her token için yaklaşık 570 milyon parametre etkinleştiriliyor. Parametreler, eğitim sırasında öğrenilen sayısal ayarlardır. Uzman yönlendirme, işleme için modelin belirli bölümlerini seçerek her tokenda modelin tamamını etkinleştirmeye kıyasla gereken hesaplama miktarını azaltıyor.
Sistem, görüntülerdeki metni makinelerin okuyabileceği metne dönüştüren çok dilli optik karakter tanımayı (OCR) destekliyor. Ayrıca diyagramları, kimyasal yapıları ve geometrik şekilleri yorumlayabiliyor. Çıktılar arasında düz metin, yapısı korunmuş Markdown ve tablo ve grafiklerden yazılımların işleyebileceği biçimlerde çıkarılan veriler yer alıyor.
Eğitimde, yaklaşık 100 dilde yaklaşık 30 milyon PDF sayfasının yanı sıra grafikler, formüller ve şekiller için sentetik veriler kullanıldı. Bu karışım, tek tek karakterleri tanımaktan daha kapsamlı bir görevi destekliyor: Farklı belge türlerinde kelimeler, sayılar ve görsel öğeler arasındaki ilişkileri yeniden kurmak.
Doğruluk rakamları ne gösteriyor?
DeepSeek, on katın altındaki sıkıştırma oranlarında çözümleme doğruluğunun yaklaşık yüzde 97 olduğunu, on kat civarında da benzer bir genel sonucun elde edildiğini bildiriyor. Sıkıştırma yaklaşık yirmi kata çıktığında doğruluk yüzde 60 civarına düşüyor. Daha küçük temsil token tasarrufu sağlıyor, ancak geri elde edilen içerik daha az güvenilir hâle geliyor.
Odaklı bir kıyaslama testinde, 100 görsel tokenın normalde 700 ila 800 metin tokenı gerektirecek belgeleri temsil ettiği ve doğruluğun yüzde 97 civarında kaldığı örnekler de yer alıyor. Bu örnekler, işe yarar sıkıştırma düzeyinin her sayfada aynı sonucu veren tek bir ayardan ziyade belgeye ve göreve bağlı olduğunu gösteriyor.
Belge anlama kıyaslama testi OmniDocBench'te DeepSeek-OCR'ın daha az token kullanırken bilinen OCR sistemlerinden daha iyi performans gösterdiği bildiriliyor. Token gereksinimi belge kategorisine göre değişiyor. Slaytlar ve basit broşürler sayfa başına yaklaşık 64 görsel tokenla işlenebilirken, birkaç sütunu ve görseli olan dergiler ve gazeteler birkaç yüz token gerektirebiliyor.
Geliştiriciler, biçimlendirmeyi korumayı ya da çıktıdan çıkarmayı seçebiliyor. Bir sayının bulunduğu sütun anlamını belirlediğinde veya bir başlık altındaki metni açıkladığında sayfa düzenini korumak önem taşıyor. Yalnızca kelimeleri bulmaya ya da belge içeriğinde arama yapmaya odaklanan görevlerde düz metin yeterli olabilir.
İsimlerin, sayıların ve hukuki hükümlerin özellikle dikkatle ele alınması gerekiyor; çünkü küçük bir hata bile anlamlarını değiştirebilir. Bildirilen doğruluk düzeyleri, sıkıştırma ayarlarını bir iş akışının ne kadar ayrıntıyı geri elde etmesi gerektiğine göre seçilecek pratik bir karara dönüştürüyor. Aslına çok yakın yeniden üretim gerektiren içeriklerde daha temkinli ayarlar kullanılabilir.
Mod seçimi ve büyük ölçekte işleme
DeepSeek-OCR, Tiny, Small, Base ve Large ön ayarlarının yanı sıra özellikle karmaşık sayfalar için dinamik bir mod sunuyor. Her ön ayar, görüntü boyutu ile kullanılan token sayısı arasında bir denge kuruyor. DeepSeek, tipik sayfalarda Small ile başlamayı, içerik yoğun ya da düzen karmaşıksa çözünürlüğü artırmayı öneriyor.
Bu sayede basit slaytlara, formüllerle dolu bilimsel sayfalardan veya karmaşık tablolar içeren belgelerden daha küçük bir bütçe ayrılabiliyor. Sabit bir ön ayarın sayfanın karmaşıklığına uygun olmadığı durumlarda dinamik mod da bir seçenek sunuyor.
DeepSeek'in operasyonel verilerine göre tek bir Nvidia A100 GPU'da işleme kapasitesi günde 200 binden fazla sayfaya ulaşıyor. Ekip, benzer özellikteki 20 sunucudan oluşan bir küme için de günde yaklaşık 33 milyon sayfalık bir rakam veriyor. Bunlar şirketin bildirdiği işleme değerleri; performans planlaması için yine de ekibin kullanmayı düşündüğü belgeler ve donanım üzerinde ölçüm yapılması gerekiyor.
Yüksek işlem kapasitesi, sayısallaştırma ve eğitim verisi üretimi açısından önem taşıyor. GPU başına günde yüz binlerce sayfanın işlenmesi, büyük belge koleksiyonlarının aranabilir metne veya dil ve görsel modelleri için yapılandırılmış örneklere dönüştürülmesine yardımcı olabilir.
Sürüm, akademik ve ticari kullanımı kapsayan esnek bir lisansla eğitim ve çıkarım kodunu model ağırlıklarıyla birlikte içeriyor. Hem uygulamaya hem de öğrenilmiş model ayarlarına erişim, geliştiricilerin sıkıştırma sürecini denemesine ve bunun üzerine belge işleme iş akışları kurmasına olanak tanıyor.
Bu, yapay zekâ ürünlerinde neleri değiştirebilir?
Uzun konuşmalar ve belge zincirleri, yapay zekâ asistanlarını bağlam sınırlarına yaklaştırabiliyor. DeepSeek-OCR'ın olası kullanım alanlarından biri, önceki konuşma turlarını ya da belge sayfalarını görüntülere sıkıştırmak, kompakt görsel temsillerini saklamak ve sonraki bir istek gerektirdiğinde ayrıntıları çözümlemek.
Bu yaklaşım, etkin metin bağlamını daha küçük tutarken önceki çalışmalardaki bilgilere, alıntılara ve sayfa düzenlerine erişimi koruyabilir. Anlamları sözcükler ve simgeler kadar düzenlerine de bağlı olabilen tablolar ve matematiksel içerik özellikle önem taşıyor.
Tam uzunluktaki PDF'lerle, sözleşmelerle veya elektronik tablolarla çalışan bir asistan, kompakt bir temsil saklayıp seçili bölümleri yapılarıyla birlikte geri getirebilir. Bir tablonun satırlarını çıkarmak ya da şekil açıklamasını geri elde etmek, oturum boyunca özgün belgenin her bölümünü metin olarak taşımak yerine ilgili içeriği yeniden oluşturmayı gerektirir.
Kurumsal arama da olası bir kullanım alanı. Bir sistem, kompakt sayfa temsillerini dizine ekleyip kullanıcı istediğinde ilgili bölümleri çözümleyebilir. Form ve grafiklerin yaygın olduğu finans, sağlık ve bilim alanları da sayısallaştırmayı desteklemek için aynı belge işleme yeteneklerinden yararlanabilir.
Eğitim verisi üretimi kendi kalite sorunlarını da beraberinde getiriyor. Çıktılar başka bir modeli eğitmek için kullanıldığında, küçük çözümleme hataları yanlış etiketlere dönüşebilir. Bildirilen işleme ölçeğinde, elde edilen verinin yararlı olması için doğruluğun denetlenmesi gerekiyor. Bu özellikle sayılar, formüller veya uzmanlık gerektiren belgeler söz konusu olduğunda önem taşıyor.
Sıkıştırmanın dikkat gerektirdiği noktalar
Daha yüksek sıkıştırma, aslına uygunluğu azaltıyor. Küçük yazım hatalarını tolere edebilen bir iş akışı daha düşük bir token bütçesini kabul edebilirken, kesin isimler, tutarlar veya sözleşme ifadeleriyle çalışan bir iş akışında daha temkinli ayarlar gerekiyor. Kritik sayfalara daha düşük sıkıştırma uygulanabilir; agresif sıkıştırma ise birebir yeniden üretim gerektirmeyen içeriklerle sınırlandırılabilir.
Akıl yürütme de başka bir soru doğuruyor. Metin üzerinde akıl yürütmek üzere eğitilen modeller, bilgi görsel tokenlarla sunulduğunda farklı temsillerle karşılaşıyor. Kod çözücünün, akıl yürütme başlamadan önce metni yeniden oluşturması gerekiyor ve bu ek adım, birbirine bağlı birkaç çıkarım gerektiren görevleri etkileyebilir. Önemli bağlamın görsel katmanda bulunduğu görevlerde ekiplerin test yapması ve hassasiyetin vazgeçilmez olduğu durumlar için alternatifler sunması gerekiyor.
Kodlama ve çözümleme de zaman alıyor. Belgeler ya da konuşmalar uzadıkça beklenen tasarruf önem kazanıyor. Bu nedenle dağıtım testlerinde farklı belge türleri için geçen süre, bellek kullanımı ve maliyet karşılaştırılmalı. Bu ölçümler, içeriğin ne zaman sıkıştırılacağına ve ne zaman doğrudan özgün metnin aktarılacağına karar vermeye yardımcı olabilir.
Depolama ve erişim sistemlerinde de ham metin yerine görüntülerin veya tensör olarak saklanan temsillerin kullanılması değişiklik gerektirebilir. Uyumluluk süreçlerinin bu biçimleri hesaba katması gerekir. Sıkıştırılmış içeriğin saklandığı her yerde hassas bilgiler için erişim denetimleri, şifreleme ve denetim kayıtları hâlâ gereklidir.
Düşük çözünürlüklü taramalar ve okunaksız el yazıları sorun yaratmayı sürdürüyor. Kritik işler için modları dinamik olarak seçmek ve insan denetiminden yararlanmak ihtiyatlı seçeneklerdir. Sürüm, uzun bağlamlı işlemenin maliyetini düşürmeye yönelik bir yaklaşım sunuyor; ancak doğruluk ve altyapı gereksinimleri, dağıtım kararlarında gerçek iş yükleriyle test yapmayı zorunlu kılıyor.
Geliştiriciler sürümü nasıl deneyebilir?
Hugging Face model sayfasında model kartları, hızlı başlangıç notları ve indirme bağlantıları bulunuyor. GitHub deposunda ise toplu işleme betikleri ve işlem kapasitesine ilişkin yönergelerle birlikte kod ve ağırlıklar yer alıyor.
Referans kurulumunda Python 3.12.9 ve CUDA 11.8 listeleniyor. Bağımlılıklar arasında PyTorch, Transformers, Tokenizers, Einops, Addict, Easydict ve Flash Attention bulunuyor. Hız için Nvidia GPU öneriliyor.
Tipik bir iş akışında PDF sayfa görüntülerine dönüştürülüyor, her görüntü seçilen çözünürlükte DeepEncoder'dan geçiriliyor ve dil modeli görsel tokenları çözümlüyor. Çıktı, arama için düz metin veya tabloları ve bölüm başlıklarını koruyan Markdown olabiliyor.
Standart iş belgelerinde başlangıç için Small modu öneriliyor. Yoğun bilimsel veya hukuki sayfalarda daha yüksek çözünürlük ya da dinamik mod işe yarayabilir. Geliştiriciler, sıkıştırmayı artırırken içeriğin ne doğrulukla geri elde edildiğini izlemeli ve kritik sayfalarda temkinli ayarlar kullanmalı.
Öne Çıkanlar
- DeepSeek-OCR, belge sayfalarını kompakt görsel tokenlarla temsil ediyor; ardından bunları metne ve yapılandırılmış çıktılara dönüştürüyor.
- DeepSeek, ayarlara ve belge karmaşıklığına bağlı olarak token sayısının yaklaşık yedi ila yirmi kat azaltıldığını bildiriyor.
- Bildirilen çözümleme doğruluğu, on kat sıkıştırma civarında yaklaşık yüzde 97; yirmi kat sıkıştırma civarında ise yaklaşık yüzde 60.
- DeepEncoder, yaklaşık üç milyar parametreye ve token başına kabaca 570 milyon etkin parametreye sahip bir Uzmanlar Karması kod çözücüyle birlikte çalışıyor.
- Eğitimde yaklaşık 100 dilde yaklaşık 30 milyon PDF sayfasının yanı sıra grafikler, formüller ve şekiller için sentetik materyaller kullanıldı.
- Bildirilen işlem kapasitesi, tek bir Nvidia A100 GPU'da günde 200 bin sayfayı aşıyor; benzer özellikteki 20 sunucuda ise günde yaklaşık 33 milyon sayfaya ulaşıyor.
- Kod ve ağırlıklar, akademik ve ticari kullanıma izin veren esnek bir lisansla sunuluyor.
- Olası kullanım alanları arasında belgeleri sayısallaştırma, eğitim verisi üretme ve uzun bağlam belleğinin maliyetini düşürme yer alıyor. Kritik içeriklerde doğruluğun dikkatle denetlenmesi gerekiyor.






