Yapay Zekânın Neler Yapmasına İzin Verileceğini Belirlemeye Yönelik 99 Maddelik Öneri
Zhejiang Üniversitesi araştırmacıları, sekiz bölüm ve 99 maddeden oluşan bir yapay zekâ yasası için uzman önerisini yayımladı. Önerinin temel fikri şu: Bir yapay zekâ sistemine verilen yetki, sistemin güvenilirliğiyle ve yerine getirdiği görevin sonuçlarıyla uyumlu olmalı.
İçindekiler
- Yapay Zekânın Neler Yapmasına İzin Verileceğini Belirlemeye Yönelik 99 Maddelik Öneri
- Taslak Nasıl Hazırlandı?
- Önerilen Kuralların Temelindeki Üç Soru
- Kabiliyet ve Güvenilirlik Ayrı Ayrı Değerlendirilecek
- Hangi Görevler Daha Sıkı İncelenecek?
- Eşleştirme İlkesi Tıp Örneğiyle Açıklanıyor
- Yapay Zekâ Değiştikçe Onay da Güncellenmeli
- Hakların Korunması ve Şirketlerin Yükümlülükleri Ayrıntılarda Buluşuyor
- Öne Çıkanlar
Zhejiang Üniversitesi 1.0 Sürümü önerisi, 24 Eylül'de düzenlenen tanıtım etkinliğinde sunuldu. Üniversitenin resmî etkinlik duyurusunda toplantının 24 Eylül 2026'da, saat 14.00-17.30 arasında Zijingang kampüsünde yapılacağı belirtildi. Programda sektörün gelişimi, hakların korunması ve hesap verebilirlikle birlikte ele alındı; bu da önerinin yanıt aradığı iki ihtiyacı yansıtıyor.
Yapay zekâdan etkilenenler için pratik kaygılar güncel ve somut. Bir modelin işletmecisi, bir illüstratörün eserini izinsiz eğitim amacıyla kullanabilir mi? Bir dil modeli zararlı ve yanlış bir yanıt verdiğinde sorumluluk kime ait olur? Bir kişinin yüzünü izinsiz kullanan video internette yayıldıktan sonra bu kişi kanıtları nasıl koruyabilir ve nasıl hukuki yola başvurabilir?
Şirketlerin karşı karşıya olduğu kaygılar ise farklı: Birbiriyle örtüşen uyum yükümlülükleri, ürünlerin kullanıma sunulmasından önce yerine getirilmesi gereken zahmetli işlemler ve küçük şirketlerin karşılamakta zorlanabileceği maliyetler. Araştırmacılar, yaklaşımlarının bu baskılara yanıt verirken hakları korumayı amaçladığını söylüyor.
Belge, tartışmaya ve daha fazla gözden geçirilmeye açık akademik bir öneri. En kapsamlı fikri, yapay zekâyı belirli bir kullanım bağlamında değerlendirme yöntemi: Bir sistemin neler yapabildiğini, ne kadar güvenilir çalıştığını ve bundan etkilenen insanlar için neyin söz konusu olduğunu bir arada ele alıyor.
Taslak Nasıl Hazırlandı?
Yazım ekibi öneriyi yaklaşık altı ay boyunca geliştirdi ve beş yoğun gözden geçirme turunu tamamladı. Başlangıçta 174 maddeden oluşan taslak 99 maddeye indirildi; yani madde sayısı 75, yaklaşık yüzde 43 azaldı. Bu, geliştirme sürecinde metnin ne ölçüde kısaltıldığını gösteriyor. Ancak madde sayısı tek başına, münferit hükümlerin kullanıcılar veya şirketler açısından getireceği yük hakkında pek az şey söylüyor.
Araştırmacılar Hangzhou'da 20'den fazla yapay zekâ şirketini ve önde gelen internet şirketlerini ziyaret etti. Çalışmada Zhijiang yasama forumundaki görüşmelerden, ilgili bakanlık ve komisyonlarla yapılan temaslardan ve birkaç tur uzman değerlendirmesinden de yararlanıldı. Araştırmalar, Hangzhou'nun yapay zekâ sektörü ve yenilikçi şehir olarak gelişimine ilişkin iki yerel yönetmelik taslağı üzerindeki çalışmalarla eş zamanlı yürütüldü.
Etkinliği Zhejiang Üniversitesi Guanghua Hukuk Fakültesi, üniversitenin Dijital Hukuk ve Yönetişim Araştırma Enstitüsü, Zhejiang Yasama Araştırmaları Enstitüsü ve Zhejiang Üniversitesi Yasama Araştırmaları Enstitüsü düzenledi. Resmî programda önerinin yayımlanması ve tanıtımı, Guanghua Hukuk Fakültesi araştırmacısı Li Wenlong'a verildi.
Hazırlık ve tanıtım süreci şöyle ilerledi:
- Ekip yaklaşık altı ay boyunca şirket ziyaretleri ve istişareler yürüttü, beş tur revizyon yaptı.
- Öneri 24 Eylül'de Zhejiang Üniversitesi'nde sunuldu; resmî duyuruda etkinliğin tarihi 2026 olarak belirtildi.
- Toplantının ardından ekip, geri bildirimleri değerlendirmeyi ve yeni sürümler geliştirmeyi planladı.
Önerilen Kuralların Temelindeki Üç Soru
Zhejiang Üniversitesi Dijital Hukuk ve Yönetişim Araştırma Enstitüsü Direktörü Sun Xiaoxia, çerçeveyi birbiriyle bağlantılı üç unsur üzerinden açıklıyor: icra kabiliyeti, bilişsel olgunluk ve görevin niteliği ile etkisi. Daha basit ifadeyle sorular şunlar: Bir yapay zekâ sistemi neler yapabilir, ne kadar güvenilirdir ve kararları ne kadar önem taşır?
Sun, yapay zekâ riskinin kaynağına ilişkin görüşünü Çince şöyle ifade etti:
Yapay zekâ risklerinin makinelerin ne kadar güçlü olduğundan değil, kabiliyet, biliş ve görev arasındaki uyumsuzluktan kaynaklandığına inanıyoruz.
Bir sistem, insan müdahalesi olmadan uzun bir dizi işlemi gerçekleştirebilirken alışılmadık bir durumu fark etmekte zorlanabilir. Böyle bir sisteme kişisel güvenliği ilgilendiren bir görev vermek, harekete geçme serbestisiyle yanlış giden bir şeyi değerlendirme becerisi arasında tehlikeli bir boşluk yaratır.
Bu nedenle öneri, bir teknolojiye tek bir etiket yapıştırmanın ötesine geçiyor. Düzenleyici, sistemin belirli bir sürümünü, amaçlanan kullanımını ve çalıştığı ortamı inceler. Aynı temel teknoloji, farklı görevlerde kullanıldığında farklı denetimler gerektirebilir.
Kabiliyet ve Güvenilirlik Ayrı Ayrı Değerlendirilecek
Önerilen kabiliyet ölçeği dört düzeyden oluşuyor: destek, sınırlı otomasyon, ileri düzey otomasyon ve otonom yürütme. Değerlendirmede sistemin ne ölçüde bağımsız hareket ettiği, kararlarının ne kadar geniş bir çevreyi etkilediği, hangi araçlara erişebildiği, kesintisiz ne kadar süre çalışabildiği ve dijital ya da fiziksel ortamı değiştirip değiştiremediği dikkate alınacak.
Araçlara erişim önemli; çünkü yalnızca bir eylem öneren yapay zekâ sistemiyle bu eylemi gerçekleştirme yetkisi olan sistemin etki alanı farklıdır. Başka yazılımları veya ekipmanları kullanma izni, hatalı bir yanıtı gerçek dünyada art arda gerçekleşen eylemlere dönüştürebilir.
Bilişsel olgunluk da temel, genel, ileri ve sıkı denetimli olmak üzere dört düzeyde değerlendirilecek. Bu değerlendirmede doğruluk, tutarlılık, alışılmadık girdileri fark etme ve hataları düzeltme becerisi, siber güvenlik, izlenebilirlik ve bir kişinin kontrolü hangi koşullarda devralabileceği incelenecek.
Bir diğer etken de güven kalibrasyonu. Basitçe, sistemin kendine duyduğunu ifade ettiği güvenin ne sıklıkta doğru yanıt verdiğiyle örtüşüp örtüşmediğini kontrol etmek anlamına geliyor. Sıklıkla hata yaptığı hâlde kendinden emin görünen bir sistemin kullanıcılar tarafından denetlenmesi özellikle zor olabilir.
Çerçeve, önemli çıktıların açıklanabilir olup olmadığını ve sistemin belirlenen sınırlar içinde kalıp kalmadığını da inceleyecek. Kabiliyet ile güvenilirliği ayrı değerlendirmek, bağımsız hareket edecek kadar güçlü ancak hassas bir görev için yeterince güvenilir olmayan bir sistemi tespit etmeyi sağlayabilir.
Hangi Görevler Daha Sıkı İncelenecek?
Öneri, görevleri düşük, genel ve yüksek olmak üzere üç etki düzeyine ayırıyor. Değerlendirmede etkilenen hakların önemi, zararın meydana gelme olasılığı ve şiddeti, etkilenen kişi sayısı, etkilerin ne kadar sürdüğü, sonucun geri alınıp alınamayacağı ve kişilerin telafi yoluna başvurup başvuramayacağı dikkate alınacak.
Kişilerin kırılganlığı da önem taşıyacak. Alınan karara itiraz etme imkânı sınırlı olan birini etkileyen karar, yardıma kolayca erişebilen birini etkileyen benzer bir karardan daha yakından incelenebilir.
Yaşam ve sağlık, kişi özgürlüğü, insan onuru, fırsat eşitliği, önemli mülkiyet hakları, eğitim, istihdam, sosyal güvenlik, adalet, idari yaptırım veya kamu güvenliğiyle ilgili görevlerin etkisi yüksek kabul edilecek. Çok sayıda kişiyi önemli ölçüde etkileyebilecek görevler için de aynı varsayım geçerli olacak.
Öneride ayrıca, görevlerinin etki sınıflandırması ne olursa olsun yasaklanmış yapay zekâ uygulamalarının geliştirilmemesi, kullanıma sunulmaması veya kullanılmaması gerektiği belirtiliyor. Öneriyle birlikte yayımlanan açıklamalarda, yasaklı uygulamaların ayrıntılı listesi ya da başlangıçta gündeme gelen telif hakkı, hatalı çıktı ve yüz ikamesi anlaşmazlıklarına ilişkin kesin hukuki yanıtlar yer almıyor.
Eşleştirme İlkesi Tıp Örneğiyle Açıklanıyor
Sun, bir sistemin görevinin neden teknik gücü kadar önemli olduğunu anlatmak için tıbbi görüntüleme ve patoloji analizini örnek gösterdi. Yapay zekâ büyük miktarda görüntüyü ve tıbbi veriyi hızla işleyebilir; ancak zor ya da alışılmadık durumlarda akıl yürütme becerisi sınırlı kalabilir.
Uygun bir görev, her iki özelliği de dikkate alır. Zor bir teşhiste tüm sorumluluğu sisteme verip değerlendirmesine aşırı güvenmek, çerçevenin gidermeyi amaçladığı uyumsuzluğu yaratır.
Sun, hedefi Çince şöyle anlattı:
Uyum zorunluluğu getirmek, yalnızca kısıtlama koymaktan farklıdır; kabiliyet, biliş ve görev arasında en iyi eşleşmeyi bulmayı amaçlar.
Sun'a göre zorlu bir görevde yetersiz performans gösteren bir sistem, tamamen devre dışı bırakılmak yerine daha az karmaşık bir göreve atanabilir. Dolayısıyla pratikte seçenekler, sınırsız kullanıma izin vermek ya da kullanımı tamamen engellemekten ibaret değil. Yetkililer ve işletmeciler görevi, sistemin izinlerini veya insan müdahalesinin düzeyini değiştirebilir.
Bir hastane açısından bu yaklaşım, dikkati yapay zekâya verilen işin tam olarak ne olduğuna ve çevresindeki güvenlik önlemlerine yöneltir. Hasta açısından temel mesele, sistemin rolünün kararın ciddiyetine uygun olup olmadığıdır.
Yapay Zekâ Değiştikçe Onay da Güncellenmeli
Önerilen yönetişim süreci altı aşamayı kapsıyor: araştırma ve geliştirme, test, kullanıma sunma, işletim, güncelleme ve kullanımdan kaldırma. Sistemin kabiliyetleri ve koşulları kullanıma girdikten sonra değişebileceği için sınıflandırma bu aşamaların tümünde devam edecek.
Bir model güncellemesi, sistemin gerçekleştirebileceği eylemlerin kapsamını genişletebilir. Yeni bir ortamda kullanıma geçilmesi, daha fazla kişiyi veya daha hassas çıkarları kararların etkisine açabilir. Yeni veriler, modelin davranışını da değiştirebilir; buna önceki testlerde fark edilmeyen güvenilirlik düşüşleri de dahildir.
Öneri, sistem veya görev değiştiğinde yeniden değerlendirme yapılmasını öngörüyor. Bir değerlendirme somut bir sürüme, amaca ve çalışma ortamına bağlı olacak; bunlardan herhangi biri değiştiğinde işletmecilerin yükümlülüklerini yeniden ele alması gerekecek.
Sun, eşleştirme ilkesinin hukuki kurallara yön verebileceği sekiz alan belirtiyor: sınıflandırma, görevlerin dağılımı, değerlendirmeler, yüksek etkili kullanımların belirlenmesi, denetim yoğunluğu, risk kontrolleri, hukuki sorumluluk ve zaman içindeki uyarlamalar. Bu kararları tek bir çerçevede birbirine bağlamak, önerinin yapay zekâ yönetişimini daha tutarlı hâle getirmeye yönelik temel girişimi.
Hakların Korunması ve Şirketlerin Yükümlülükleri Ayrıntılarda Buluşuyor
İllüstratörler, hatalı yanıtlar ve sahte videolarla ilgili sorular, hesap verebilirliğin neden teknik testlerin ötesinde önemli olduğunu gösteriyor. Tazminat veya zararlı içeriğin kaldırılmasını isteyen bir kişinin, maruz kaldığı zarardan sorumlu taraflara uzanan işleyen bir yola ihtiyacı var.
Öneri, hukuki sorumluluğu eşleştirme çerçevesinin içine yerleştiriyor. Bu yaklaşım, bir sistemin kendisine verilen göreve uygunluğunu, yükümlülükler ve hesap verebilirlik tartışmalarında dikkate alınır hâle getirebilir. Ancak değerlendirme sonuçlarıyla mevcut hukuki sorumluluk kuralları arasındaki ilişki, Sun'ın daha ayrıntılı çalışılması gerektiğini söylediği konulardan biri.
Araştırmacıların bilişsel olgunluğun nasıl test edilmesi gerektiğini ve kabiliyet, güvenilirlik ve görev talepleri arasındaki ne büyüklükte bir farkın uygunsuz eşleşme sayılacağını da belirlemesi gerekiyor. Bu tercihler, şirketlerin çerçeveyi ne kadar tutarlı uygulayacağını ve düzenleyicilerin değerlendirmeleri ne kadar etkili denetleyebileceğini belirleyecek.
Tanıtım programında birbiriyle çatışabilen bu pratik ihtiyaçlar aynı etkinlikte ele alındı. Sektör oturumunda Meituan ve Douyin'den hukuk uzmanlarının yanı sıra akademi ve teknik alandan katılımcılar yer aldı. Haklar ve hesap verebilirlik oturumunda ise Alibaba'dan bir uyum direktörü, avukatlar ve üniversite akademisyenleri sıralandı. Bu katılımcıların programa dâhil edilmesi, düzenleyicilerin tartışma için hangi farklı bakış açılarını bir araya getirmeye çalıştığını gösteriyor; ancak program, katılımcılara taslak konusunda ortak bir görüş atfetmek için dayanak sunmuyor.
Küçük işletmeler açısından somut meseleler, yapılması gereken değerlendirmelerin sayısı, sunulması gereken kanıtlar ve ürün geliştikçe yükümlülüklerin nasıl değişeceği. Yapay zekâdan etkilenenler açısından ise bu yükümlülüklerin zararı önlemeye ve işler ters gittiğinde kullanılabilir bir telafi yolu sunmaya yardımcı olup olmayacağı önemli.
Araştırma ekibi, toplantıdan gelen geri bildirimleri kullanarak öneriyi gözden geçirmeyi planlıyor. Şimdi yapılması gereken temel iş, eşleştirme ilkesini gerçek anlaşmazlıklarda ve ürün kararlarında uygulanabilecek testlere, eşiklere ve sorumluluk kurallarına dönüştürmek.
Öne Çıkanlar
- Zhejiang Üniversitesi'nin uzmanlarca hazırlanan yapay zekâ yasası önerisi sekiz bölüm ve 99 maddeden oluşuyor; başlangıçtaki 174 madde kısaltıldı.
- Çerçeve, bir sistemin icra kabiliyetini, bilişsel güvenilirliğini ve üstlendiği görevi birbiriyle ilişkilendiriyor.
- Sağlık, özgürlük, istihdam, eğitim ve diğer hassas görevlerin etkisinin yüksek olduğu varsayılacak.
- Değerlendirmeler geliştirme ve kullanım döngüsünün tamamını kapsayacak; sistem veya görevi değiştiğinde güncellenecek.
- Akademik öneri daha fazla gözden geçirilecek; test yöntemleri, eşikler ve sorumluluk kuralları için daha ayrıntılı çalışma gerekiyor.






