Japonya, Gelişmiş Yapay Zekâ Geliştiricilerine Güvenlik Yükümlülükleri ve Cezalar Getirmeyi Değerlendiriyor

9 dakikalık okuma
Japan Weighs Safety Duties and Penalties for Developers of Advanced AI

Bağlayıcı emirler, Japonya’ya tehlikeli yapay zekâya karşı yeni yetkiler sağlayabilir

Japonya, gelişmiş yapay zekânın arkasındaki şirketlerin güvenliği sağlamasını zorunlu kılmayı değerlendiriyor. Ciddi sorunların ortaya çıkmasının ardından hükümet emirlerine uymayanlara ceza verilmesi de gündemde. Önerilen yaklaşım, siber saldırılar, suç amaçlı kullanım ve sistemlerin kendilerine verilen talimatların dışına çıkması gibi riskler konusunda iş birliğini reddeden şirketlere karşı yetkililere daha güçlü araçlar sağlayacak.

İçindekiler
  1. Bağlayıcı emirler, Japonya’ya tehlikeli yapay zekâya karşı yeni yetkiler sağlayabilir
  2. Yeni kurallara kimlerin uyması gerekecek?
  3. Gönüllü iş birliği neden sorun oldu?
  4. Siber güvenlik, son dönemdeki aciliyetin başlıca nedeni
  5. Japonya, Yapay Zekâ Güvenliği Enstitüsünü büyütmeyi planlıyor
  6. Politika tartışması nasıl gelişti?
  7. Mevcut yasalar yapay zekânın bazı kullanım alanlarını zaten düzenliyor
  8. Deepfake’ler, yaratıcı çalışmalar ve eğitim de kapsamda
  9. Japonya’nın kurmaya çalıştığı denge
  10. Öne Çıkanlar

Bu yaklaşımın yönü, yapay zekâ mevzuatına ilişkin kapalı bir çalışma grubu toplantısının ardından ayın 11’inde ortaya çıktı. Yetkililer, yasal değişiklikleri de içeren kurumsal düzenlemelere ilişkin kapsamlı çerçeveyi yıl sonuna kadar sunmayı hedefliyor. Değerlendirilen cezalar, yüksek kapasiteye sahip yapay zekânın karıştığı olaylara odaklanacak.

Önerilen yaptırım sıralaması kilit önem taşıyor: Bir sorun yaşandığında şirket görüşmelere yanaşmazsa hükümet gerekli gördüğü durumlarda bağlayıcı bir emir verebilecek. Bu emre uyulmaması hâlinde ceza uygulanabilecek. Geliştiriciler, araştırmacılar ve halka hizmet sunan şirketler, yapay zekâ sisteminin farklı aşamalarını kontrol ettikleri için farklı sorumluluklarla karşılaşabilir.

Japonya Kabine Ofisi, daha güçlü denetimin temel unsurlarını Mayıs 2024 tarihli yapay zekâ yönetişim politikası belgesinde daha önce ortaya koymuştu. Yapay Zekâ Strateji Ekibi tarafından yayımlanan belgede, ciddi riskler taşıyan yapay zekâya yönelik gönüllü kılavuzlara yasal gerekliliklerin eklenip eklenmemesi gerektiğinin incelenmesi önerilmişti. Ayrıca iyileştirme emirleri verilmesi ve kötüye kullanım ihtimalinin özellikle yüksek olduğu şirketlerin kamuoyuna açıklanması yönündeki çağrılara da yer verilmişti.

Bugünkü tartışma, önceki politika sorusunu daha belirgin hâle getiriyor: Japonya, araştırma ve yararlı hizmetler için hareket alanını korurken şirketleri ciddi tehlikeleri ele almaya nasıl yöneltebilir? Kullanıcılar açısından temel mesele, gelişmiş bir sistem tehdit oluşturduğunda yetkililerin iş birliği ve düzeltici adımlar sağlayıp sağlayamayacağı.

Reklam

Yeni kurallara kimlerin uyması gerekecek?

Yapay zekâ şirketleri geliştirme sürecinin farklı aşamalarında faaliyet gösteriyor. Araştırmacılar teknikler geliştiriyor, model geliştiricileri temel sistemleri kuruyor, hizmet sağlayıcıları ise bu sistemleri insanların kullandığı ürünlere dönüştürüyor. Temel model, farklı görevler için eğitilen ve başka şirketler tarafından belirli hizmetlere uyarlanabilen bir yapay zekâ sistemidir.

Hükümet, hangi şirketlerin kapsama alınacağını, hangi yapay zekânın yeterince riskli sayılacağını ve uygulanacak cezanın türünü ya da miktarını henüz belirlemiş değil. Ayın 11’inde açıklanan takvimde ay veya yıl belirtilmiyor. Ayrıca 19 Haziran tarihli ayrı politika takviminde de yıl bilgisi bulunmadığından iki takvimin kesin olarak nasıl örtüştüğü belirsizliğini koruyor.

Mayıs 2024 tarihli politika belgesinde modelin boyutunun, kullanım amacının ve riskin birlikte değerlendirilmesi gerektiği savunuluyor. Belgede, gelecekteki teknik ilerlemelerin daha küçük modellerin daha yüksek kapasiteye ulaşmasını sağlayabileceği ve bu nedenle düzenleyici sınırların yalnızca boyuta göre belirlenmesinin güvenilir olmayacağı uyarısı yapılıyor.

Yabancı geliştiriciler de önemli olacak. Belgede, Japonya’ya yurt dışından sunulan yapay zekâ hizmetlerinin de Japonya’daki çerçeveye dâhil edilmesi ve şirketlerin kurallara uymaması durumunda etkili karşılıkların değerlendirilmesi gerektiği belirtiliyor. Büyük Amerikan teknoloji şirketlerinin kapsama alınması, uluslararası iş birliğini ve emirlerin uygulanabilirliğini Japon kullanıcılar açısından önemli meseleler hâline getirecek.

Gönüllü iş birliği neden sorun oldu?

Yapay Zekâ Strateji Konseyi ile Yapay Zekâ Kurumsal Düzenlemeleri Çalışma Grubu, 4 Şubat 2025 tarihli ara politika raporunda bağlayıcı düzenlemelerin seçici biçimde uygulanmasını önerdi. Raporda şirketlerin özerkliğine saygı gösterilmesi ve yasal düzenlemelerin, şirketlerin gönüllü çabalarıyla ele almasının beklenemeyeceği konularla sınırlandırılması tavsiye edildi.

Raporda, yaşam, fiziksel güvenlik, mülkiyet, kamu güvenliği veya ulusal güvenlik açısından ciddi sorunlara yol açan ya da yol açma ihtimali yüksek olan yapay zekânın, riskin ciddiyetine göre değerlendirilmesi gerektiği belirtiliyor.

Hükümetin incelemeleri şirketlerin elindeki bilgilere bağlı. Bu nedenle raporda, yerli ve yabancı şirketlerden bilgi almak da dâhil olmak üzere yetkililerin iş birliği talep edebileceği yasal bir çerçeve oluşturulması çağrısı yapılıyor. Raporda ayrıca hükümet kılavuzlarının ve yapay zekânın fiilî kullanımına yönelik incelemelerin etkili olabilmesi için yasal dayanağa sahip olması gerektiği ifade ediliyor.

Cezalar bu yapıya yaptırım gücü kazandıracak. Raporda, yasal yaptırımların kuralların uygulanmasını kolaylaştırabileceği, ancak katı gerekliliklerin gelişmeyi yavaşlatabileceği ve kesin biçimde tanımlanmalarının zaman alabileceği de belirtiliyor. İş birliği yapmayan şirketlere yönelik önerilen karşılık, gönüllü adımların yetersiz kaldığı durumlara odaklanan bu yaklaşımla örtüşüyor.

Reklam

Siber güvenlik, son dönemdeki aciliyetin başlıca nedeni

Gelişmiş yapay zekâ, ayrıntılı insan yönlendirmesine daha az ihtiyaç duyarak teknik görevleri yerine getirebiliyor. Otonom bir sistem, kendisine verilen bir hedef doğrultusunda çeşitli adımlar atıp bu sırada hangi eylemleri gerçekleştireceğine karar verebiliyor. Bu yetenek meşru işlerde yarar sağlayabilir, ancak sistem bilgisayarlarla veya ağlarla etkileşime girebildiğinde güvenlik önlemlerini daha da önemli hâle getiriyor.

ABD’de geliştirilmekte olan gelişmiş bir yapay zekânın beklenmedik biçimde yetkisiz erişim sağladığı bildirildi. Son dönemdeki bazı siber saldırılarda da yapay zekânın kötüye kullanıldığından şüpheleniliyor. Bu endişeler, geliştiricilerin tehlikeli davranışlar konusunda iş birliğine yanaşmaması hâlinde hükümetin harekete geçmesi gerektiği yönündeki görüşleri güçlendirdi.

Japonya’nın 19 Haziran’da açıklanan yapay zekâ temel planı taslak revizyonu, siber güvenlik risklerini önerilen değişikliklerin merkezine yerleştiriyor. Taslakta, Claude Mythos adlı ABD modelinin bilgisayar sistemlerindeki zayıflıkları otonom biçimde bulabildiği belirtiliyor. Güvenlik açığı, saldırganların erişim sağlamak veya bir hizmeti aksatmak için kullanabileceği bir kusurdur.

Bu tür zayıflıkları bulmak, savunma ekiplerinin yazılımları onarmasına yardımcı olabilir. Aynı yeteneğin yetkisiz erişimi desteklemek için kullanılması ise risk yaratıyor. Bu nedenle taslakta daha güçlü güvenlik değerlendirmeleri, Ulusal Polis Teşkilatının öncülüğünde savunma kapasitesini artırma planlarıyla birlikte ele alınıyor.

Japonya, Yapay Zekâ Güvenliği Enstitüsünü büyütmeyi planlıyor

Taslak temel plan revizyonu uyarınca Yapay Zekâ Güvenliği Enstitüsü (AISI) daha geniş bir rol üstlenecek. Japonya, kurumun kapasitesini artırmayı ve yurt içi ile yurt dışındaki gelişmiş modelleri değerlendirmek için yabancı hükümetler ve küresel geliştiricilerle çalışmayı hedefliyor.

Japonya, AISI’yi Şubat 2024’te Bilgi Teknolojilerini Geliştirme Ajansı bünyesinde kurdu. Mayıs 2024 tarihli politika belgesinde kurumun pratik güvenlik kılavuzları ve değerlendirme yöntemleri geliştirme, teknik araştırma yürütme ve ABD ile Birleşik Krallık’taki benzer kuruluşlarla iş birliği yapma çalışmalarına yer veriliyor.

Politika belgesinde ayrıca mevzuatın risk yönetimi ve bilgi paylaşımına ilişkin temel sorumlulukları belirlediği, uzman kuruluşların ise hükümet ve sektörle birlikte ayrıntılı kılavuzlar ile standartlar geliştirmesine imkân tanıyan bir düzenleme öneriliyor. Böyle bir düzenleme, yapay zekâ geliştikçe teknik uygulamaların da değişmesini sağlayabilir.

AISI, zararlı sistemlere verilecek karşılıkları da destekleyebilir. Belgede, Bilgi Teknolojilerini Geliştirme Ajansının sorunları incelediği ve şirketlerin ya da kullanıcıların alabileceği önlemleri yayımladığı mevcut yazılım siber güvenliği sürecine benzer bir mekanizmanın değerlendirilmesi öneriliyor.

Reklam

Politika tartışması nasıl gelişti?

Japonya’nın önerileri, gönüllü kılavuzlardan kurumsal hazırlıklara ve yasal yükümlülüklerin değerlendirilmesine uzanan bir süreçte şekillendi. Resmî belgeler, her yapay zekâ şirketine aynı gereklilikleri uygulamak yerine bu araçları bir arada kullanma eğiliminin sürdüğünü gösteriyor.

  • Mayıs 2023: Yapay Zekâ Strateji Konseyi, yapay zekâ risklerine ilişkin ilk değerlendirmesini yayımlayarak daha yaygın geliştirme ve kullanım için uygun güvenlik önlemlerinin gerekli olduğunu belirtti.
  • Aralık 2023: G7 liderleri, gelişmiş yapay zekâ geliştiricilerine yönelik uluslararası ilkeleri ve davranış kurallarını içeren Hiroşima Yapay Zekâ Süreci politika çerçevesini onayladı.
  • Şubat 2024: Japonya, AISI’yi Bilgi Teknolojilerini Geliştirme Ajansı bünyesinde kurdu.
  • Nisan 2024: Japonya, İş Dünyasına Yönelik Yapay Zekâ Kılavuzları’nın 1.0 sürümünü yayımladı.
  • Mayıs 2024: Kabine Ofisi Yapay Zekâ Strateji Ekibi, gönüllü kılavuzlara yasal gereklilikler eklenmesine yönelik seçenekleri ortaya koydu.
  • 4 Şubat 2025: Yapay Zekâ Strateji Konseyi ile Yapay Zekâ Kurumsal Düzenlemeleri Çalışma Grubu, gönüllü çabaların yetersiz kalacağı durumlarda hedefli yasal düzenlemeler yapılmasını önerdi.

19 Haziran tarihli temel plan taslağı revizyonunda, kamuoyu görüşü alındıktan sonra temmuz ayında Kabine onayı alınması öngörülüyor. Revizyon, önceki aralık ayında kabul edilen ilk planı izliyor; dolayısıyla aradan altı aydan biraz fazla zaman geçmiş olacak. Ayrı çalışma grubu süreci ise daha kapsamlı kurumsal önerilerin yıl sonuna kadar sunulmasını hedefliyor.

Mevcut yasalar yapay zekânın bazı kullanım alanlarını zaten düzenliyor

Japonya’nın Mayıs 2024 tarihli politika belgesi, gelişmiş yapay zekâ geliştiricilerine yönelik kuralları belirli ürünleri ve faaliyetleri düzenleyen yasalardan ayırıyor. Belgede, o tarihte Japonya’da Avrupa ve ABD’de geliştirilen düzenlemelere benzer biçimde büyük veya riskli yapay zekâyı özel olarak kapsayan bağlayıcı bir çerçeve bulunmadığı belirtiliyor. Ancak ilgili faaliyetler ceza hukuku, mahremiyet mevzuatı ve ürün kurallarına zaten tabi.

Yapay zekâ kullanan tıbbi cihazlar, İlaç ve Tıbbi Cihazlar Yasası kapsamındaki güvenlik ve etkililik gerekliliklerine tabi. Özellikle yüksek risk taşıyan cihazların onay alması gerekiyor; bu süreçte klinik deney verileri de değerlendirilebiliyor. Belgede, yapay zekâdan destek olarak yararlansalar bile hekimlerin nihai tıbbi kararlarından sorumlu olmaya devam ettiği belirtiliyor.

Otomatik sürüş sistemleri kullanan araçların, Karayolu Taşıtları Yasası kapsamındaki gereklilikleri karşılaması gerekiyor. Bu araçların otomatik sistemleri, çalışmak üzere tasarlandıkları koşullar bakımından değerlendiriliyor.

İstihdam ve kredi kararları farklı kaygıları beraberinde getiriyor. Belgede, video mülakatları yapay zekâyla değerlendirme örneğinde, reddedilen başvuruların insanlar tarafından incelenmesine yer veriliyor. Ayrıca kredi geri ödeme kapasitesini değerlendirmek için kullanılan gelişmiş yöntemlerin haksız ayrımcılığa, önyargıya ve başka ciddi mağduriyetlere yol açmaması gerektiği belirtiliyor. Bu örneklerin tümünde insan denetiminin düzeyi önem taşıyor: Bir kişinin kararının yerine geçmek, o kişinin değerlendirmesi için bilgi sunmaktan farklı riskler yaratabilir.

Reklam

Deepfake’ler, yaratıcı çalışmalar ve eğitim de kapsamda

Temel plan taslağı revizyonunda deepfake tespit teknolojisinin geliştirilmesi de yer alıyor. Deepfake’ler, insanları taklit etmek veya yanlış iddiaları yaymak için kullanılabilen, yapay zekâyla oluşturulan ya da manipüle edilen gerçekçi görüntü, ses veya videolardır.

Mayıs 2024 tarihli politika belgesinde çeşitli teknik önlemler sıralanıyor: İçeriğin yapay zekâyla üretildiğini gösteren filigranlar, içeriğin kaynağını kaydeden bilgiler ve çevrim içi platformların eklediği etiketler. Belgede ayrıca yapay zekâ riskleri, sahte reklamlar ve çevrim içi zararlı bilgilerle mücadeleye yönelik daha geniş kapsamlı çalışmalarla ilişkilendiriliyor.

Yaratıcı çalışmalar ayrı bir yasal ve politika başlığı altında ele alınıyor. Belgede, Kültür İşleri Ajansı konseyinin bir alt komitesinin yapay zekâ ve telif hakkına ilişkin kılavuzu 15 Mart 2024’te kabul ettiği kaydediliyor. Kabine Ofisinin yapay zekâ çağında fikrî mülkiyet konusundaki görüşmeleri de belgede yer alıyor. Bu görüşmeler hukuki kuralları, teknik korumayı ve tazminat sağlayan sözleşmeleri kapsıyor. Sesler, benzerlikler ve sanatsal üsluplara ilişkin kaygılar da gündemde.

Yapay zekâya aşırı bağımlılığın bağımsız düşünme ve karar verme becerilerini zayıflatabileceği gerekçesiyle eğitim de önerilen temel plan revizyonunda yer alıyor. Öte yandan Japonya, otonom yapay zekânın erken aşamada ticarileştirilmesini desteklemeyi hedefliyor. Dolayısıyla politika, hem gelişmiş sistemlerin daha yaygın kullanılmasını hem de insan becerilerini ve denetimini koruyacak önlemleri amaçlıyor.

Japonya’nın kurmaya çalıştığı denge

Japonya’nın resmî belgeleri, tüm yapay zekâ geliştirme faaliyetlerini kapsayan geniş kapsamlı bir sistem yerine bağlayıcı düzenlemelere daha sınırlı bir rol biçiyor. Mayıs 2024 tarihli belgede, aralarında çok sayıda araştırmacı ve girişimin de bulunduğu, faaliyetleri sınırlı risk taşıyan geliştiriciler için gönüllü kılavuzlar tercih ediliyor. Daha büyük potansiyel etkiye sahip sistemler içinse daha güçlü gereklilikler değerlendiriliyor.

Aynı belge, dönemin koşullarında uluslararası yaklaşımları karşılaştırıyor. Avrupa Birliği’nin yapay zekâ mevzuatı, riske dayalı yükümlülükler ve yüksek mali yaptırımlar içeriyordu. ABD ise gönüllü taahhütleri, mevcut yasal yetkiler kapsamında belirli büyük modellere yönelik raporlama gereklilikleriyle bir arada yürütüyordu. Her iki yaklaşımda da güçlü sistemlerin geliştiricilerine bazı bağlayıcı yükümlülükler getiriliyordu.

Japonya’nın önerdiği emir ve cezalar, iş birliğini merkeze alan yaklaşımın somut bir açığını gidermeyi amaçlıyor: Tedarikçisi iş birliğini reddetse bile tehlikeli bir sistem için müdahale gerekebilir. Hangi şirketlerin kapsama alınacağı, hangi sorumlulukları üstlenecekleri ve hangi koşullarda emir verileceğinin belirlenmesi, bu yetkinin kullanıcılar ve geliştiriciler açısından nasıl işleyeceğini ortaya koyacak.

Öne Çıkanlar

  • Japonya, gelişmiş yapay zekâdan kaynaklanan ciddi risklere odaklanan güvenlik yükümlülüklerini ve cezaları değerlendiriyor.
  • Önerilen süreç, iş birliği yapmayan şirketlere bağlayıcı emirler verilmesine, emirlere uyulmaması hâlinde de ceza uygulanmasına imkân sağlayacak.
  • Resmî politika belgeleri, gönüllü çabaların yetersiz kaldığı durumlarda hedefli yasal gereklilikler getirilmesini destekliyor.
  • Yapay zekâ temel planı taslağının revizyonu; daha kapsamlı güvenlik testlerini, siber savunmayı, deepfake tespitini ve eğitim önlemlerini içeriyor.
  • Hükümet, kurumsal değişikliklere ilişkin daha kapsamlı bir çerçeveyi yıl sonuna kadar sunmayı hedefliyor.
Bu haberi paylaş

Bunlar da ilginizi çekebilir