Güney Kore’nin ücretsiz yapay zekâ hamlesi, erişimin risklere ayak uydurup uyduramayacağını sınayacak

8 dakikalık okuma
South Korea’s Free AI Rollout Tests Whether Access Can Keep Pace With Risk

Kamuya açık yapay zekâ hizmeti vaat aşamasından sınav aşamasına geçiyor

Güney Kore, her vatandaşına yapay zekâya ücretsiz erişim sunmaya hazırlanıyor. Böylece sohbet botları ve yapay zekâ ajanları; bu araçları okul ödevlerinde, sağlık hizmetlerinde, kamu hizmetlerine erişimde ve günlük kararlarında kullanabilecek kişilerin ulaşabileceği bir noktaya gelecek. “Herkes için Yapay Zekâ” adı verilen girişim, teknolojinin yaygınlaşmasını ve ülkenin ABD ile Çin’le rekabet etmesini amaçlıyor. Ancak bu girişim önemli bir soruyu da gündeme taşıyor: Yapay zekâ gündelik yaşamın olağan bir parçası hâline geldiğinde, güvenlik önlemleri bu gelişmeye ayak uydurabilecek mi?

İçindekiler
  1. Kamuya açık yapay zekâ hizmeti vaat aşamasından sınav aşamasına geçiyor
  2. Yapay zekâ alanındaki liderler teknoloji konusunda neden uyarıda bulunuyor?
  3. Seul hangi güvenlik önlemlerini uyguluyor?
  4. İşler ve deepfake’lerin kötüye kullanımı tartışmanın merkezinde
  5. Okullar, yapay zekânın değerini ayrı bir sınavdan geçiriyor
  6. Evrensel erişim kamu güveni sağlayabilir mi?
  7. Öne Çıkanlar

Devlet Başkanı Lee Jae Myung hükümeti, önce bir beta hizmeti başlatmayı, ardından denemeyi gelecek yıldan itibaren kalıcı ve vergilerle finanse edilen bir kamu hizmetine dönüştürmeyi değerlendirmeyi planlıyor. Önerilen hizmet, kullanıcıları SK Telecom, KT ve Kakao liderliğindeki üç yerli konsorsiyumun geliştirdiği genel amaçlı yapay zekâ araçlarıyla buluşturacak. Hükümet, gruplara zorlu yapay zekâ sistemlerini eğitmek ve çalıştırmak için kullanılan özel çiplerden yüzlerce Nvidia B200 grafik işlem birimi ödünç verdi.

Yetkililer, ileride yapay zekâ aracı sistemlerin kamu kurumlarına bağlı hizmetler üzerinden insanlara sağlık randevusu alma, konut arama ve vergi danışmanlığı hizmetlerine erişme konularında yardımcı olmasını öngörüyor. Bu olasılık, özellikle karmaşık formlarla ya da uzun bekleme süreleriyle baş etmekte zorlanan kişiler için kamu hizmetlerine erişimi kolaylaştırabilir. Öte yandan, hatalar, mahremiyet ihlalleri veya taraflı öneriler, temel hizmetlerden yararlanmaya çalışan insanları etkileyebilir.

Hükümet, 2027’ye kadar uygulamanın hayata geçirilmesi için, cari mali yıla ayrılan 10 trilyon wonluk yapay zekâ bütçesine ek olarak 250 milyar won tahsis etti. Bu ölçek, yapay zekâ kapasitesi oluşturmayı ve erişimi özel abonelik ücretlerini karşılayabilenlerle sınırlamak yerine yaygınlaştırmayı amaçlayan ulusal stratejiyi yansıtıyor. Deneme süreci, ücretsiz erişimin kullanışlı bir kamu altyapısına dönüşüp dönüşemeyeceğini ve vatandaşların bilgilerini ve sorularını işleyen sistemlere güvenip güvenemeyeceğini sınayacak.

Yapay zekâ alanındaki liderler teknoloji konusunda neden uyarıda bulunuyor?

Güney Kore’nin planları, yapay zekâ sektörünün önde gelen isimlerinin hızlı gelişimin ciddi riskler taşıdığı uyarısında bulunduğu bir döneme denk geliyor. Anthropic Üst Yöneticisi Dario Amodei, sektörün yavaşlaması çağrısı yaptı. Anthropic’te çalışmış ve daha önce OpenAI’de de görev almış bir mühendis, şirketten ayrıldıktan sonra denetimsiz gelişimin “yakın gelecekte hepimizin ölmesi” anlamına gelebileceği düşüncesinin kendisini “gerçekten korkuttuğunu” söyledi. Sık sık “yapay zekânın vaftiz babası” diye anılan Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton da gelişmiş sistemlerin insan denetiminden çıkmaları hâlinde varoluşsal tehlike yaratabileceği uyarısında bulundu.

Bu uyarılar; otonom silahlardan makinelerle gerçekleştirilen siber saldırılara ve kitlesel işsizliğe uzanan olasılıklarla ilgili. Diğer riskler ise şimdiden daha tanıdık: inandırıcı sahte görüntüler ve videolar, ayrımcılık içeren otomatik kararlar ve kendinden emin ancak hatalı yanıtlar üreten sistemlere güvenen insanlar. Kamuya yönelik bir uygulama bu tehlikelerin tümünü yaratmaz; ancak yapay zekâyı geniş ölçekte kullanmayı kolaylaştırarak risklere maruz kalmayı artırabilir.

Genel amaçlı yapay zekâ sistemleri, dünyayı insan gibi anlamak yerine verilerdeki örüntüleri belirleyerek yanıt üretir. Metin taslağı hazırlama, özetleme ve bilgiye erişme konusunda yararlı olabilirler; ancak yanlış bilgileri gerçekmiş gibi sunabilirler. Kamu kurumlarıyla veya sağlıkla ilgili ortamlarda kullanıcıların yanıtları doğrulayabileceği ve bunları düzeltme yetkisi olan bir kişiye ulaşabileceği açık bir yol bulunmalı.

Seul hangi güvenlik önlemlerini uyguluyor?

Güney Kore, yapay zekânın yaygınlaşan kullanımına kurallar getirmek için ocak ayında yürürlüğe giren Yapay Zekâ Temel Yasası’na dayanıyor. Çerçeve; insan denetimi, etki değerlendirmeleri ve sentetik içeriklerin açıkça etiketlenmesini öngörüyor. Bu önlemler, yapay zekâ tarafından üretilen içeriklerin ayırt edilmesini kolaylaştırmayı ve kuruluşların sistemleri kullanıma sunmadan önce olası zararları incelemesini amaçlıyor.

Devlet tarafından finanse edilen Yapay Zekâ Güvenliği Enstitüsü de riskleri değerlendirmek ve teknik denetçi işlevi görmekle görevlendirildi. Sistemin güvenilir biçimde çalışıp çalışmadığını, hassas verilerin korunup korunmadığını ve kullanıcıların önemli kararlar hakkında itiraz edip edemediğini değerlendirmek, enstitünün çalışmalarını resmî kurallar kadar önemli kılacak. Bir etki değerlendirmesi ancak gerçek dünyadaki sonuçları inceler ve sorunlar ortaya çıktığında değişikliklere yol açarsa işe yarar.

Kamu hizmetleriyle bağlantı kurulmasının planlanması, hesap verebilirliği özellikle önemli hâle getiriyor. Bir yapay zekâ asistanı yanlış vergi bilgisi verir veya sağlık randevusu talebini hatalı işlerse kullanıcılar hangi kurumun sorumlu olduğunu ve nasıl yardım alabileceklerini bilmelidir. Sistem, vatandaşlarla karar veren yetkililer arasına engel koymamalı. İnsan denetimi; erişilebilir, zamanında ve otomatik bir öneriyi geçersiz kılabilecek nitelikte olduğunda gerçek anlam taşır.

Ücretsiz erişim, işletimin masrafsız olduğu anlamına da gelmiyor. Kamu kurumlarının bilgi işlem, güvenlik, bakım ve değerlendirme giderlerini karşılaması, aynı zamanda hizmetin ne kadar kişisel bilgiyi saklayacağına karar vermesi gerekecek. Hükümetin donanım ve yazılıma yaptığı yatırım, kalıcı bir kamu hizmetinin yalnızca bir parçası; denetim ve destek için de sürekli kaynak gerekecek.

Reklam

İşler ve deepfake’lerin kötüye kullanımı tartışmanın merkezinde

Güney Kore’nin kaygılarından bazıları, bugün yaşanan zararlara dayanıyor. Kore Bankası, 15-29 yaş arasındaki çalışan sayısının Haziran 2022 ile bu yılın haziran ayı arasında 285 bin azaldığını bildirdi. Banka, düşüşün yüzde 94’ünün otomasyona yüksek ölçüde maruz kalan sektörlerde gerçekleştiğini tahmin etti. Rakamlar, gençlerin istihdamı ile değişen teknoloji arasında ciddi bir kesişime işaret ediyor; ancak düşüşe yalnızca yapay zekânın yol açtığını göstermiyor. Ekonomik koşullar ve işe alımdaki diğer değişimler de istihdamı etkileyebilir.

Otomasyon, bir mesleği tamamen ortadan kaldırmadan o meslek kapsamındaki belirli görevlerin yerini alabilir. Ancak bu ayrım, giriş düzeyindeki işleri otomasyona geçen veya işverenleri daha az eleman alan çalışanlara pek teselli vermiyor. Rutin idari ya da hizmet işlerinin istihdama giriş yolu olduğu durumlarda genç çalışanlar özellikle risk altında olabilir. Yapay zekâ kullanımı yaygınlaştıkça politika yapıcıların yalnızca genel istihdam rakamlarını değil, işlerin niteliğini ve işe alım eğilimlerini de takip etmesi gerekecek.

Güney Korelilerin çoğu için en yakın tehdit, özellikle cinsel istismar amaçlı deepfake’ler olmak üzere teknolojinin suç amaçlı kullanımı. 2020’de ortaya çıkan çevrim içi cinsel istismar skandalı Nth Room vakası ve daha sonraki olaylar, 2024’te deepfake’lere karşı daha sıkı yasaların çıkarılmasına katkıda bulundu. Ancak Uluslararası Af Örgütü Güney Kore’nin yakın zamanda düzenlediği bir forumda sunulan verilere göre polis, geçen yıl deepfake’le bağlantılı 1.553 suç kaydetti.

Dijital cinsel suçları soruşturan Team Flame grubunun yöneticisi Won Eun-ji, bu yılın büyük bölümünde araştırmacı medya kuruluşu Newstapa ile birlikte yaklaşık 50 Telegram sohbet odasına katıldı. Yapay zekâ araçlarının kimliğini gizleyen faillerin sayısını nasıl artırdığını ve mağdurların yaşını nasıl düşürdüğünü belgeledi. Görüntü üretme ve yüz değiştirme araçları istismar içeren materyallerin oluşturulmasını kolaylaştırırken şifreli veya anonim çevrim içi ortamlar soruşturmayı ve hesap verebilirliği zorlaştırabiliyor.

Ceza hukuku, çözümün bir parçası; ancak önleme ve destek de önem taşıyor. Mağdurların görüntülerin hızla kaldırılmasına, istismarı bildirmek için pratik yardıma ve içeriğin yeniden yayılmasına karşı korunmaya ihtiyacı var. Yapay zekâ araçları daha geniş kitlelerin erişimine açıldıkça, kamuya erişim politikaları bu sistemlerin amaçları zararsız olsa bile zararlı içerik üretmek veya dağıtmak için kullanılabileceğini hesaba katmalı.

Okullar, yapay zekânın değerini ayrı bir sınavdan geçiriyor

Eğitim de tartışmaların bir başka odağı hâline geldi. Eğitimciler, geçen yıl hükümetin yapay zekâ destekli ders kitaplarına 1,2 trilyon won harcama planına kısa sürede son verilmesi için protesto düzenledi. Kaygıları yalnızca yazılımın çalışıp çalışmadığıyla sınırlı değildi. Bir sistem, öğrenci bir problem üzerinde düşünmeden yanıtı sunduğunda nelerin kaybedileceğini de sorguladılar.

Protestoya katılan Güney Chungcheong eyaletinde görevli beşinci sınıf öğretmeni Song Keun-sang, yapay zekânın “yanıtları doğrudan verdiğini” ve “eğitim açısından pek değer taşımadığını” söyledi. Eleştirisi, eğitimdeki temel bir ayrıma işaret ediyor: Bir görevi tamamlamak, o görevin nasıl yapılacağını öğrenmekle aynı şey değil. Zor bir fikri açıklayan veya alıştırmaları öğrencinin düzeyine göre uyarlayan bir araç yardımcı olabilir. Okuma, akıl yürütme ya da yazma sürecini devre dışı bırakan bir araç ise bu becerileri zayıflatabilir.

Okuma puanlarının düşmesine ilişkin kaygılar tartışmayı daha acil hâle getiriyor; ancak bu değişimlerin sorumlusunun yapay zekâ olduğunun kanıtı sayılmamalı. Okulların belirli araçların anlama, dikkat ve bağımsız çalışma üzerindeki etkilerine dair kanıta ihtiyacı var. Öğretmenler, yapay zekânın eğitimi ne zaman destekleyeceği ve ne zaman öğrenme sürecinin dışında tutulacağı konusunda karar verme sürecinde söz sahibi olmalı.

Sınıflara yönelik kurallar, genel kullanıma açık sohbet botlarının kurallarından farklı olabilir. Öğrencilerin yaşlarına uygun korumalara, veri toplama konusunda açık sınırlara ve kendi anlayışlarını ölçen ödevlere ihtiyacı var. Yapay zekâ öğretmenin hazırlık yapmasına yardımcı olabilir veya öğrenciye farklı bir açıklama sunabilir; ancak eğitim ilişkisini devralamaz ve her öğrencinin ihtiyacını güvenilir biçimde değerlendiremez.

Reklam

Evrensel erişim kamu güveni sağlayabilir mi?

“Herkes için Yapay Zekâ”, yapay zekâya erişimi kamu altyapısının bir parçası olarak ele almaya yönelik iddialı bir girişim. Bu model, gelişmiş araçların çoğunlukla varlıklı kişilerin ve büyük şirketlerin erişimine açık olmasından kaynaklanan uçurumu azaltabilir. Güvenilir bir asistan, insanların bilgi bulmasına, rutin evrak işlerini tamamlamasına veya erişimi güç hizmetlerden yararlanmasına yardımcı olabilir. Bu kazanımlar, araçların niteliğine ve sistem çalışmadığında kullanıcıların bir kişiden yanıt alabilmesine bağlı.

Evrensel erişim, tasarım tercihlerinin sonuçlarını da değiştiriyor. Özel bir sohbet botundaki kusur kullanıcılarını etkilerken kamu hizmetindeki bir kusur nüfusun çok daha büyük bir bölümüne ulaşabilir. Bir sistem kamu kayıtlarına veya kurumların iş akışlarına bağlanırsa güvenlik ihlalleri ve yanlış çıktılar tek bir konuşmanın ötesinde sonuçlar doğurabilir. Güvenin oluşup oluşmayacağını; güçlü mahremiyet sınırları, bağımsız testler, sistem performansına ilişkin açık kayıtlar ve itiraz yolları belirleyecek.

Güney Kore güçlü bir teknoloji sektörüne ve kapsamlı bir deneme yürütecek kaynaklara sahip. Ülkenin temel zorluğu, hizmeti teknik açıdan yetkin kılarken kamuya karşı hesap verebilir olmasını sağlamak. Bunun için sistemlerin hangi verileri topladığını açıklamak, hatalardan kimin sorumlu olduğunu belirtmek ve dışarıdan incelemeye yetecek bilgiyi yayımlamak gerekiyor. Ayrıca hizmetin başarısını kullanıcı veya özellik sayısıyla ölçmek yerine insanlara yarar sağlayıp sağlamadığını değerlendirmek gerekiyor.

Uygulama, kamu yatırımlarının erişimi genişletirken hataların gerçek maliyetler doğurduğu alanlarda insan muhakemesini koruyup koruyamayacağını sınayacak. Güney Kore’nin yasaları ve güvenlik enstitüsü bir çerçeve sunuyor; ancak bunların değeri, yapay zekâ sınıflara, iş yerlerine ve kamu kurumlarına girdikçe uygulamada nasıl işledikleriyle ölçülecek.

Öne Çıkanlar

  • Güney Kore, SK Telecom, KT ve Kakao ile bağlantılı konsorsiyumların öncülük edeceği ücretsiz bir yapay zekâ denemesi planlıyor.
  • Hükümet, yapay zekâyı randevu ve vergi danışmanlığı gibi hizmetlere bağlanan kalıcı bir kamu hizmetine dönüştürmeyi hedefliyor.
  • Yapay Zekâ Temel Yasası; insan denetimi, etki değerlendirmeleri ve sentetik içeriklerin etiketlenmesini zorunlu kılıyor.
  • İstihdama ilişkin kaygılar arasında, otomasyona açık sektörlerde yoğunlaşan 15-29 yaş arası çalışan sayısındaki düşüş yer alıyor.
  • Yapay zekâ araçlarının kolaylaştırdığı cinsel istismara yönelik kaygılar sürerken polis, geçen yıl deepfake’le bağlantılı 1.553 suç kaydetti.
  • Öğretmenler, anında sunulan yanıtların öğrenmeyi sekteye uğratabileceğini belirterek yapay zekâ destekli ders kitaplarına karşı çıktı.
Bu haberi paylaş

Bunlar da ilginizi çekebilir