Tayvan, Yapay Zekâ Ajanları Finansal Sistemlerde Canlıya Alınmadan Önce Güvenlik İçin Görüş Alıyor

9 dakikalık okuma
Taiwan Opens Consultation on AI Agent Security Before Financial Systems Go Live

Eyleme geçebilen yapay zekâ için güvenlik önlemleri tartışmaya açıldı

Tayvan Finansal Denetim Komisyonu (FSC), finans kuruluşlarının operasyonel sistemlerine bağlanabilen, bu sistemleri kullanabilen veya çalıştırabilen yapay zekâ ajanları için güvenlik önlemleri önererek 13 Ekim 2026'da 30 günlük kamuoyu görüşü süreci başlattı. Öneride L1'den L4'e kadar dört risk seviyesi belirleniyor; en yüksek riskli eylemlerin gerekli yetkilendirme, inceleme veya yürütmeyi durdurma mekanizmalarına tabi olması isteniyor.

İçindekiler
  1. Eyleme geçebilen yapay zekâ için güvenlik önlemleri tartışmaya açıldı
  2. Operasyonel erişim riski neden değiştiriyor?
  3. Yalnızca teknolojiyi değil, görevi de yönetin
  4. Üç ölçüte göre değerlendirilen dört risk seviyesi
  5. Müşteri hizmetleri, izinlerin önemini gösteriyor
  6. Dijital çalışanın da insan gözetmenine ihtiyacı var
  7. Kimlik ve erişim kontrolleri ajana da uygulanıyor
  8. Testler, iş akışının tamamındaki hataları kapsamalı
  9. Görüş süreci, nihai bir devreye alma kuralı değil
  10. Öne Çıkanlar

Finans Sektöründe Ajan Tabanlı Yapay Zekânın Güvenli Kullanımına İlişkin Görüş Belgesi başlıklı doküman, bu teknolojinin yaygın biçimde devreye alınmasından önce yayımlandı. Komisyonun Bilgi Yönetimi Dairesi Direktörü Lin Yu-tai, finans kuruluşlarının çoğunun hâlâ kontrollü ortamlarda denemeler yaptığını veya küçük ölçekli pilot çalışmalar yürüttüğünü söyledi. Kuruluşların bu ajanları canlı iş süreçlerinde kullanmaya başladığına dair bir bilgi almadığını belirtti.

Komisyonun temel kaygısı, bilgi üreten yapay zekâdan eyleme geçen yapay zekâya geçiş. Müşteri şikâyetlerini özetleyen bir asistanın yarattığı güvenlik sorunu, gizli kayıtlara erişebilen, sistemdeki bilgileri değiştirebilen veya müşteriye doğrudan yanıt gönderebilen bir ajanınkinden farklı.

Bu nedenle görüş süreci, yalnızca model doğruluğuna değil, izinlere ve hesap verebilirliğe odaklanıyor. Kuruluşların bir ajanın hangi bilgilere erişebileceğini, hangi araçları kullanabileceğini, hangi eylemleri gerçekleştirebileceğini ve bir sorun çıktığında çalışanların onu nasıl durdurabileceğini veya kontrolü nasıl devralabileceğini belirlemesi gerekecek.

Belge yeni bir düzenleme veya resmî kılavuz niteliğinde değil. Mevcut yasaların, denetim gerekliliklerinin, dış kaynak kullanımına ilişkin kuralların veya kurum içi kontrollerin yerini almıyor. Komisyon, görüş sürecinin ileride hazırlanabilecek kılavuzlara katkı sağlamasını umuyor ancak bunun için bir takvim belirlemiş değil.

Reklam

Operasyonel erişim riski neden değiştiriyor?

Ajan tabanlı yapay zekâ, bir görevi yerine getirmek için adımlar planlayabilir, yazılım araçlarını kullanabilir ve sistemler arasında bilgi arayabilir. Bu özellik, temel işlevi bir kişinin değerlendireceği yanıtı üretmek olan sohbet uygulamalarından ayrılıyor. Hatalı bir yanıt doğrudan operasyonel eyleme dönüştüğünde güvenlik sorunu daha acil hâle geliyor.

Lin dört temel risk belirledi: ajanın amaçlanan hedeften sapması, araçları yanlış kullanması veya yetkilerini aşması, hassas bilgileri açığa çıkarması ve hataların bir dizi eylem boyunca yayılmasına yol açması. Bu riskler bir arada ortaya çıkabilir. Bir ajan kullanmaması gereken bir bilgiyi alıp bir mesaja ekleyebilir ve ardından bu mesajı kurum dışına gönderebilir.

İnandırıcı görünen ancak yanlış içerik üretme anlamındaki yapay zekâ halüsinasyonları da kaygı konusu olmayı sürdürüyor. Lin, ajanın kişisel bilgileri ait olmadığı harici bir e-postaya eklediği bir senaryoyu anlattı. Bu, olası bir hataya ilişkin örnekti; bir finans kuruluşunda yaşandığı açıklanan bir olay değildi.

Hız, olası etkinin boyutunu da değiştiriyor. Lin, bir kişinin saatte belki bir dosyayı ele almasına karşılık bir ajanın 100 dosya işleyebileceğini söyledi. Bu örnek, ölçülmüş bir verimlilik sonucu değil, işlem hacminde yüz katlık olası bir farkı ifade ediyor. Lin'in vurgusu, çalışanlar müdahale etmeden önce otomatik hataların çok sayıda dosyaya yayılabileceğiydi.

Yalnızca teknolojiyi değil, görevi de yönetin

Görüş belgesindeki öneriler üç alanda toplanıyor: güvenlik yönetişimi, risk sınıflandırması ve güvenlik kontrolleri. Önerilen temel yönetim birimi, tek başına ele alınan bir yapay zekâ ürünü değil, kuruluşun ajana yaptırmak istediği belirli görev, yani uygulama senaryosu.

Kuruluş, her senaryo için iş amacını, sorumlu kişileri, izin verilen verileri, kullanılabilecek araçları ve yapılabilecek eylemleri belirlemeli. Ayrıca çıktıların nereye gönderilebileceğini veya hangi sistemlere yazılabileceğini ve ajanın olağan dışı davranması hâlinde ne yapılacağını da saptamalı.

Bu yaklaşım, aynı yazılımın üstlendiği role göre farklı kontrollere tabi olmasını sağlıyor. Eyleme geçmeden güvenlik bilgilerini inceleyen bir ajan, operasyonel bir sistemi değiştirme yetkisi olan ajandan farklıdır. Dolayısıyla izinlerdeki değişiklik, kullanılan temel modeldeki değişiklik kadar önemli olabilir.

Yönetişim ilk onayla sınırlı kalmamalı. Öneriler, risk düzeyine uygun inceleme, izleme, denetim, yetenekleri kısıtlama, askıya alma ve kurtarma mekanizmaları öngörüyor. Sınıflandırma; uygulama değiştikçe yeniden değerlendirilmek üzere onay eşiklerine, deneme koşullarına, devreye alma kararlarına ve sonraki denetimlere yön vermeli.

Reklam

Üç ölçüte göre değerlendirilen dört risk seviyesi

Önerilen L1-L4 sınıflandırması üç ölçüt kullanıyor: verilerin hassasiyeti, eylemlerin etkisi ve yeteneklerin sınırları ya da etkilerin yayılma olasılığı. Değerlendirmede, daha düşük riskli bir özelliğin daha tehlikeli olanı dengelemesine izin verilmeden, en yüksek risk sonucu esas alınıyor.

Veri hassasiyeti, ajanın hangi bilgileri görebildiğiyle ilgili. Kamuya açık bilgilere erişim, kişisel kayıtlara veya ticari sırlara erişimden farklı. Eylemlerin etkisi ise ajanın bu bilgilerle ne yapabildiğini kapsıyor: bilgileri okumaktan kayıtları değiştirmeye veya kurum dışıyla iletişim kurmaya kadar.

Üçüncü ölçüt, faaliyetin kapsamını ve erişimini değerlendiriyor. Tek bir görevle sınırlı bir ajan; toplu işlem yapabilen, günün her saati çalışmayı sürdürebilen veya birbirine bağlı birkaç adımda ilerleyebilen bir ajandan farklı. Küçük bir hatanın daha büyük bir operasyonel soruna dönüşme ihtimali de bu ölçütte ele alınıyor.

L4 kapsamındaki uygulamalarda öneri, yüksek riskli eylemlerin gerekli yetkilendirme, inceleme veya engelleme mekanizmaları olmadan otomatik yürütülmesini önleyecek. Daha düşük riskli uygulamalarda denemelere alan bırakılacak. Komisyon, yaklaşımının risk temelli, orantılı ve belirli teknolojilere karşı tarafsız olduğunu; uluslararası güvenlik çerçevelerinden yararlandığını belirtiyor.

Müşteri hizmetleri, izinlerin önemini gösteriyor

Lin'in müşteri hizmetleri örneği, pratik bir karşılaştırma sunuyor. Şikâyetleri toplayıp özet hazırlayan bir ajan, düşük ila orta risk aralığında yer alıyor. Müşterilere yanıt da gönderebiliyorsa kurum dışına eylemde bulunabileceği için riski orta ile yüksek arasında değerlendiriliyor.

Fark, her iki uygulamanın da yapay zekâ kullanıp kullanmaması değil. İlk durumda, özet müşteriyi etkilemeden önce bir çalışan tarafından incelenebilir. İkinci durumda ise ajan, kendi yorumunu kurum dışına gönderilen bir iletiye dönüştürebilir. Mesaj gönderme izni, bir hatanın doğuracağı sonuçları değiştirir.

Bilgi yazma izni de başka bir sınır oluşturuyor. Yalnızca okuma yetkisi olan bir ajan, bu izinle özgün kayıtları değiştiremez. Yazma yetkisi verildiğinde ise hatalar bilgileri değiştirebilir veya silebilir. Bu nedenle kontroller, hem çıktının kalitesini hem de ajanın temas ettiği sistemlerin bütünlüğünü gözetmeli.

Bu örnek, bir kuruluşun tüm yapay zekâ programına tek bir risk etiketi vermenin neden yetersiz olacağını da gösteriyor. Aynı ajanın iki farklı kullanımında, verilere erişim ve izin verilen eylemler farklı olduğundan onay koşulları, izleme ve kurtarma düzenlemeleri de farklı olabilir.

Reklam

Dijital çalışanın da insan gözetmenine ihtiyacı var

Lin, bir görevi etkin biçimde ilerletebildiği için yapay zekâ ajanını dijital çalışan olarak tanımladı. Bu benzetme, ajana bir rol vermenin ötesine geçiyor: kuruluşun ajanın neler yapabileceğine karar vermesi, devreye almadan önce onu sınaması, faaliyetlerini gözetmesi ve çalışmasını durduracak bir sürece sahip olması gerekiyor.

Lin, devreye alma sorumluluğundan söz ederken bir görevi ajana devretmenin insanların hesap verebilirliğini ortadan kaldırmadığını vurguladı. İngilizceden çevrilen sözleri şöyle:

Yapay zekâ ancak bir yardımcı olabilir; nihai gözetim insanlardadır.

Bu ilke, ajanın yetkisini tanımlama ve sorunlara müdahale etme sorumluluğunu insanlara yüklüyor. Yapay zekâ ajanı devrede diye mevcut güvenlik kontrolleri atlanamaz. Kurumun hem sorumlu bir karar vericiye hem de bu kişinin onayladığı sınırları uygulayacak teknik araçlara ihtiyacı var.

Komisyonun odağı, çalışanların yapay zekâyı kullanmasının tüm biçimlerini kapsamıyor. Bir kişinin mevcut yetkileri dahilinde çalışan kişisel asistanlar, mevcut kurum içi kontroller ve güvenlik düzenlemeleriyle yönetilebilir. Bir ajanın finans kuruluşunun operasyonel sistemlerine bağlanması ise risk ve bilgi güvenliğinin yeniden değerlendirilmesini gerektiriyor.

Kimlik ve erişim kontrolleri ajana da uygulanıyor

Güvenlik önerileri, ajanı insan dışı bir kimlik ve yazılım iş yükü olarak ele alıyor. Uygulamada kuruluşun hangi ajanın işlem yaptığını ve hangi izinlere sahip olduğunu bilmesi gerekiyor. Ajanın faaliyetleri, ilgisiz kullanıcıların veya diğer otomatik süreçlerin faaliyetlerinden ayırt edilemez hâle gelmemeli.

Bu yaklaşım sıfır güven ilkelerine dayanıyor: Bir sistemin kuruluş içinde yer alması, erişimin güvenli olduğu varsayımına yetmiyor. Kimlik ve izinler doğrulanmalı, erişim görevin gerektirdiğiyle sınırlandırılmalı ve eylemler izlenebilir olmalı.

Kontroller; kimlik, cihazlar ve yürütme ortamları, ağlar, uygulamalar ve iş yükleri ile veri korumasını kapsıyor. Önerilerde hem temel hem ileri düzey güvenlik gereklilikleri ve kontrol hedefleri yer alıyor; davranış kontrolleri, görünürlük ve analiz de yaklaşımın bir parçasını oluşturuyor.

Lin birkaç somut önlemi sıraladı. Ajanlar uygun biçimde yalıtılmış ortamlarda çalıştırılmalı, ağ bağlantıları göreve göre kısıtlanmalı ve kullanılabilecek araçlar onaylı bir listeyle sınırlandırılmalı. Verilere erişimde asgari gereklilik ilkesi izlenmeli. Bu önlemler, yalnızca modele verilen talimatlara güvenmek yerine ajanın amaçlanan rolünü aşabileceği farklı yolları ele alıyor.

Reklam

Testler, iş akışının tamamındaki hataları kapsamalı

Bir iş akışında ilerleyebilen uygulamalar için görüş belgesi, devreye almadan önce komut enjeksiyonu, araçların yanlış kullanımı, devralınan izinler ve bellek kirlenmesine karşı test yapılmasını öngörüyor. Bu testler, ajanın karşılaştığı bilgiler, araçlar veya yetkiler onu onaylanan görevden uzaklaştırdığında nasıl davrandığını inceliyor.

Komut enjeksiyonu, ajanın okuduğu materyalde gizlenmiş talimatların davranışını başka yöne yönlendirmeye çalışmasıdır. Araçların yanlış kullanımı, bağlı yazılımların uygunsuz biçimde kullanılmasını ifade eder. Devralınan izinler, ajana başka bir hesaptan veya süreçten kalan erişim yetkilerini verebilir. Bellek kirlenmesinde ise kayıtlı bilgiler, sonraki faaliyetleri istenmeyen biçimde etkiler.

Operasyonel hedefler, hataları önlemenin ötesine geçiyor. Sistemler gözlemlenebilir, kısıtlanabilir veya durdurulabilir, kurtarılabilir ve izlenebilir olmalı. Çalışanların ajanın ne yaptığını görebilmesi, zararlı faaliyeti kesebilmesi ve mümkün olduğunda etkilenen operasyonları eski hâline getirebilmesi gerekiyor.

Ajanın faaliyet kayıtları, inceleme ve denetimi desteklemeli. Ajanı durdurmak, hatalı bilgileri sisteme zaten yazmış veya başka eylemleri tetiklemişse sorunu tek başına çözmeyebilir. Bu nedenle öneriler, müdahaleyi kurtarma süreci ve ne olduğuna dair kayıt tutulmasıyla birlikte ele alıyor.

Görüş süreci, nihai bir devreye alma kuralı değil

Komisyon, belgeyi Tayvan Kamu Politikalarına Katılım Platformu'nun kamuoyu tartışmaları bölümünde yayımladı. Görüş sürecinin uygulamadaki deneyimleri çerçeveye taşımasını ve politika çalışmaları, olası kılavuzlar ile denetim görüşmeleri için temel oluşturmasını amaçladığını belirtiyor.

Lin, teknolojinin hızla değişmesinin hemen sabit bir kılavuz yayımlamama nedenlerinden biri olduğunu söyledi. Komisyon ayrıca ilgili tüm riskleri şimdiden belirlediğini varsayamaz. Bu nedenle kılavuz hazırlama niyeti, belirli bir tarihte nihai bir belge yayımlama taahhüdü değil; görüşlere ve sonraki gelişmelere bağlı bir süreç.

Komisyonun açıkladığı takvim şöyle:

  • Temmuz 2026: FSC, Lin'in mevcut çalışmanın öncülü olarak tanımladığı yapay zekâ saldırılarına karşı koyma stratejilerini önerdi.
  • 13 Ekim 2026: FSC, ajan tabanlı yapay zekâ güvenliği görüş belgesini yayımladı.
  • Yayımın ardından: Önerilen yaklaşıma ilişkin görüşlerin alınması için 30 günlük kamuoyu görüş süreci başladı.
  • Görüş sürecinden sonra: Olası resmî kılavuz, gelecek görüşlere ve teknolojik gelişmelere bağlı olacak; yayımlanması için herhangi bir takvim açıklanmadı.

Mevcut denemeler, zamanlamanın nedenini açıklıyor. Lin, güvenlik istihbaratını doğrudan operasyonel eyleme geçmeden incelemek gibi siber güvenlik çalışmalarının pek çok denemeye konu olduğunu söyledi. Komisyon, ajanların idari ve ticari süreçlerde daha fazla kullanılmaya başlanmasından önce güvenlik önlemlerini hazır bulundurmak istiyor. Bir sonraki somut adım görüş süreci; olası kılavuzun nihai içeriği ve statüsü ise henüz belirlenmiş değil.

Reklam

Öne Çıkanlar

  • Tayvan FSC, finans sektöründe ajan tabanlı yapay zekânın güvenli kullanımı hakkında 13 Ekim 2026'da 30 günlük görüş süreci başlattı.
  • Odak noktası, finans kuruluşlarının operasyonel sistemlerine bağlanabilen, bu sistemleri kullanabilen veya çalıştırabilen ajanlar.
  • Öneri, verilerin hassasiyeti, eylemlerin etkisi ve yeteneklerin sınırlarını dikkate alan dört risk seviyesi kullanıyor.
  • En yüksek riskli eylemler için gerekli yetkilendirme, inceleme veya yürütmeyi engelleme mekanizmaları gerekiyor.
  • Kuruluşlar izinleri sınırlamalı, faaliyet kayıtlarını tutmalı, ajanları durdurabilmeli ve hatalardan sonra sistemleri kurtarabilmeli.
  • Görevi yapay zekâ ajanı yerine getirse de sorumluluk insanlarda kalıyor.
  • Kullanımların çoğu hâlâ deneme aşamasında. Belge resmî bir kılavuz değil ve böyle bir kılavuz için takvim belirlenmiş değil.
Bu haberi paylaş

Bunlar da ilginizi çekebilir