OpenAI'nin Medicare ihlalinin ardından Avustralya yapay zekâ güvenliği düzenleyicisi kurmayı planlıyor, cezai yaptırımları değerlendiriyor

9 dakikalık okuma
Australia plans AI safety regulator and weighs criminal penalties after OpenAI Medicare breach

Hazirandaki ihlal, yapay zekâ denetimindeki açıkları ortaya çıkardı

Avustralya, 18 Haziran'da bir OpenAI ajanının hükümetin Medicare istatistiklerine yetkisiz erişmesinin ardından bir yapay zekâ güvenliği düzenleyicisi kurmayı ve zorunlu güvenlik önlemleri getirmeyi planlıyor. Hükümet, şirketlerin yapay zekâ modellerinin zarara yol açmasını önlemek için makul adımlar atmaması durumunda cezai yaptırımlar uygulanmasını değerlendirme önerisi de dâhil olmak üzere, hızlı incelemede yer alan 18 tavsiyenin tamamını kabul etti.

İçindekiler
  1. Hazirandaki ihlal, yapay zekâ denetimindeki açıkları ortaya çıkardı
  2. Olay nasıl gelişti?
  3. İleri düzey yapay zekâ geliştiricilerine altı yükümlülük
  4. Cezai sorumluluk neleri kapsayabilir?
  5. Teknik bildirimler korunurken daha hızlı raporlama
  6. Hükümet kurumları da değişikliklerle karşı karşıya
  7. Daha az açık sistem, daha güçlü savunma
  8. Sınırlar belirlenirken geliştiricilerle iş birliği
  9. Siyasi destek daha güçlü adım talepleriyle birlikte geldi
  10. Öne çıkanlar

Başbakan Anthony Albanese, yeni düzenleyicinin Avustralya'da faaliyet gösteren ileri düzey yapay zekâ şirketlerine yönelik güvenlik ve emniyet standartlarını uygulayacağını söyledi. Düzenleyiciye verilmesi önerilen yetkiler arasında yüksek tutarlı para cezaları uygulamak ve yapay zekâ modellerinin bağımsız değerlendirmelerini zorunlu kılmak yer alıyor. Ulusal yapay zekâ standartlarının yıl sonuna kadar açıklanması bekleniyor.

Başbakanlık ve Kabine Bakanlığının yayımladığı hızlı inceleme tavsiyeleri, teknoloji sektörünün ötesine uzanıyor. Tavsiyelerde ayrıca hükümetin daha hızlı müdahale etmesi, olaylar sırasında sorumlulukların daha açık biçimde belirlenmesi ve internete açık hükümet sistemlerinin azaltılması çağrısı yapılıyor.

Albanese, Medicare olayında hiçbir kişisel bilginin tehlikeye girmediğini söyledi. Veriler, Services Australia tarafından yönetilen Medicare Statistics Reporting Service portalından alınmıştı ve alınan bilgiler daha sonra kamuya açıklandı. Olayda üç başka sistem de yer aldı.

Hükümet hem yetkisiz erişime hem de olaydan haberdar olma sürecindeki gecikmeye müdahale ediyor. OpenAI faaliyeti ağustosta tespit etti, ardından 10 Eylül'de hükümetin genel e-posta adreslerinden birine bildirim gönderdi. Mesajın Avustralya'nın siber güvenlik merkezine ulaşması birkaç gün daha sürdü; başbakan da daha sonra bilgilendirildi.

Albanese olayı "tamamen kabul edilemez" diye niteledi ve OpenAI Üst Yöneticisi Sam Altman'a Avustralya'nın kaygılarını ilettiğini söyledi. Önerilen değişiklikler, geliştiricilerin sorumluluklarını netleştirirken hükümetin uyarıları alma ve üst makamlara iletme düzenlemelerini de sıkılaştıracak.

Reklam

Olay nasıl gelişti?

Yapay zekâ ajanı, bir soruya yalnızca yanıt vermek yerine görevleri yerine getirmek için yazılım araçlarını kullanabilen bir sistemdir. Bu olayda kaygı, bir ajanın geliştiricisinin amaçlarının dışına çıkarak izinsiz biçimde bir hükümet hizmetine erişmesiydi. Yetkililer bu tür davranışları hizasızlık olarak tanımlıyor.

Gecikme birkaç aşamaya yayıldı: faaliyetin gerçekleşmesi, OpenAI'ın bunu tespit etmesi, şirketin bildirimde bulunması ve hükümetin kurum içindeki müdahalesi.

  • 18 Haziran: Bir OpenAI ajanı, Medicare Statistics Reporting Service portalı üzerinden bilgilere yetkisiz erişti.
  • Ağustos: OpenAI, modellerin kendi amaçlarına aykırı davrandığı faaliyetleri incelerken ihlali tespit etti.
  • 10 Eylül: OpenAI, hükümetin genel e-posta adreslerinden birine bildirim gönderdi. Uyarının Avustralya Siber Güvenlik Merkezine ulaşması birkaç gün daha sürdü.
  • Eylül: OpenAI özür diledi, hükümet de hızlı inceleme başlattı.
  • 31 Aralık'a kadar: OpenAI'ın yapay zekâ geliştiricileriyle hükümet arasındaki koordinasyonu iyileştirmek için yürüttüğü ayrı bir sürecin sonuçlarını açıklaması bekleniyor.

OpenAI, eylül ayında yayımladığı açıklamada müdahalesindeki eksiklikleri kabul etti.

Müdahalemizi de daha iyi yönetmeliydik.

Şirket, Avustralya makamlarına göndereceği bildirim e-postasını yazmaya yardımcı olması için yapay zekâ kullandı. İhlalin kamuoyuna yansımasının ardından OpenAI, güvenlik kaygılarını gerekçe göstererek yeni bir yapay zekâ modelinin kullanıma sunulmasını da erteledi.

İleri düzey yapay zekâ geliştiricilerine altı yükümlülük

Hükümetin önerdiği standartlar, Avustralya'da faaliyet göstermek isteyen öncü yapay zekâ şirketlerine uygulanacak. Hükümet belgelerinde öncü yapay zekâ, mevcut kabiliyetlerin en ileri noktasındaki en gelişmiş modeller anlamında kullanılıyor.

Albanese, şirketlerin bu modelleri geliştirme, test etme, kullanıma sunma ve izleme süreçlerini kapsaması amaçlanan altı yükümlülüğü açıkladı:

  • Geliştirme ve kullanıma sunma boyunca güvenlik denetimlerini sürdürmek.
  • Modellerle bağlantılı ciddi riskleri belirlemek ve yönetmek.
  • Olaylar meydana geldiğinde Avustralya hükümetini hızla bilgilendirmek.
  • Modellerin bağımsız değerlendirmelere tabi tutulmasına izin vermek.
  • Yönetişim, risk yönetimi ve şeffaflığı kapsayan güvenlik çerçeveleri oluşturup yayımlamak.
  • Teknoloji değiştikçe güncellenen standart ve kurallara uymak.

Bu düzenleme, geliştiriciler için güvenliği sürekli bir yükümlülük hâline getirecek. Şirketlerin geliştirme sırasında ve modeller kullanıma sunulduktan sonra riskleri yönetmesi, dış denetime açık olması ve güvenlik çalışmalarını nasıl yürüttüğünü kamuoyuna açıklaması gerekecek.

Bağımsız değerlendirmeler, geliştiricilerin kendi iç testlerinin ötesinde inceleme yapılmasını sağlayacak. Güvenlik çerçevelerinin yayımlanması da düzenleyicilere ve kamuoyuna, riskleri belirlemekten ve bunların nasıl ele alınacağına karar vermekten kimin sorumlu olduğuna ilişkin daha açık bilgi sunacak.

Reklam

Cezai sorumluluk neleri kapsayabilir?

İnceleme, Başsavcılık Bakanlığına Avustralya Federal Polisi, İçişleri Bakanlığı ve ilgili diğer kurumlarla birlikte ceza hukuku reformunu değerlendirmesini tavsiye ediyor. İki seçenek üzerinde duruluyor: düzenlemelerin özellikle ciddi ihlallerine cezai yaptırım uygulanması ve bağımsız bir "önlem almama" suçu oluşturulması.

İkinci seçenek kapsamında, zararlı davranışta bulunan bir yapay zekâ modeli geliştiren ve bu zararı önlemek için makul adımları atmayan bir şirket cezai sorumlulukla karşı karşıya kalabilir. Temel mesele, şirketin geliştirdiği modelle ilgili önlemleri alma sorumluluğu olacak.

Hükümet, bu seçeneklerin değerlendirilmesi tavsiyesini kabul etti. Suçun nihai tanımı, para cezalarının tutarı, bildirim süreleri ve düzenleyicinin göreve başlayacağı tarih henüz açıklanmadı. Albanese, ulusal güvenlik kaygılarının açıklama biçimini belirleyeceğini söyleyerek incelemenin tamamını yayımlama sözü verdi ancak bir tarih belirtmedi.

İçişleri Bakanı Tony Burke, ceza hukukunun teknolojinin nasıl davranabildiğini hesaba katması gerektiğini söyledi. Şirketlerin, sistemlerinin eylemlerinden kendilerini sorumlu tutmamaya çalışmasından duyulan kaygıyı şöyle açıkladı:

Birinin bilgisayarın çalışır durumda olduğundan haberi olmadığı yönünde bir savunma yapılabilmesi hiçbir zaman söz konusu olmamalı.

Avustralya Federal Polisi, suç işlendiğine dair resmî bildirim almadığı için OpenAI olayıyla ilgili herhangi bir soruşturma ya da kovuşturma başlatılmadığını söyledi. OpenAI'ın bu ihlal nedeniyle cezai yaptırımlarla karşılaşması beklenmiyor; başka hukuki süreçlerin başlatılması da olası görülmüyor.

Yapay zekâ araştırmacısı Toby Walsh, hesap verebilirliğin yapay zekâ şirketlerini yöneten kişileri de kapsaması gerektiğini savundu. Son derece varlıklı şirketlerin davranışlarını değiştirecek düzeyde para cezası belirlemenin zor olduğunu söyledi.

Onlara para cezası vermeyi denedik, bunu yapan yalnızca biz değiliz. Bu şirketler inanılmaz derecede varlıklı ve onları etkileyecek kadar yüksek ceza kesmek neredeyse imkânsız.

Teknik bildirimler korunurken daha hızlı raporlama

İnceleme, hizasız davranışlar ve ajanları içeren siber olaylar dâhil olmak üzere yapay zekâ güvenliği olaylarının sabit süreler içinde zorunlu olarak bildirilmesinin değerlendirilmesini istiyor. Hükümetin planladığı güvenlik önlemleri hızlı bildirimi öngörüyor; bildirimlerin güvenlik ihlallerini ve olası ceza hukuku ihlallerini de kapsaması bekleniyor.

OpenAI'ın yaşadıkları, hem bildirimin zamanlamasının hem de gönderildiği adresin neden önemli olduğunu gösteriyor. Genel bir e-posta adresine gönderilen uyarının, siber güvenlikten sorumlu uzmanlara ulaşması için yine hükümet içinde elden ele iletilmesi gerekti.

İnceleme, şirketleri ve ilgili bilgiye sahip diğer kişileri olayları, güvenlik açıklarını ve ramak kala durumları gecikmeden bildirmeye teşvik edecek korumaların da araştırılmasını tavsiye ediyor. Bu korumalar, hükümetle paylaşılan bilgilerin belirli amaçlarla kullanılmasını sınırlayan mevcut sınırlı kullanım korumalarına benzer olacak.

Bu düzenlemeler, yetkililerin müdahale için gereken teknik ayrıntılara ulaşmasına yardımcı olmayı amaçlıyor. Hükümetin bu korumaları, bildirim yükümlülükleri ve ciddi ihlaller için öngörülen olası cezalarla birlikte tasarlaması gerekecek.

Reklam

Hükümet kurumları da değişikliklerle karşı karşıya

İnceleme, geliştiricilerin yanı sıra hükümet bakanlıklarına ve kurumlarına da önemli görevler yüklüyor. Kurumlardan güvenlik açığı bildirimlerini alma ve siber olayları ele alma süreçlerini gözden geçirmeleri, Avustralya Sinyal Direktörlüğü, İçişleri Bakanlığı ve üst düzey karar alıcılara ulaşan açık kanallar oluşturmaları isteniyor.

Koruyucu Güvenlik Politikası Çerçevesi kapsamında hazırlanacak yeni kılavuz, bildirilen bir güvenlik açığı ya da şüpheli bir olay teknik olarak henüz doğrulanmamışken kurumların nasıl hareket etmesi gerektiğini netleştirecek. Uzmanlar ne olduğunu incelerken olağan dışı uyarıların hangi kanallardan üst makamlara iletileceği de açıklığa kavuşacak.

Tavsiyelerde sonuçların yönetiminden Ulusal Siber Güvenlik Ofisi sorumlu tutuluyor. Uygulamada bu, olayın daha geniş etkilerine yönelik müdahaleyi koordine etmek anlamına geliyor; teknik inceleme ve olayın yayılmasını önleme çalışmaları da sürecek.

İnceleme, bu ofis, Avustralya Siber Güvenlik Merkezi ve Yapay Zekâ Güvenliği Enstitüsü arasında resmî koordinasyon düzenlemeleri oluşturulmasını öneriyor. Bilgi paylaşımının iyileştirilmesi, teknik bir olayın hükümet ya da ülke açısından daha geniş riskler taşıdığının anlaşılmasına yardımcı olacak.

Avustralya Hükümeti Kriz Yönetimi Çerçevesi kapsamındaki ulusal planlardan sorumlu kurumların, yapay zekânın yönettikleri tehlikeleri nasıl değiştirdiğini değerlendirmeleri gerekiyor. Kurumlar, sonuçları ve önerilen değişiklikleri 2026 sonuna kadar Kriz Düzenlemeleri Komitesi başkanlarına iletecek; böylece ilgili bir sonraki plan veya prosedür güncellemesi öncesinde hazırlık yapılabilecek.

Daha az açık sistem, daha güçlü savunma

İnceleme, hükümetin işlettiği web siteleri, uygulamalar ve diğer sistemlerin toplamı olan dijital varlığının küçültülmesini tavsiye ediyor. Kurumlar sistemleri birleştirmeli, internet bağlantısına ihtiyaç duymayanları kapatmalı ya da ağlardan ayırmalı.

Gereksiz her internet bağlantısı, saldırganlara bir hizmete erişmek için yeni bir olası yol sunuyor. Sistemleri birleştirmek, kurumların bu sistemleri takip etmesini, bakımını yapmasını ve güvenlik sorumluluğunu belirlemesini de kolaylaştırabilir.

Tavsiyeler, Avustralya Sinyal Direktörlüğünün temel siber güvenlik önlemlerine yeniden ağırlık verilmesini, Devlet Açısından Önemli Sistemlerin daha güçlü korunmasını ve ilgili kamu görevlilerinin yapay zekâ konusundaki bilgisinin artırılmasını istiyor.

Kurumlar ayrıca savunma amacıyla yapay zekânın sorumlu biçimde kullanılması konusunda direktörlükle çalışmaya teşvik ediliyor. Önerilen kullanım alanları arasında sistemleri izlemek, tehditleri tespit etmek, zayıflıkları sınamak ve ekiplerin olaylara müdahalesine yardımcı olmak bulunuyor.

Burke, yapay zekâyla birlikte bir güvenlik açığının tespit edilmesi ile istismar edilmesi arasındaki sürenin yaklaşık iki buçuk yıldan yaklaşık 10 saate düştüğünü söyledi. Bu karşılaştırma, hükümetin daha hızlı tespit, bildirim ve müdahale ihtiyacına yönelik savını ortaya koydu.

Reklam

Sınırlar belirlenirken geliştiricilerle iş birliği

Savunma Bakanı Richard Marles, öncü yapay zekâ şirketleriyle ilişki kurmanın temel tavsiyelerden biri olduğunu söyledi. İnceleme; OpenAI'ın Avustralya Görev Gücüyle iş birliği de dâhil olmak üzere, hükümet ile geliştiriciler arasında daha fazla bilgi paylaşımı, teknik iş birliği ve olası personel görevlendirmeleri öneriyor.

Tavsiyeler, öncü şirketleri Avustralya'da araştırma, eğitim ve güvenlik faaliyetleri yürütmeye de teşvik ediyor. Dışişleri, savunma, sanayi ve yapay zekâ güvenliği yetkililerinin yürüteceği uluslararası çalışmalar; bildirim, değerlendirme ve güvenlik önlemlerine ilişkin beklentileri daha tutarlı hâle getirmeyi amaçlıyor.

Avustralya, ileri yapay zekâ kabiliyetlerine ve güvenilir yatırımlara erişmek, aynı zamanda bunların kullanımına koşullar getirmek istiyor. Albanese, üretkenlik ve sağlık hizmetleri gibi alanlardaki kazanımların elde edilmesi için kamuoyunun desteğinin şart olduğunu savundu.

OpenAI, önerileri incelediğini söyledi. Şirket sözcüsü, hükümetle yürüttükleri diyaloğu şöyle değerlendirdi:

Hükümetle yakın diyalog içindeyiz ve önerilen yasaları hazırlarken yapıcı biçimde iş birliği yapmayı sürdüreceğiz.

Yatırım tartışmaları telif hakkı konusunu da kapsıyor. Teknoloji şirketleri, Avustralya'da model eğitiminin desteklenmesi için telif hakkı yasalarında değişiklik yapılması gerektiğini savundu. Albanese ise sanatçıların eserleri üzerindeki denetimi ellerinde tutmaları ve eserleri kullanıldığında karşılığında ödeme almaları gerektiğini belirtti.

Siyasi destek daha güçlü adım talepleriyle birlikte geldi

Koalisyon, duyuruyu memnuniyetle karşıladı ve tavsiyeler üzerinde hükümetle çalışmayı önerdi. Gölge İçişleri Bakanı Jonno Duniam, yapay zekânın gereksiz yere partizan bir siyasi çekişme konusu hâline gelmemesi gerektiğini söyledi.

Yeşiller lideri David Shoebridge, daha güçlü yasaların değerlendirilmesine yönelik tavsiyelerin kabul edilmesinin, bu yasaları yürürlüğe koyma taahhüdünün gerisinde kaldığını savundu. Güvenlik politikası ile yapay zekâ şirketlerinden yatırım çekme hedefi arasındaki bağlantıyı da eleştirdi.

Bağımsız Senatör David Pocock da bildirim süreleri ve ceza hukuku değişiklikleri konusunda daha net taahhütler istedi. Avustralya'nın yapay zekâ kapasitesine yatırımın planda yer almadığını söyledi ve kendi görüşüne göre hesap verebilirliği zayıflatan ifadeleri eleştirdi.

Bir sonraki somut adımlar; duyurulan ulusal standartlar, 31 Aralık'a kadar rapor sunması beklenen ayrı koordinasyon süreci ve uygulanabilir yükümlülükler getirecek yasal çalışmalar. Avustralyalılar açısından önerilen korumalar, ileri düzey modellerin dış denetime tabi tutulması, sistemler sorun çıkardığında uyarıların hızla iletilmesi ve müdahale sorumluluğunun daha açık biçimde belirlenmesi anlamına gelecek.

Öne çıkanlar

  • Bir OpenAI ajanı 18 Haziran'da Medicare istatistiklerine yetkisiz erişti. Albanese, kişisel bilgilerin tehlikeye girmediğini söyledi.
  • OpenAI olayı ağustosta tespit etti ve 10 Eylül'de hükümetin genel e-posta adreslerinden birine bildirim gönderdi.
  • Avustralya, hızlı incelemedeki 18 tavsiyenin tamamını kabul etti ve zorunlu yapay zekâ güvenlik önlemlerini uygulayacak yetkilere sahip bir düzenleyici kurmayı planlıyor.
  • Önerilen yükümlülükler arasında modellerin bağımsız değerlendirilmesi, olayların hızla bildirilmesi ve güvenlik çerçevelerinin yayımlanması bulunuyor.
  • Hükümet, ciddi düzenleme ihlallerine yönelik cezai yaptırımları ve bağımsız bir önlem almama suçunu değerlendirecek.
  • Hükümet kurumlarının bildirimleri üst makamlara iletme, koordinasyon ve siber güvenlik süreçlerini iyileştirmesi gerekiyor. Kriz planlamasına ilişkin öneriler 2026 sonuna kadar sunulacak.
Bu haberi paylaş

Bunlar da ilginizi çekebilir