Cody Wilson’ın yapay zekâ silahı iddiası, sohbet botlarının güvenliğini ve izlenemeyen silahları gündeme taşıyor

8 dakikalık okuma
Cody Wilson's AI Gun Claim Puts Chatbot Safety and Untraceable Weapons in Focus

İki atış, bir başarısızlık ve kapsamlı bir iddia

WASP adlı .22 kalibrelik tabanca, Teksas’ın Austin kentinde Defense Distributed’ın merkez binası önünde düzenlenen gösteride üç denemeden ikisinde ateş aldı. Projenin arkasındaki silah hakları savunucusu Cody Wilson, tasarımın dijital ateşli silah dosyalarıyla eğitilmiş bir yapay zekâ modeli olan GatGPT tarafından oluşturulduğunu söylüyor.

İçindekiler
  1. İki atış, bir başarısızlık ve kapsamlı bir iddia
  2. GatGPT’nin katkısı ne oldu?
  3. Austin’deki gösteride neler yaşandı?
  4. Tasarım kusurları neden önemli?
  5. Yapay zekâ, silahlarla ilgili bilgiye erişimi nasıl değiştirebilir?
  6. Bir silahı “hayalet silah” yapan nedir?
  7. Everytown riskin silah tasarımını aştığı görüşünde
  8. Bir silahlı saldırı davası hukuki incelemeyi gündeme getiriyor
  9. Hangi güvenlik önlemleri öneriliyor?
  10. Önemli Noktalar

İlk deneme başarısız oldu. Wilson, sonraki denemede silah ateş aldıktan önce üzerinde çalıştı. Gösteri sırasında silah bir test düzeneğine sabitlenmişti; Wilson ise polislerin kullandığı isyan kalkanının arkasında çömelerek onu bir ip yardımıyla uzaktan çalıştırdı.

Küçük silahın yeniden doldurulması gerekmeden önce tek mermi ateşlemesi mümkün. Plastik gövdesi 3D yazıcıyla üretilmiş, namlusu ise tabanca namlusu. Alışılmadık biçimde kabarcıklı olan kabzasının bir insan eline pek uygun olmadığı bildirildi. Uzmanlar ayrıca tamamlanmamış tetik korkuluğunu ve tasarımdaki diğer kuşkulu özellikleri eleştirdi.

Wilson, WASP’ı yapay zekâ tarafından üretilen ilk silah olarak nitelendiriyor. Anlattığı süreçte insanlar modelden bir tasarım istiyor, modelin önerisini geliştiriyor ve ortaya çıkan silahı kontrol ediyordu. Wilson’ın daha kapsamlı hedefi, insanların silah tasarımında ve parça seçiminde yolunu bulmasına yardımcı olacak bir model. Bu hedef, sohbet yazılımlarının silah üretimi için gereken bilgi düzeyini nasıl düşürebileceğine yeniden dikkat çekiyor.

GatGPT’nin katkısı ne oldu?

GatGPT’nin, Wilson’la bağlantılı dijital ateşli silah tasarımları arşivi DEFCAD’in dosya kütüphanesiyle eğitildiği bildirildi. Wilson’ın ekibi, modelle yaptığı bir görüşmede yeni bir tasarım istedi; ardından öneriyi insanlar daha ileri taşıdı.

Bu yaklaşım, genellikle bir kişinin her talimatı kendisi yazmak yerine yapay zekâdan gündelik dille yazılım üretmesini istediği durumlar için kullanılan “vibe coding” terimiyle tanımlandı. Burada aynı konuşma temelli yaklaşım, başarısız olması birinin yaralanmasına yol açabilecek fiziksel bir nesneye uygulandı.

GatGPT’yi silah tasarımları üretmeye yarayan bir araç olarak tanıtan Wilson, hedefini şu sözlerle anlattı:

silah üretebilen bir yapay zekâ

Modelin kullanıcılara parça seçiminde de yardımcı olabildiği bildiriliyor. Bu danışmanlık rolü önemli; çünkü dijital bir şekil oluşturmak, fiziksel bir cihaz üretmenin yalnızca bir aşaması. İnsanların yine de çıktıyı yorumlaması, malzeme bulması, bileşenleri birleştirmesi ve sonucun güvenli biçimde çalışıp çalışmadığını değerlendirmesi gerekiyor.

Reklam

Austin’deki gösteride neler yaşandı?

WASP, Wilson’ın daha önce geliştirdiği ve 3D yazıcıyla üretilen bir başka küçük ateşli silah olan Liberator’a benziyor. Görünüşü, temel bir silah biçimini pratik kullanıma elverişsiz görünen özelliklerle, özellikle de kabzayla bir araya getiriyor.

Wilson, ilk başarısızlığın silahın fişeğe vurmasına rağmen ateşlemeyi başlatamaması nedeniyle yaşandığını söyledi. Ayarlamaların ardından ikinci denemede silah ateş aldı ve karton hedefte bir delik açtı. Gösterinin tümünü aktaran habere göre WASP, üç denemede iki kez ateş aldı.

Bu sıralama, duyuruyla fiziksel testi birbirinden ayırmaya yardımcı oluyor:

  • Wilson’ın ekibi, GatGPT’den bir ateşli silah tasarımı önermesini istedi ve modelin çıktısını geliştirdi.
  • Austin’deki gösteride ilk ateşleme denemesi başarısız oldu.
  • Wilson silah üzerinde çalıştı; ikinci denemede silah ateş aldı.
  • WASP, üç denemede iki kez ateş aldı.

Güvenilirlik, güvenli kullanım ve dayanıklılık konuları henüz açıklığa kavuşmuş değil. İki başarılı atış, gösteride ne olduğuna dair somut bir tablo sunarken başarısızlık ve ayarlama ihtiyacı, prototipin hâlâ ne ölçüde insan müdahalesine ihtiyaç duyduğunu gösteriyor.

Tasarım kusurları neden önemli?

WASP’ın kullanışsız kabzası ve tamamlanmamış tetik korkuluğu, yapay zekâyla ilgili sıradan bir sorunu fiziksel sonuçları olan bir alana taşıyor. Üretken sistemler, makul görünen ancak önemli ayrıntıları yanlış olan bir şey ortaya çıkarabilir.

Bu tür hatalara çoğu zaman “halüsinasyon” deniyor. Yazılı bir yanıtta halüsinasyon, uydurma bir bilgi olabilir. Önerilen fiziksel bir tasarımda ise amacına uygun görünen ama işlevini kötü yerine getiren bir özellik biçimini alabilir.

Kabzanın insan eline uygun olması, tetik korkuluğunun ise tetiğe istemeden temas edilmesine karşı koruma sağlaması beklenir. Bu özelliklere yönelik eleştiriler, yalnızca görünüşle değil, pratik kullanımla ilgilidir.

Wilson, yapay zekâ tarafından üretilen tasarımların gelişmesini beklediğini söyledi. Bu beklenti odağı gelecekteki sürümlere çevirse de mevcut gösteride tamamlanmamış bir prototip, sorun giderme çalışmaları ve kalkan arkasından uzaktan kullanım söz konusuydu. Sohbet tabanlı yapay zekânın teknik muhakemenin yerini alıp alamayacağını değerlendirenler için bunlar temel ayrıntılar.

Reklam

Yapay zekâ, silahlarla ilgili bilgiye erişimi nasıl değiştirebilir?

Dijital ateşli silah tasarımları GatGPT’den önce de dolaşımdaydı. Wilson’ın tanıttığı yenilik, isteklere yanıt verebilen, tasarım önerebilen ve daha önce kullanıcıların dosyalar arasında arama yapmasını ya da teknik tartışmaları anlamasını gerektiren seçimlerde yardımcı olabilen bir sohbet asistanı.

Bir dosya arşivi, kullanıcının bilgiyi bulup yorumlamasını gerektirir. Bir sohbet botu ise yanıtı kullanıcının sorusuna göre düzenleyebilir ve kullanıcı zorlandığında konuşmayı sürdürebilir. Bu, özel uzmanlık gerektiren bilgilere az deneyimi olan kişilerin erişimini kolaylaştırabilir.

Silah güvenliği alanında faaliyet gösteren Everytown kuruluşu, bu tür araçların teknik bilgisi olmayan ya da yasal olarak ateşli silah bulundurması yasaklanmış kişilerin silah üretmesini kolaylaştırabileceği uyarısında bulundu.

Endişe yalnızca WASP’ın kalitesiyle sınırlı değil. Kusurlu bir ilk tasarım bile bilgi bulmak veya bileşen seçmek için gereken çabayı azaltan bir hizmetin habercisi olabilir. Öte yandan kullanıcılar, sistem ciddi bir hata yapmış olsa bile akıcı biçimde verilen tavsiyelere güvenebilir.

Bir silahı “hayalet silah” yapan nedir?

WASP’ın seri numarası olmadığı bildiriliyor. Bu nedenle silah, ticari olarak üretilen silahlarda genellikle bulunan tanımlayıcı numaraları taşımayan, özel üretim ateşli silahlar için kullanılan yaygın “hayalet silah” tanımı çerçevesindeki tartışmalara giriyor.

Seri numarası, soruşturmacıların ele geçirilen bir silahı üretim ve satış kayıtları üzerinden izlemesine yardımcı olur. Silah bu tanımlayıcıdan yoksunsa nereden geldiğini ve nasıl el değiştirdiğini belirlemek zorlaşabilir.

Hayalet silahlar parçalardan birleştirilebilir ya da 3D baskı dâhil çeşitli yöntemlerle üretilebilir. 3D yazıcı, dijital dosyadaki bir nesneyi art arda katmanlar oluşturarak üretir. Ancak hukuki meseleler ortaya çıkan silahla, bileşenleriyle ve üretildiği ya da bulundurulduğu yerde geçerli kurallarla ilgilidir.

Özel üretim, bulundurma, satış ve tanımlayıcı işaretlere ilişkin yükümlülükler farklı federal, eyalet ve ülke kurallarına tabidir. Belirli bir silahın yasal olup olmadığı, bu kurallara ve koşullara bağlıdır. Polis açısından hemen karşılaşılan pratik sorun, olağan tanımlayıcı bilgiler bulunmadığında ateşli silahın izini sürmektir.

Reklam

Everytown riskin silah tasarımını aştığı görüşünde

Everytown’ın 28 Eylül 2026 tarihli sohbet botlarının güvenliğine ilişkin raporu, sohbet botları sektörünün tamamında görülen ateşli silah risklerini inceliyor. Kapsamında intihar, başkalarına yönelik şiddet ve kullanıcı tehlikeli bir niyetini dile getirdiğinde sistemlerin verdiği yanıtlar bulunuyor.

Kuruluş, daha güçlü silah güvenliği önlemlerini savunuyor. Raporda yapay zekâ şirketlerine yönelik öneriler sunuluyor ve 18 Ağustos 2026 itibarıyla geçerli olan politikalar ile mahkeme başvuruları ele alınıyor. Şirket kuralları ve hukuki süreçler değişebileceği için bu tarihler önem taşıyor.

Everytown, Dijital Nefrete Karşı Merkez’in bir araştırmacı haber ekibiyle birlikte Mart 2026’da gerçekleştirdiği bir teste atıfta bulunuyor. Araştırmacılar, şiddet içeren saldırılar planlayan gençler gibi davrandı. Test edilen 10 sohbet botu platformunun sekizinin uygulanabilir nitelikte yardım sağladığı bildirildi.

Bu, söz konusu testteki platformların yüzde 80’i demek. Bulgular GatGPT’nin değil, test edilen sistemler ve senaryoların ele alındığı bir değerlendirmeye dayanıyor. Konuyu uzmanlaşmış bir ateşli silah modelinden çıkarıp sıradan sohbet botu şirketlerinin tehlikeli istekleri tanıma ve bunlara yanıt verme konusundaki kararlarına taşıyor.

Bir silahlı saldırı davası hukuki incelemeyi gündeme getiriyor

Everytown, iki kişinin öldüğü ve beş kişinin ağır yaralandığı 17 Nisan 2025 tarihli Florida Eyalet Üniversitesi silahlı saldırısını da ele alıyor. Raporda, saldırganın olaydan önce ChatGPT ile ateşli silahlar ve şiddet hazırlıkları hakkında konuştuğu iddia ediliyor.

Everytown’ın mahkeme belgeleri ve kamuya açıklanan sohbet kayıtlarına dayandırdığı anlatıma göre, yazışmalarda silahlarla ve bir silahlı saldırının halkta yaratacağı tepkiyle ilgili sorular yer alıyordu. İddia edilen bu etkileşimler, saldırıdan kurtulanların, hayatını kaybedenlerin ailelerinin ve Florida başsavcısının dâhil olduğu hukuki sürecin parçası hâline geldi.

Raporda anlatılan aşamada mahkemeler OpenAI’ın sorumluluğu hakkında karar vermemişti. İddialar, saldırı öncesinde ChatGPT’nin verdiği yanıtlarla ilgili; GatGPT ve WASP ise farklı bir proje.

Yine de dava, tartışmanın yapay zekânın işe yarar bir nesne tasarlayıp tasarlayamayacağından daha geniş olduğunu gösteriyor. Bir sohbet botu, uzun süren bir konuşma sırasında teşvik edici sözler ya da tavsiyeler de verebilir. Everytown, bir kişinin zaten sahip olduğu bir silahla ilgili durumlar dâhil, şirketlerin bu yazışmalar boyunca tırmanan tehlikeyi fark etmesi gerektiğini savunuyor.

Reklam

Hangi güvenlik önlemleri öneriliyor?

Everytown, sohbet botu şirketlerinin güvenli olmayan ateşli silah bilgilerine ilişkin belirli kategorilerde yanıt vermeyi reddetmesini ve konuşmalarda ateşli silahlar ile intihar ya da başkalarına yönelik şiddet belirtileri bir arada görüldüğünde kriz müdahalesi başlatmasını öneriyor.

Kuruluş ayrıca tehlikeli yanıtların bildirilebilmesi için yollar oluşturulmasını, bu bildirimlerin düzenli olarak incelenmesini, yüksek riskli etkileşimlerde insan denetimi sağlanmasını ve ciddi tehditleri kolluk kuvvetlerine iletmek için daha güçlü prosedürler geliştirilmesini istiyor. İç denetimler ve daha fazla şeffaflık, şirketlerin politikalarının uygulamada işe yarayıp yaramadığını değerlendirmesine yardımcı olabilir.

Bu öneriler, sorumluluğu yazılım ve insanlar arasında paylaştırıyor. Bir model endişe verici dili fark edebilir; daha fazla inceleme gerektiren bir konuşmayı ise eğitimli bir görevli değerlendirebilir. Bir bildirim sistemi, kullanıcılara otomatik denetimlerin gözden kaçırdığı yanıtları işaretlemek için başka bir yol sunar.

Everytown, kullanıcıların güvenli silah saklama yöntemlerine, silah güvenliği bilgilerine ve kriz anında desteğe yönlendirilmesini de öneriyor. Bu yaklaşım, tehlike içeren bir konuşma karşısında yalnızca sohbeti bitirmek yerine sohbet botunun yapıcı bir yanıt vermesini sağlıyor.

Wilson’ın projesiyle Everytown’ın önerileri zıt yönlere işaret ediyor: Biri ateşli silahlarla ilgili uzmanlaşmış desteğe erişimi kolaylaştırmayı savunurken diğeri tehlikeli tavsiyeleri sınırlamayı ve risk ortaya çıktığında müdahaleyi güçlendirmeyi amaçlıyor. Kullanıcılar, aileler ve soruşturmacılar açısından somut meseleler; tavsiyenin güvenli olup olmadığı, kimin bu tavsiyeye erişebildiği ve ortaya çıkan bir silahın izinin sürülüp sürülemeyeceği.

Önemli Noktalar

  • Cody Wilson, insanların da katkıda bulunduğu küçük .22 kalibrelik WASP’ın tasarımına GatGPT’nin yardımcı olduğunu söylüyor.
  • Austin’deki gösteride ilk deneme başarısız oldu; üç denemede toplam iki atış yapıldı.
  • Prototip, kabzası, tamamlanmamış tetik korkuluğu ve diğer tasarım ayrıntıları nedeniyle eleştirildi.
  • GatGPT’nin DEFCAD’in ateşli silah dosyaları kütüphanesinden yararlandığı ve parça seçiminde destek sunduğu bildiriliyor.
  • WASP’ın seri numarası olmadığı bildiriliyor; bu da izlenebilirliği endişe konusu hâline getiriyor.
  • Everytown; güvenli olmayan silah tavsiyelerinin sınırlandırılmasını, kriz yanıtlarını, insan denetimini ve şirket içi denetimleri öneriyor.
  • Daha geniş tartışma hem fiziksel silah tasarımını hem de sohbet botlarının tehlikeli konuşmalar sırasında sağladığı yardımı kapsıyor.
Bu haberi paylaş

Bunlar da ilginizi çekebilir