Güney Kore, 96.210 Çocuk Cinsel İstismarı İçeriğini Yapay Zekâyla Tespit Etti; İçeriklerin Kaldırılmasındaki Aksaklıklar Sürüyor

9 dakikalık okuma
South Korea Uses AI to Flag 96,210 Child Sexual Abuse Materials as Removal Gaps Persist

Hızlı tespit, içeriklerin kaldırılmasını sağlama sorunuyla karşı karşıya

Güney Kore Ulusal Dijital Cinsel Suçlara Müdahale Merkezi, çalışanların şüpheli içerikleri bulup kaldırılmasını talep etmesine yardımcı olan bir yapay zekâ sistemiyle nisan-eylül döneminde çocukların cinsel istismarına ilişkin 96.210 içerik tespit etti. Toplumsal Cinsiyet Eşitliği ve Aile Bakanlığı, çalışan başına günlük tespit sayısının sistem devreye girmeden önceki 20,8’den 202,1’e çıktığını, bunun yaklaşık 9,7 katlık bir artış olduğunu açıkladı.

İçindekiler
  1. Hızlı tespit, içeriklerin kaldırılmasını sağlama sorunuyla karşı karşıya
  2. Ulusal sistem nasıl çalışıyor?
  3. Artışın sayısal karşılığı
  4. Destek alanların çoğunu gençler oluşturuyor
  5. Seul, daha hızlı bildirim için ayrı bir örnek sunuyor
  6. Kaldırma talebi istismarı neden sona erdirmeyebilir?
  7. Yeni hedef, sohbetlerdeki istismara hazırlama girişimlerini tespit etmek
  8. Destekte sorumluluk insanlarda kalıyor
  9. Müdahale süreci nasıl gelişti?
  10. Öne Çıkanlar

Nisan ayında devreye alınan sistem, sosyal medyayı, çevrimiçi toplulukları ve rastgele sohbet uygulamalarını günün her saati tarıyor. Kaldırma talepleri platformlara iletilmeden önce çalışanlar sistemin bulgularını inceliyor. Daha önce çalışanların internet sitelerini arayıp raporları elle hazırlamasını gerektiren işler artık çok daha hızlı yürütülebiliyor.

Veriler, merkezin içerikleri bulma ve bildirme kapasitesinde keskin bir artış olduğunu gösteriyor. Ancak internet sitelerini harekete geçirmek ayrı bir sorun: Merkez, 2025’te kaldırma taleplerinin yüzde 28,5’inin sonuçsuz kaldığını bildirdi. Sunucu konumunu belirleyebildiği internet sitelerinin en az yüzde 95,5’i yurt dışında barındırılıyordu.

Mağdurlar açısından işin önemi, ilk kaldırma talebinin ötesine uzanıyor. Görseller kopyalanıp yeniden yüklenebiliyor; bu da aramaların tekrarlanmasını ve desteğin sürdürülmesini gerektiriyor. Ulusal merkez, izleme ve içerik kaldırma desteğini hukuki süreçlere ilişkin yardımla birlikte sunuyor.

Güney Kore’nin deneyimi, aynı teknolojinin iki farklı kullanımını da bir araya getiriyor. Yapay zekâ, yaygın olarak deepfake diye adlandırılan sahte cinsel içerikli görseller üretebilirken tespit sistemleri çalışanların bu tür içerikleri belirlemesine ve daha hızlı müdahale etmesine yardımcı olabiliyor. Hem şüpheli istismar vakaları incelenirken hem de etkilenen kişilere destek verilirken insan kararları sürecin parçası olmaya devam ediyor.

Reklam

Ulusal sistem nasıl çalışıyor?

Ulusal merkezin sistemi, izleme çalışmalarında belirlenen yaklaşık 220 anahtar kelimeyi kullanarak paylaşımları topluyor. Metinleri ve görselleri birlikte inceliyor, ardından çalışanlara bir değerlendirme ve bu değerlendirmenin gerekçelerini sunuyor. Bildirim yapılıp yapılmayacağına son olarak bir çalışan karar veriyor.

Çalışan bildirimi onayladıktan sonra sistem, ilgili platformun veya yetkili kurumun ihtiyaç duyduğu bilgileri hazırlıyor. Kaldırma talebinin işlenmesi artık yaklaşık bir dakika veya daha kısa sürüyor. Bu süre talebin hazırlanıp işleme konması için gereken zamanı ifade ediyor; ardından internet sitesinin yanıt vermesi ve içeriği kaldırması gerekiyor.

Görseller varsayılan olarak bulanık gösteriliyor; çalışanlar karar vermek için gerekli olduğunda görselleri açıyor. Böylece inceleme aşaması korunurken rahatsız edici içeriğe tekrar tekrar maruz kalma azaltılıyor. Merkez, sistemi kendi veri tabanıyla eğiterek tespit doğruluğunu da artırmayı hedefliyor.

Ulusal Dijital Cinsel Suçlara Müdahale Merkezi Direktörü Kim Mi-soon, otomasyonun çalışmaları nasıl desteklediğini şöyle anlattı:

İçeriğin dolaşıma sokulup sokulmadığını tespit etmekten kaldırma talebi göndermeye kadar, sistem süreci her adımda insan müdahalesi gerektirmeden büyük ölçüde otomatik olarak yürütüyor.

Merkez, Google, X, Bluesky ve Telegram'ın da aralarında bulunduğu 14 platforma veri toplayıcılar yerleştirdi. Bu araçlar değerlendirme için içerikleri otomatik olarak topluyor; böylece çalışanlar elle aramaya daha az, incelemeye ve mağdurlara yardım etmeye daha fazla zaman ayırabiliyor.

Artışın sayısal karşılığı

Merkez, 2025 yılının tamamında 45.438 vakayı işleme aldı. Sonraki yılın nisan-eylül dönemindeki 96.210 vaka, yalnızca altı ayda 2025’in yıllık toplamının yaklaşık 2,1 katına ulaştı. İzleme çalışanı başına günlük çıktı 20,8’den 202,1’e yükselerek 181,3 vaka arttı.

Merkez, 2025’te 10.637 mağdura destek verdi; 2020’de bu sayı 4.973’tü. Beş yılda 5.664 kişi, yani yaklaşık yüzde 114 artış kaydedildi. Mağdur sayısı yardım alan kişileri, işleme alınan vaka sayısı ise merkezin içerik ve kaldırma talepleriyle ilgili çalışmalarını ifade ediyor. İçerik dolaşıma girdikçe tek bir kişinin vakasında tekrar tekrar işlem yapmak gerekebiliyor.

Reklam

Bakanlık, 2027’de izlemeyi 139 platforma genişletmeyi planlıyor. Bakanlığın açıklamasında mevcut kapsam 74 platform olarak belirtilse de güncel toplamın 79 olduğu da ifade edildi. Merkez, otomatik içerik toplama sistemini 14 platformdan 139 platforma çıkarma planını ayrıca duyuruyor. Yayımlanan veriler, daha geniş izleme kapsamıyla kurulu veri toplayıcılar arasındaki ilişkinin tam olarak ne olduğunu açıklığa kavuşturmuyor.

Bakanlığın 74 platformluk verisi esas alındığında 139’a ulaşmak, kapsama 65 platform daha eklemek ve yaklaşık yüzde 88 artış anlamına geliyor. Kapsamın genişlemesi, istismar içeriklerinin ortaya çıkabileceği daha fazla yeri izleme sürecine dahil ederken çalışanların değerlendirmesi gereken içerik miktarını da artıracak.

Destek alanların çoğunu gençler oluşturuyor

2025’te ulusal merkezden destek alanların yüzde 77,6’sı ergenlerden ve 20’li yaşlarındaki kişilerden oluştu. Ergenlerin payı yüzde 28,5, 20’li yaşlardakilerin payı ise yüzde 49,1 oldu. Merkez, 10 yaşından küçük 20 kız çocuğunun da aralarında bulunduğu 20 yaş altı 3.052 kişiye yardım etti.

Merkez ayrıca faillerin sohbet uygulamaları üzerinden potansiyel mağdurlara yaklaştığı, hızla güven kazanıp istismara yöneldiği bir örüntü belirledi. Bir çocuk, istismar içeriklerinin dolaşımda olduğundan habersiz olabilir ya da yardım istemekten korkabilir. Bu nedenle merkez, herhangi bir mağdur başvurusu olmasa bile çocukların cinsel istismarına ilişkin içerikleri proaktif biçimde arıyor.

Polis verileri, çevrimiçi cinsel istismarın boyutuna ilişkin ayrı bir tablo sunuyor. Güney Kore polisi, Kasım 2024-Ekim 2025 arasında çevrimiçi cinsel istismar vakalarında 3.557 şüpheliyi gözaltına aldı. Şüphelilerin neredeyse yarısını ergenler oluştururken deepfake içeren suçlar vakaların yüzde 35,2’sine karşılık geldi.

Deepfake, bir kişiyi gerçekte yapmadığı veya söylemediği şeyleri yapıyor ya da söylüyor gibi göstermek için yapay zekâyla değiştirilen veya üretilen görsel, video ya da ses kayıtlarıdır. Cinsel istismar vakalarında sahte içerikler, bir kişinin yüzünü cinsel içerikli görüntülere yerleştirebiliyor. Kim, merkezin sisteminin gözle ayırt edilmesi zor deepfake’leri tespit edebildiğini söyledi.

Seul, daha hızlı bildirim için ayrı bir örnek sunuyor

Seul Büyükşehir Belediyesi, 2023’te kendi yapay zekâ destekli izleme sistemini devreye aldı ve 2025’te otomatik bildirim özelliklerini duyurdu. Kent yönetimi, 23 Mayıs tarihli açıklamasında, daha önce iki buçuk ila üç saat süren tespit ve kimlik belirleme işlemlerinin altı dakikada tamamlanabildiğini bildirdi.

Reklam

Kent yönetiminin sistemi sürekli izleme yapıyor, rapor oluşturuyor ve barındırma hizmeti sunan internet sitelerinden içerikleri kaldırmalarını isteyen e-postalar hazırlıyor. E-postalar gönderilmeden önce her taslak bir Kaldırma Desteği Görevlisi tarafından inceleniyor. Yurt dışında faaliyet gösteren internet sitelerine ulaşmak için İngilizce, Çince, Japonca ve Rusçanın da aralarında bulunduğu yedi dilde e-posta hazırlanabiliyor.

Seul, daha sınırlı bir işlem için de süre karşılaştırması paylaştı: Anahtar kelimelerin girilmesi ve sonuçların oluşturulması üç dakika sürerken, görevlilerin elle çalışmasıyla bu işlem ortalama iki saat alıyordu. Kent yönetimi bu azalmayı yüzde 97,5 olarak hesapladı. Altı ve üç dakikalık süreler, süreç içindeki farklı işlemleri ifade ediyor.

Seul’ün yapay zekâ sistemiyle ele alınan kaldırma vakaları 2022’de 2.509’dan 14.256’ya yükselerek yaklaşık yüzde 468 arttı. Seul Dijital Güvenlik Destek Merkezi üç yılda 3.650 kişiye yardım etti ve soruşturma ile hukuki destek, psikolojik danışmanlık ve tıbbi bakım dahil 64.677 destek vakası kaydetti.

Çocuklar ve ergenler, 2022’de 50 destek vakasıyla toplamın yüzde 16,2’sini oluşturdu. Kent yönetiminin verilerine göre bu sayı 2024’te 624’e, oran ise yüzde 22,1’e çıktı. Vaka sayısı yaklaşık 12,5 katına ulaşırken payları da 5,9 puan arttı. Seul’ün belediye hizmeti ile ulusal merkez ayrı sistemler yürüttüğünden, faaliyet verileri farklı programlara ait.

Kaldırma talebi istismarı neden sona erdirmeyebilir?

Ulusal merkezin 2025’teki yüzde 28,5’lik sonuçsuz talep oranı, her dört talepten birinden fazlasının istenen kaldırmayla sonuçlanmadığı anlamına geliyor. Kim, iletişime geçilen internet sitelerinin dörtte birinden fazlasının hiç yanıt vermediğini de söyledi. Bazı yasa dışı siteler erişim yollarını değiştirerek engellemelerden kaçmaya çalışıyor.

İçeriğin yurt dışında barındırılması işin bir başka boyutunu oluşturuyor. Merkez polis ve soruşturma birimlerinin yanı sıra yurt dışındaki destek kuruluşları ve büyükelçiliklerle iş birliği yapıyor. Talebin doğru dilde gönderilmesi platformun harekete geçmesine yardımcı olabiliyor; iş birliğine yanaşmayan bir işletmeciye karşı yaptırım uygulanması ise merkezin ötesinde bir iş birliği gerektiriyor.

Toplumsal Cinsiyet Eşitliği ve Aile Bakanlığı, polis ve Kore İletişim Standartları Komisyonu, istismar içeriklerinin dolaşımını kesmeye odaklanan ortak bir mağdur destek grubu kurdu. Açıklanan önlemler arasında sunucu düzeyinde silme girişiminde bulunmak veya yasa dışı internet sitelerini kapatmak yer alıyor.

Kim, içeriklerin kaldırıldıktan sonra yeniden kopyalanıp dağıtılabileceğini belirterek desteğin sürdürülmesi gerektiğini vurguladı. Bu nedenle bir mağdura destek; yeni yüklemeleri aramayı, ek kaldırma talepleri göndermeyi ve uzun süre boyunca hukuki ya da psikolojik yardım almayı içerebiliyor.

Reklam

Yeni hedef, sohbetlerdeki istismara hazırlama girişimlerini tespit etmek

Ulusal merkez, sohbetlerin nasıl ilerlediğini inceleyerek çevrimiçi istismara hazırlama girişimlerini tespit edecek bir teknoloji geliştiriyor. İstismara hazırlama, bir yetişkinin veya başka bir failin genci cinsel istismara yönlendirmek amacıyla güvenini kazandığı süreçtir.

Anahtar kelime taramasının bu konuda sınırları var; çünkü tek başına bir mesaj sıradan bir dil içerebilir. Birinin görünüşü hakkında yorum yapmak veya yaşını sormak, ardından özel iletişime ya da cinsel eylemlere yöneltme baskısı gelirse daha kaygı verici bir konuşmanın parçası olabilir. Planlanan teknoloji, tek tek sözcüklere dayanmak yerine konuşmanın akışını ve bağlamını değerlendirecek.

Merkez, kırılgan durumdaki gençlere destek hizmetleri hakkında bilgi verecek bir yapay zekâ sohbet robotu da geliştiriyor. Her iki proje de merkezin çalışmalarını çevrimiçi ortamdaki mevcut içerikleri bulmanın ötesine taşıyor: Biri istismara yol açabilecek yaklaşımları tanımayı, diğeri ise yardıma ulaşmayı kolaylaştırmayı amaçlıyor.

Konuşma analiz aracının veya sohbet robotunun ne zaman devreye alınacağı açıklanmadı. Tarihi belirlenmiş genişleme hedefi 2027: Merkez, yapay zekâ destekli izleme kapsamını 139 platforma çıkarmayı planlıyor.

Destekte sorumluluk insanlarda kalıyor

Ulusal merkez 2018’de faaliyetlerine başladı. Daha sonra cinsel şiddetin önlenmesi ve mağdurların korunmasını düzenleyen mevzuattaki değişikliklerin ardından yeniden adlandırıldı. Kore Kadın İnsan Hakları Enstitüsü bünyesinde faaliyet gösteren merkezde dört ekip bulunuyor ve yetkili personel sayısı 43.

Otomasyon, çalışanların zamanlarını nasıl kullandığını değiştiriyor. Sürekli arama yapmak, bulguları gruplandırmak ve talep formları hazırlamak kısmen yazılımla yürütülebiliyor. Ancak hangi adımın atılacağına karar vermek, birinin hukuki yollara başvurmasına yardım etmek ve sıkıntı yaşayan kişilere destek olmak hâlâ çalışanların görevleri arasında.

Kore Kadın İnsan Hakları Enstitüsü Başkanı Park Kwang-soo, hizmette insanların yerine ilişkin şunları söyledi:

Hangi yapay zekâyı veya teknolojiyi kullanırsak kullanalım, mağdur desteği insanla başlamalı ve insanla bitmeli," diyen Park, "Aradaki sayısız noktada da insanlara ihtiyaç var.

Bulanık ön izlemeler, otomatik evrak hazırlama ve daha hızlı içerik toplama; tekrarlayan işleri ve zararlı görsellere maruz kalmayı azaltarak bu yaklaşımı destekliyor. Merkezin büyümesi hem daha fazla içeriği bulmasına hem de harekete geçmek için gereken insan denetimi ve desteğini sürdürmesine bağlı olacak.

Reklam

Müdahale süreci nasıl gelişti?

Güney Kore’deki ulusal ve belediye programları çeşitli aşamalardan geçerek gelişti. Zaman çizelgeleri, otomatik arama ve bildirim uygulamalarıyla birlikte mağdurlara sunulan desteğin nasıl genişlediğini gösteriyor.

  • 2018: Ulusal dijital cinsel suç mağdurlarına destek merkezi faaliyete başladı.
  • 2023: Seul Büyükşehir Belediyesi yapay zekâ destekli izleme sistemini devreye aldı.
  • Kasım 2024-Ekim 2025: Polis, çevrimiçi cinsel istismar vakalarında 3.557 şüpheliyi gözaltına aldı.
  • 23 Mayıs 2025: Seul, kaldırma e-postaları gönderilmeden önce görevlilerin incelemesini öngören otomatik bildirim özelliklerini duyurdu.
  • 2025: Ulusal merkez 10.637 mağdura destek verdi ve 45.438 vakayı işleme aldı.
  • Nisan-Eylül 2026: Ulusal merkez, yapay zekâ sistemini nisan ayında devreye aldıktan sonra 96.210 vakayı işleme aldı.
  • 2027: Ulusal merkez, yapay zekâ destekli izleme kapsamını 139 platforma çıkarmayı planlıyor.

Sıradaki planlı genişleme platform kapsamına ilişkin. Bunun pratik faydası, şüpheli içeriklerin insan incelemesine ne kadar hızlı ulaştığına ve platformlarla yetkili kurumların gelen taleplere ne kadar etkili yanıt verdiğine bağlı olacak.

Öne Çıkanlar

  • Ulusal merkez nisan-eylül döneminde çocukların cinsel istismarına ilişkin 96.210 içerik tespit etti.
  • İzleme çalışanı başına günlük tespit sayısı 20,8’den 202,1’e yükseldi; bu, önceki seviyenin yaklaşık 9,7 katı.
  • Kaldırma talepleri gönderilmeden önce çalışanlar şüpheli içerikleri inceliyor.
  • Ulusal merkezin kaldırma taleplerinin yüzde 28,5’i 2025’te sonuçsuz kaldı.
  • Ulusal destek alan mağdurların yüzde 77,6’sını ergenler ve 20’li yaşlarındaki kişiler oluşturdu.
  • Seul, görevlilerin incelemesi için yedi dilde kaldırma e-postaları hazırlayan ayrı bir yapay zekâ sistemi kullanıyor.
  • Ulusal merkez, 2027’de kapsamı 139 platforma çıkarmayı ve istismara hazırlama girişimlerini belirleyip destek bilgisi paylaşacak araçlar geliştirmeyi planlıyor.
Bu haberi paylaş

Bunlar da ilginizi çekebilir