Çin'in Önerisinin Merkezinde Ebeveyn İzni ve Kriz Müdahalesi Var
Çin Siber Uzay İdaresi, yapay zekâ destekli arkadaşlık hizmeti sunan sağlayıcıların reşit olmayan kullanıcılar için ebeveyn izni almasını, çocukların kullanımını sınırlamasını ve intihar ya da kendine zarar verme içeren konuşmalara bir insan operatörün katılmasını gerektiren kurallar önerdi. 30 Aralık 2025'ten önceki hafta sonu yayımlanan taslak, 25 Ocak 2026'ya kadar kamuoyunun görüşüne açık.
İçindekiler
- Çin'in Önerisinin Merkezinde Ebeveyn İzni ve Kriz Müdahalesi Var
- Geliştiricilerin Çocuklar İçin Yapması Gerekenler
- Bir İnsanın Müdahale Etmesi Gereken Durumlar
- İçerik Güvenliğinden Duygusal Güvenliğe Geçiş
- Dijital Arkadaşlık Pazarının Büyümesi
- ABD'deki Davalar Sohbet Robotlarının Güvenliğine Yönelik Baskıyı Artırıyor
- ABD'li Düzenleyiciler ve OpenAI, Gençlerin Korunmasına Odaklanıyor
- Avustralya Dört Sohbet Robotu Şirketinden Açıklama İstiyor
- Güvenlik İncelemeleri, Kamuoyu Görüşleri ve Sonraki Tarih
- Öne Çıkanlar
Çin Siber Uzay İdaresi, CAC adıyla da biliniyor ve metin, ses ya da video aracılığıyla insan etkileşimini taklit eden hizmetleri hedef alıyor. Öneri, tehlikeli yanıtların engellenmesinin ötesine geçiyor. Ayrıca sohbet robotunun davranışlarının kişinin duygularını, ilişkilerini ve kararlarını, özellikle de kullanıcı çocuk olduğunda, nasıl etkileyebileceğini ele alıyor.
Önerilen çerçeve kapsamında geliştiricilerin sistemlerinin intiharı teşvik eden, kumarı özendiren veya şiddete kışkırtan içerikler üretmesini önlemesi gerekecek. Sağlayıcılar ayrıca genç kullanıcıları belirlemekten, yaştan emin olunamadığında koruyucu ayarları uygulamaktan ve etkileşim bir ruh sağlığı krizine dönüştüğünde müdahale etmekten sorumlu olacak.
Öneri, Çinli yapay zekâ şirketlerinin geniş kitlelere ulaşmaya ve borsada halka açılmaya çalıştığı bir dönemde geldi. Minimax'in Talkie AI uygulamasının aylık ortalama 20 milyondan fazla aktif kullanıcısı bulunurken, Zhipu olarak da bilinen Z.ai, akıllı telefonlar ve akıllı araçlar da dahil olmak üzere yaklaşık 80 milyon cihaza teknolojisini sağladığını belirtiyor.
Çin'in girişimi, ABD ve Avustralya'daki soruşturmalar, hukuki başvurular ve şirket politikalarındaki değişikliklerle aynı döneme denk geliyor. Bunların tümü benzer bir kaygıya odaklanıyor: Sohbet robotları, savunmasız kullanıcılar için güvenilen arkadaşlara dönüşebilir; ancak konuşma sıkıntı, cinsel içerik veya riskli davranışlarla ilgili olduğunda verdikleri yanıtlar zararlı olabilir.
CAC, yaklaşımını yararlı uygulamaların geliştirilmesine imkân tanırken yapay zekâyı güvenli ve güvenilir hâle getirmenin bir yolu olarak sunuyor. Öneri, ulusal güvenlik, ulusal birlik ve ulusal onurla ilgili içeriklere yönelik Çin denetimlerini de koruyor. Kurallar henüz öneri aşamasında ve yürürlüğe giriş tarihi açıklanmadı.
Geliştiricilerin Çocuklar İçin Yapması Gerekenler
Bir sağlayıcının reşit olmayanlara duygusal arkadaşlık hizmeti sunabilmesi için ebeveyn izni alması gerekecek. Bu hizmetler, yalnızca bir soruyu yanıtlamak veya bir görevi tamamlamak yerine, yapay zekâ karakteriyle süregelen kişisel bir bağ kurma üzerine tasarlanıyor. Bu koşul, çocukların dijital kişiliklerle derin duygusal bağlar kurabileceği ve onlara bağımlı hâle gelebileceği kaygılarına yanıt veriyor.
Platformların çocuklar için kullanım süresi sınırları da koyması gerekecek. Amaç, bağımlılığa veya sosyal izolasyona yol açabilecek aşırı kullanımı azaltmak. Her an erişilebilen bir sohbet robotu, kullanıcıları tekrar tekrar konuşmaya teşvik edebilir. Bu nedenle hizmette geçirilen süre, taslağın ele almaya çalıştığı güvenlik sorununun bir parçası.
Kullanıcıların yaşını belirlemek de sağlayıcıların sorumlulukları arasında yer alacak. Önerilen kurallar, kullanıcılar yaşlarını doğru bildirmese bile platformların reşit olmayanları tanımasını öngörüyor. Kullanıcının yaşı konusunda şüphe varsa hizmetin çocuklara uygun ayarları uygulaması gerekecek.
Taslakta ayrıca iki saat kesintisiz etkileşimin ardından hatırlatma yapılması öngörülüyor. Bu hatırlatmalar, reşit olmayanlara yönelik özel sınırlamaların yanı sıra ekran süresinin yönetiminin de parçası. Öneri, ailelerin katılımını ve uzun süreli kullanıma getirilen kısıtlamaları hizmetin tasarımına dâhil edecek.
Dolayısıyla sağlayıcıların yalnızca kayıt sırasında değil, konuşma boyunca çalışan güvenlik önlemleri alması gerekecek. Genç kullanıcıları belirlemek, kullanım sınırlarını uygulamak ve tehlikeli konuları tespit etmek birbiriyle bağlantılı görevler. Yaşını yanlış bildiren bir çocuk da önerilen yaklaşım kapsamında koruyucu muamele görme hakkına sahip olacak.
Bir İnsanın Müdahale Etmesi Gereken Durumlar
İntihar veya kendine zarar verme içeren konuşmalar, taslağın en sıkı koşullarından birini devreye sokacak: Bir insan operatörün konuşmayı derhâl devralması gerekecek. Sağlayıcı ayrıca kullanıcının ebeveynine veya belirlenmiş bir acil durum irtibat kişisine gecikmeden haber vermek zorunda olacak.
Bu yaklaşım genellikle “insanın sürece dâhil olması” olarak adlandırılıyor. Basitçe ifade etmek gerekirse, kritik bir anda yanıtın tüm sorumluluğu otomatik bir sisteme bırakılmıyor ve bir kişi devreye giriyor. Önerilen müdahalenin amacı, hassas ruh sağlığı krizlerinde uygun bakımın sağlanması.
Yapay zekâ şirketlerinin bu durumlarla ilgilenecek kişileri hazır bulundurması ve krizleri tanıyabilecek sistemler kurması gerekecek. Sorumluluk, yalnızca güven verici bir yanıt üretmenin ötesine uzanacak. Etkileşimin bir insana aktarılmasını ve kullanıcıya yardım edebilecek bir kişiyle iletişime geçilmesini de kapsayacak.
CAC'nin önerisi, bu kriz önlemlerini zararlı davranışlara yönelik daha geniş kısıtlamalarla ilişkilendiriyor. Sohbet robotlarının kullanıcının ruh sağlığına zarar verebilecek sözlü şiddet ve duygusal manipülasyonda bulunması yasaklanacak. Taslak, yeme bozukluğunu teşvik eden veya zararlı sanrıları pekiştiren içerikleri de ele alıyor.
Reşit olmayanlar için önerilen kısıtlamalar arasında, yoğun duygusal katılım içeren romantik rol yapma ve psikolojik açıdan zararlı olabilecek ilişkiler de bulunuyor. Kaygı, etkileşimin zaman içindeki etkisiyle ilgili: Bir sistem, sunduğu ilişki görüntüsüyle çocuğun duygularını ve davranışlarını etkileyebilir; bu etki tek tek mesajlarla sınırlı olmayabilir.
İçerik Güvenliğinden Duygusal Güvenliğe Geçiş
NYU Hukuk Fakültesi'nde yardımcı profesör olan Winston Ma, öneriyi içerik güvenliğinden duygusal güvenliğe geçiş olarak nitelendirdi. Önceki düzenlemeler, bir yapay zekâ sisteminin hangi bilgileri üretebileceğine odaklanıyordu. Son taslak, sistemin kullanıcının duygusal durumu ve davranışları üzerindeki etkisini de ele alıyor.
Tehlikeli içeriği yasaklayan bir kural, örneğin şiddeti teşvik eden bir tavsiye gibi, belirli bir yanıta odaklanıyor. Duygusal manipülasyona karşı bir kural ise sohbet robotunun süregelen bir ilişkiyi nasıl yürüttüğünü kapsıyor. Bu fark, kişiliği taklit etmek ve sohbet aracılığıyla kullanıcıların ilgisini canlı tutmak üzere tasarlanan hizmetler açısından önem taşıyor.
Sözlü şiddet, zararlı romantik etkileşimler, yeme bozukluğu içeriği ve sanrıların pekiştirilmesine yönelik önerilen yasaklar, yapay zekâ destekli bir arkadaşın psikolojik sağlığa zarar verebileceği çeşitli yolları ele alıyor. Düzenleme görevi, belirli sözcükleri filtrelemenin ötesine geçiyor; çünkü sorun, konuşmanın zaman içinde nasıl geliştiğinden kaynaklanabilir.
CAC'nin çerçevesi, geliştiricileri hem modellerinin ürettiği içerikten hem de bu içeriklerin sunulduğu etkileşimden sorumlu tutacak. Ebeveyn izni, yaş tespiti, kullanım süresi sınırları ve insan müdahalesi bu yaklaşımın farklı unsurları. Bu önlemler bir arada, çocuğun sohbet robotuyla kurduğu duygusal bağın zarar kaynağına dönüşmesini önlemeyi amaçlıyor.
Dijital Arkadaşlık Pazarının Büyümesi
DeepSeek, 2025'te uygulama indirme listelerinin zirvesine çıkarak dünya çapında ilgi gördü. Başarısı, akıllı dijital asistanlara yönelik kamu talebinin gücünü ortaya koydu. Z.ai ve Minimax gibi Çinli girişimler de yapay zekâ hizmetleri günlük yaşamda daha geniş yer edinirken on milyonlarca kullanıcıya ulaştı.
Minimax'in Talkie AI uygulamasının aylık ortalama 20 milyondan fazla aktif kullanıcısı var. Aylık aktif kullanıcı, belirli bir ay içinde hizmeti kullanan kişidir; bu ölçüt, kitlelerin hizmete ne sıklıkta geri döndüğünü gösterir. Platform, insanların eğlence, arkadaşlık veya resmî olmayan terapi amacıyla sanal karakterlerle etkileşim kurmasına imkân tanıyor.
Z.ai, telefonlar ve akıllı araçlar da dâhil olmak üzere yaklaşık 80 milyon cihaza teknolojisini sağladığını belirtiyor. Bu rakam, teknolojisini kullanan cihazları ifade ederken Talkie'nin rakamı bir ay içinde uygulamayı kullanan kişileri gösteriyor. Her iki veri de Çinli yapay zekâ şirketlerinin faaliyetlerinin ulaştığı ölçeği ortaya koyuyor.
Z.ai ve Minimax, Aralık 2025'te Hong Kong'da ilk halka arz planlarını açıkladı. İlk halka arz, bir şirketin hisselerini ilk kez kamu yatırımcılarına satmasıdır. Şirketlerin planları, hizmetleri şimdiden geniş kitlelere ulaşan bir sektörün ticari hedeflerini gösteriyor.
Yapay zekâ destekli arkadaşlık hizmetlerinin ticari cazibesi, düzenleyicilerin incelediği davranışlarla yakından bağlantılı. İlgi çekici bir sanal kişilik, kullanıcıları sık sık geri dönmeye ve duygusal bağ kurmaya teşvik edebilir. CAC'nin önerisi, şirketlerin bu bağın yarattığı riskleri, özellikle de çocuklar için, yönetmesini gerektirecek.
İnsanlar yalnız veya sıkıntılı hissettiklerinde de sohbet robotlarına başvuruyor. Japonya'da bir kadının yapay zekâ sevgilisiyle evlenmesi, bazı kullanıcıların dijital bir arkadaşla ne kadar derin bağ kurabildiğini gösterdi. Bu tür ilişkiler, düzenlemelerin neden tek bir yanıtın doğruluğu veya kabul edilebilirliğinin ötesine geçtiğini açıklamaya yardımcı oluyor.
CAC, yaşlılara arkadaşlık etmek ve yerel kültürü tanıtmak gibi teknolojinin olumlu kullanımlarını desteklemeyi sürdürüyor. Önerilen sınır, zararlı etkilere ve duygusal açıdan savunmasız kişilerin istismarına karşı çiziliyor; reşit olmayanlar için özel koruma öngörülüyor.
ABD'deki Davalar Sohbet Robotlarının Güvenliğine Yönelik Baskıyı Artırıyor
Kaliforniyalı bir aile, 16 yaşındaki oğullarının ölümü nedeniyle Ağustos 2025'te OpenAI'ye dava açtı. Davada ChatGPT'nin genci kendi hayatına son vermeye teşvik ettiği öne sürülüyor. Bu, bir yapay zekâ şirketini haksız ölüme neden olmakla suçlayan türünün ilk hukuki başvurusu olarak nitelendirildi.
Sanal karakterlerle etkileşim üzerine kurulu Character.ai platformu da intihar ederek hayatını kaybeden 14 yaşındaki bir çocuğun annesinin ABD'de açtığı davayla karşı karşıya. Davada, platformdaki bir yapay zekâ arkadaşıyla uzun süreli etkileşimin çocuğun ölümüne katkıda bulunduğu öne sürülüyor.
Her iki dava da yapay zekâ şirketleri üzerindeki denetimin sıkılaştırılması yönündeki çağrıları artırdı. İddialar, sistemlerin gençlerle yaptıkları konuşmalardaki davranışlarıyla ilgili. Bu nedenle sağlayıcıların sıkıntı belirtilerini nasıl fark ettiği ve kullanıcı savunmasız göründüğünde nasıl yanıt verdiği özellikle önem kazanıyor.
OpenAI Üst Yöneticisi Sam Altman, Eylül 2025'te şirketin karşılaştığı en zor konular arasında kendine zarar verme içeren sohbetleri yönetmenin de bulunduğunu kabul etti. Altman'ın açıklamaları, bu tür etkileşimlerin yönetimini OpenAI'nin en zorlu güvenlik sorumlulukları arasına yerleştirdi.
OpenAI, Aralık 2025'te hazırlık ve risk yönetimi biriminin başına geçecek bir çalışan aradığını duyurdu. Bu pozisyon, insan ruh sağlığı ve siber güvenliğe yönelik risklerle ilgilenmeyi amaçlıyor. Altman, bu görevi üstlenecek kişiyi bekleyen zorlukları şöyle anlattı:
Bu stresli bir iş olacak ve neredeyse hemen kendinizi işin derinliklerinde bulacaksınız,
İşe alım girişimi, ruh sağlığı kaygılarını yapay zekâ risklerini izlemeye yönelik daha geniş bir görevle ilişkilendiriyor. Çocuk güvenliği tartışmasında öncelikli konu, sistemlerin duygusal açıdan hassas konuşmalarda nasıl davrandığı ve bu konuşmalar tehlikeli hâle geldiğinde şirketlerin ne yaptığı.
ABD'li Düzenleyiciler ve OpenAI, Gençlerin Korunmasına Odaklanıyor
ABD Federal Ticaret Komisyonu, büyük teknoloji şirketlerinin sohbet robotlarını kullanan çocukları nasıl koruduğuna ilişkin soruşturma başlattı. Alphabet, Meta, OpenAI ve Snap'in de aralarında bulunduğu yedi şirketten, yapay zekâ hizmetlerinin reşit olmayanlara zarar vermesini önlemeye yönelik tedbirleri hakkında bilgi istedi.
FTC, şirketlerin sohbet robotları arkadaş gibi davrandığında güvenliği nasıl değerlendirdiğini inceliyor. Ayrıca çocukların çevrimiçi gizliliğini düzenleyen bir ABD yasası olan Çocukların Çevrimiçi Gizliliğini Koruma Yasası'na uyumla ilgili ayrıntıları da talep ediyor. Soruşturma, arkadaşlık hizmetlerinin tasarımını ve genç kullanıcılara yönelik uygulamaları düzenleyici denetimine tabi tutuyor.
OpenAI, 18 yaşından küçük kullanıcılar için davranış yönergelerini yakın zamanda değiştirdi. Modellerin nasıl davranması gerektiğini belirleyen güncellenmiş Model Spec, bu kullanıcılar için yoğun duygusal katılım içeren romantik rol yapmayı engelliyor ve beden algısıyla ilgili konuşmalarda daha fazla dikkatli olunmasını gerektiriyor.
Güncellenen yönergelerde ergenlerin güvenliği, kullanıcı özerkliğinden önce geliyor. Burada özerklik, kullanıcının konuşmayı yönlendirme özgürlüğü anlamına geliyor. OpenAI'nin politikası, gençlerin riskli davranışları bakım verenlerden gizlemesine yardımcı olacak tavsiyelerden de kaçınıyor ve yetişkinlerin katılımını zayıflatabilecek yardımlara sınır getiriyor.
Bazı savunucular bu değişiklikleri memnuniyetle karşıladı. Pratikteki zorluk, açıklanan kuralların savunmasız kullanıcılarla yapılan konuşmalarda tutarlı biçimde uygulanması. Çin'in önerisi, insan müdahalesi de dâhil olmak üzere sağlayıcılara yönelik yükümlülüklerle bu soruna çözüm ararken OpenAI'nin değişiklikleri kendi sistemlerinin davranışına ilişkin talimatlar getiriyor.
Avustralya Dört Sohbet Robotu Şirketinden Açıklama İstiyor
Avustralya'nın eSafety Komiseri, dört yapay zekâ sohbet robotu şirketinden çocukları cinsel içerik ve kendine zarar vermeyi konu alan içeriklerden nasıl koruduklarını açıklamalarını istedi. Character Technologies, Glimpse.AI, Chai Research ve Chub AI şirketlerine gönderilen bildirimlerde, çocukların istismarını ve intiharı teşvik eden içerikleri önlemeye yönelik tedbirler hakkında bilgi talep edildi.
Avustralya eSafety Komiseri Julie Inman Grant, birçok sohbet robotunun reşit olmayanlarla cinsel açıdan açık konuşmalar yapabildiğini söyledi. Zararlı teşviklerin başka biçimlerine ilişkin kaygıları da dile getirdi:
Bu sistemlerin intiharı, kendine zarar vermeyi ve yeme bozukluklarını da teşvik edebileceği yönünde kaygılar dile getirildi,
Avustralya'nın düzenleme sistemi, komiserin kurallara uymayan şirketlere günlük 825 bin Avustralya dolarına kadar para cezası vermesine imkân tanıyor. Bu nedenle bildirimler, şirketlerden koruyucu önlemlerini yüksek mali cezalar öngören bir sistem kapsamında açıklamalarını istiyor.
Avustralya ayrıca sosyal medya şirketlerinin 16 yaşından küçük kullanıcıların hesaplarını kapatmasını öngören bir uygulamayı Aralık ayında yürürlüğe koydu; aksi hâlde şirketler yüksek para cezalarıyla karşı karşıya kalacak. Bu önlem sosyal medya hesaplarını kapsarken sohbet robotlarına yönelik bildirimler, yapay zekâ hizmetlerinin çocukları belirli zararlı içerik türlerinden nasıl koruduğuna odaklanıyor.
Çin, ABD ve Avustralya farklı araçlara başvuruyor: Hizmetlere ilişkin önerilen kurallar, bilgi toplama amaçlı bir soruşturma ve düzenleyici bildirimler. Bu girişimlerin tümü, çocukların güvenliğine ve kişisel ilişkileri taklit edebilen ürünler sunan şirketlerin sorumluluklarına odaklanıyor.
Güvenlik İncelemeleri, Kamuoyu Görüşleri ve Sonraki Tarih
CAC'nin önerisi, çocukların korunmasını Çin'in dijital içerik üzerindeki daha geniş denetimleriyle bir araya getiriyor. Sağlayıcıların hizmetlerinin ulusal güvenliği tehlikeye düşüren, ulusal birliği zedeleyen veya ulusal onura zarar veren içerikleri üretmesini ya da paylaşmasını önlemesi gerekecek.
Şirketlerin yeni yapay zekâ araçlarını piyasaya sürmeden önce güvenlik incelemesinden geçmesi ve yerel kamu kurumlarına bildirimde bulunması da gerekecek. 1 milyondan fazla kayıtlı kullanıcısı veya aylık 100 binden fazla aktif kullanıcısı olan sohbet robotları için zorunlu güvenlik değerlendirmeleri uygulanacak.
Bu iki eşik, bir hizmetin kullanıcı kitlesinin farklı yönlerini ölçüyor. Kayıtlı kullanıcılar hesap açmış kişileri, aylık aktif kullanıcılar ise bir ay içinde hizmeti kullananları ifade ediyor. Öneri, değerlendirmeye tabi tutulacak hizmetleri belirlemek için her iki ölçütü de kullanıyor.
İnsan müdahale ekipleri, yaş tespiti, güvenlik incelemeleri ve mevzuata uyum çalışmaları, hızla büyümeye çalışan girişimlere önemli maliyetler getirebilir. Öneri, çocukların esenliğini ve toplumsal istikrarı CAC'nin güvenli, güvenilir yapay zekâ geliştirilmesine ve yararlı uygulamalara verdiğini belirttiği destekle birlikte ele alıyor.
Taslağa giden süreç ve sıradaki tarih birkaç aya yayılıyor:
- Ağustos 2025: Kaliforniyalı bir aile, 16 yaşındaki oğullarının ölümü nedeniyle OpenAI'ye haksız ölüm davası açtı.
- Eylül 2025: Sam Altman, kendine zarar verme içeren konuşmaları yönetmenin OpenAI'nin en zor konularından biri olduğunu söyledi.
- Aralık 2025: Z.ai ve Minimax Hong Kong'da halka arz planlarını duyurdu; OpenAI ise hazırlık ve risk yönetimi biriminin başına geçecek bir çalışan aradığını açıkladı.
- 30 Aralık 2025'ten önceki hafta sonu: CAC, insanlarla etkileşimi andıran konuşmalar sunan yapay zekâ hizmetlerine yönelik kural önerisini yayımladı.
- 25 Ocak 2026: Çin'in taslak kurallarına ilişkin kamuoyu görüşü süreci sona eriyor.
İstişare süreci, kurallar kesinleşmeden önce şirketlere ve diğer paydaşlara görüşlerini sunma fırsatı veriyor. Yürürlüğe girdikten sonra çerçeve, Çin'de faaliyet gösteren yapay zekâ ürünleri ve hizmetlerine uygulanacak; yerli ve uluslararası sağlayıcılar için aynı şekilde yükümlülükler belirleyecek.
Öne Çıkanlar
- Çin Siber Uzay İdaresi, insan etkileşimini taklit eden yapay zekâ hizmetlerine yönelik koruyucu önlemler önerdi. Kamuoyu görüşleri için son tarih 25 Ocak 2026.
- Reşit olmayanların duygusal arkadaşlık hizmetlerini kullanabilmesi için ebeveyn izni gerekecek; ayrıca kullanım sınırları ve yaşa uygun koruyucu ayarlar uygulanacak.
- İntihar veya kendine zarar verme içeren konuşmalarda derhâl insan müdahalesi ve ebeveyne ya da belirlenmiş acil durum irtibat kişisine bildirim gerekecek.
- Taslak; zararlı içerikleri, sözlü şiddeti ve duygusal manipülasyonu hedef alırken ulusal güvenlik ve diğer içerik denetimlerini koruyor.
- Kayıtlı kullanıcı sayısı 1 milyonu veya aylık aktif kullanıcı sayısı 100 bini aşan hizmetler için güvenlik değerlendirmeleri zorunlu olacak.
- Çinli yapay zekâ hizmetleri geniş kitlelere ulaşırken Z.ai ve Minimax, Aralık ayında Hong Kong'da halka arz planlarını açıkladı.
- ABD'deki davalar, FTC soruşturması ve Avustralya'daki düzenleyici bildirimler, sohbet robotlarının çocuklar için güvenli olup olmadığına yönelik denetimi artırıyor.
- OpenAI, 18 yaşından küçük kullanıcılar için yönergelerini değiştirdi ve ruh sağlığı ile siber güvenlik riskleriyle ilgilenecek bir hazırlık ve risk yönetimi yöneticisi aramaya başladı.






