Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk, 7 Eylül 2026'da Cenevre'de yaptığı konuşmada gelişmiş yapay zekâ sistemlerinin insanlık için varoluşsal risk oluşturabileceği yönündeki kaygıları paylaştığını söyledi. Türk, BM İnsan Hakları Konseyinin 63. oturumuna sunduğu küresel değerlendirmede hükümetler ve teknoloji şirketlerinden yapay zekânın güvenliği için güçlü, bağlayıcı ve uluslararası ölçekte uyumlu güvenceler oluşturmasını istedi.
BM İnsan Hakları Yüksek Komiserliği tarafından yayımlanan resmi konuşma metni, çağrının yalnızca uzak gelecekteki teorik risklerle sınırlı olmadığını gösteriyor. Türk, güvenlik testlerinden kaçabilen veya beklenmeyen biçimde davranabilen gelişmiş sistemlerin kritik altyapı, demokratik kurumlar ve temel haklar üzerinde etkiler yaratabileceğine dikkat çekti. Bu ifadeler belirli bir felaketin gerçekleştiği anlamına gelmiyor; konuşmanın odağı, riskler büyümeden önce önleyici kuralların kurulmasıydı.
Türk'ün önerileri arasında yapay zekâ geliştiren ülkeler ile donanım, veri merkezi ve tedarik zincirlerinde rol alan devletlerin ortak sınırlar belirlemesi bulunuyor. Konuşmada, şirketlerin kendi güvenlik testleri ve gönüllü taahhütlerinin tek başına yeterli olmayabileceği görüşü öne çıktı. Yüksek Komiser, kamu otoritelerinin denetim kapasitesinin teknoloji şirketlerindeki gelişme hızına yetişmesi ve alınan kararların insan hakları çerçevesinde hesap verebilir olması gerektiğini savundu.
Konuşmanın bir başka başlığı güç yoğunlaşmasıydı. Türk, ileri yapay zekâ sistemlerinin yönünü belirleyen kararların sınırlı sayıdaki şirket ve yönetici tarafından alınmasına ilişkin kaygısını dile getirdi. Bu değerlendirme, belirli bir şirketin suçlandığı anlamına gelmiyor. Esas soru, toplumları etkileyebilecek teknolojik kararların kim tarafından, hangi denetim altında ve hangi itiraz mekanizmalarıyla verileceği üzerinde yoğunlaşıyor.
Reuters, The Next Web ve Indian Express tarafından 7 Eylül'de yayımlanan haberler, Türk'ün küresel güvenlik sınırları ve şirketlerle doğrudan görüşme çağrısını aynı temel çerçevede aktardı. Bağımsız haberler ayrıca Yüksek Komiserin önümüzdeki günlerde teknoloji şirketleriyle risk azaltma konusunda temas kurmayı planladığını bildirdi. Bu temasların sonucu veya şirketlerin vereceği yanıtlar henüz açıklanmadığı için, somut bir düzenleme kararı alınmış gibi değerlendirme yapmak doğru olmaz.
BM düzeyindeki tartışmada insan hakları yaklaşımı, yalnız sistemlerin teknik olarak güvenli olmasına değil, kullanım sonuçlarının da denetlenmesine dayanıyor. Ayrımcılık, mahremiyet, ifade özgürlüğü, çalışma hayatı ve kamu hizmetlerine erişim gibi alanlar yapay zekâ yönetişiminin parçaları olarak görülüyor. Türk'ün konuşması, güvenlik önlemlerinin inovasyonu tamamen durdurmak yerine yüksek etkili sistemler için açık sorumluluklar ve kırmızı çizgiler oluşturmasını savunuyor.
Çağrının zamanlaması da önemli. Yapay zekâ modellerinin yetenekleri artarken ülkeler farklı düzenleme yaklaşımları geliştiriyor ve ortak standartlar konusunda tam bir uzlaşma bulunmuyor. Küresel tedarik zincirleri nedeniyle yalnız tek bir ülkenin kural koyması da sınırlı sonuç verebilir. BM yetkilisinin önerisi, model geliştiricileri, bulut sağlayıcıları, çip üreticileri ve devletlerin güvenlik sorumluluğunu paylaşacağı uluslararası bir çerçeve oluşturulması yönünde.
Böyle bir çerçevenin uygulanması teknik ölçümlerin yanında hukuki ve kurumsal süreçler de gerektirir. Hangi sistemlerin yüksek riskli sayılacağı, test sonuçlarının kimlerle paylaşılacağı ve acil durumlarda hangi kurumun müdahale edeceği açık biçimde tanımlanmalıdır. Ayrıca küçük şirketler ile araştırmacıların yükümlülükleri, büyük model sağlayıcılarının sorumluluklarından farklı olabilir. Konuşma bu ayrıntılar için nihai bir model sunmadı; ortak çalışma çağrısı yaptı.
7 Eylül itibarıyla doğrulanmış gelişme yeni bir yasa veya bağlayıcı BM kararı değil, İnsan Hakları Yüksek Komiserinin resmi ve kamuya açık çağrısıdır. Bundan sonraki aşamada çağrının devletler, teknoloji şirketleri ve İnsan Hakları Konseyi üyeleri tarafından nasıl karşılanacağı izlenecek. Tartışmanın somut çıktıları; ortak test standartları, olay bildirim kuralları, bağımsız denetim ve yüksek riskli kullanım alanları için sınırlar şeklinde ortaya çıkabilir, ancak bunlar şimdilik olasılık düzeyindedir.
