Microsoft’tan yapay zeka modellerine sınırlar çizecek kurallar taslağı

Microsoft, yapay zeka güvenliğine ilişkin tartışmalar yoğunlaşırken gelecekte geliştireceği yapay zeka modellerinin davranışlarına sınırlar getirecek bir kurallar taslağı yayınladı. Taslak, “Hümanist Yapay Zeka Davranış Kuralları” başlığıyla kamuoyunun görüşüne açıldı.

Şirket, modellerinin güvenli biçimde ve insan kontrolü altında çalışmasını, insanlığa bağlı kalarak anlamlı bir gözetim çerçevesinde tutulmasını hedefliyor. Taslak, Microsoft’tan yapay zeka modellerine sınırlar çizecek kurallar taslağı olarak altı haftalık bir istişare sürecinin ardından yıl sonunda revize edilecek ve 2027’den itibaren şirketin yapay zeka modellerinin geliştirilmesine rehberlik edecek.

Taslak ne anlama geliyor, kapsamı ne?

Microsoft’un bugün paylaştığı taslak, yapay zeka modellerinin insan kontrolünü aşmamasını ve “anlamlı” bir insan gözetimi altında çalışmasını öngörüyor. Metin, teknik bir standarttan çok davranışsal bir çerçeve olarak tasarlandı; yani tek tek teknik sınırlamalar yerine modellerin nasıl davranması gerektiğine dair ilkeler sıralanıyor.

Şirket, taslağı nihai hale getirmeden önce akademisyenler, sivil toplum kuruluşları, düzenleyiciler ve müşterilerden gelecek geri bildirimleri dikkate alacağını açıkladı. Altı haftalık danışma süreci, Microsoft’un “hızlı geliştirme” eleştirilerine yanıt olarak süreci yavaşlatma ve şeffaflaştırma çabası olarak yorumlanıyor.

Taslak hangi davranışları sınırlandırıyor?

Taslak, modellerin uzak durması gereken üç ana kategori üzerinde duruyor. Bunlar silah üretimine ilişkin taleplere yardımcı olmak, tehlikeli maddelerin teminini kolaylaştırmak ve şiddet içeren ya da cinsel açıdan açık içerik üretmek.

Bu sınırlar, “yapay zekanın zarar vermemesi gereken alanlar” şeklinde özetlenebilir. Taslakta ayrıca modellerin kritik kararlarda son sözü insana bırakması, yanıltıcı içerik üretiminden kaçınması ve kullanıcıyı manipüle etmemesi gerektiği belirtiliyor.

Dikkat edilmesi gereken beş temel kriter

1. İnsan kontrolü: Model, kritik kararlarda insan gözetimini atlayamaz; anlamlı bir denetim zinciri korunur.
2. Zarar sınırı: Silah, tehlikeli madde, şiddet ve cinsel içerik üretimi açıkça yasaklanır.
3. Şeffaflık: Modelin karar süreçleri ve sınırları kullanıcıya açık biçimde aktarılır.
4. Manipülasyondan kaçınma: Duygu istismarı, bağımlılık yaratan tasarım ve yanıltıcı yönlendirme kabul edilmez.
5. İnsanlığa bağlılık: Model, genel hedefleri açısından insan değerleriyle uyumlu kalır.

Sektördeki tartışma nasıl bir zemine oturuyor?

Microsoft’un taslağı, ABD’li yapay zeka şirketleri Anthropic Üst Yöneticisi Dario Amodei ile OpenAI Üst Yöneticisi Sam Altman’ın, yapay zekanın güvenliğini sağlamak amacıyla modellerin geliştirilme hızının kontrollü biçimde yavaşlatılması yönündeki çağrılarının ardından geldi. İki yönetici, son aylarda modellerin yetenekleri arttıkça test ve denetim sürelerinin de uzatılması gerektiğini savunuyordu.

Microsoft’un bu taslağı, aynı zamanda şirketin kamuoyu nezdinde “güvenli yapay zeka” söylemini somut bir belgeye dönüştürme girişimi olarak da okunuyor. Şirket, düzenleyicilerin ve büyük müşterilerin artan sorularına yanıt olarak kendi iç kurallarını yazılı hale getirmiş oldu.

Microsoft’un taslağı kim için ne anlama geliyor?

Geliştiriciler için taslak, ürün geliştirme sürecinde uyulması gereken bir kontrol listesi işlevi görecek. Şirket içi ekiplerin yanı sıra Microsoft’un yapay zeka modellerini kullanan kurumsal müşteriler, entegrasyon aşamasında bu kurallara uyum sağlamak durumunda kalabilir.

Kamuoyu ve sivil toplum için ise taslak, altı haftalık danışma süresi boyunca görüş bildirme imkânı sunuyor. Bireysel kullanıcılar, modellerin sınırlarının nerede başladığını ve hangi taleplere yanıt verilmeyeceğini bu tür şirket belgelerinden takip edebilir.

Yaygın yanılgılar ve sık sorulan sorular

Taslak, Microsoft’un tüm yapay zeka ürünlerini anında kısıtlayacağı anlamına gelmiyor; belge, 2027’den itibaren geliştirilecek yeni modeller için bir rehber niteliğinde. Ayrıca taslak, teknik bir standart olmaktan çok davranışsal ilkeler bütünü; yani tek tek kod sınırlamalarından değil, modellerin nasıl davranması gerektiğine dair üst kurallardan söz ediliyor. Microsoft, belgenin yıl sonuna kadar revize edileceğini ve danışma sürecindeki geri bildirimlere göre son şeklinin alınacağını duyurdu.

Microsoft, taslakla ilgili altı haftalık istişare sürecinde kamuoyundan gelecek görüşleri değerlendirecek; ardından yıl sonunda metni revize ederek 2027’den itibaren yeni yapay zeka modellerinin geliştirilmesinde temel referans olarak kullanacak.