Microsoft, ABD okullarında yapay zeka için güvenlik önlemleri getiriyor

Microsoft, ABD okullarında yapay zeka için güvenlik önlemleri getiriyor. Şirket, ülkenin en büyük ikinci öğretmenler sendikasıyla imzaladığı anlaşmayla, öğrencilere yönelik yapay zekâ sistemlerinde bağlayıcı gizlilik ve güvenlik standartlarını 1 Kasım’dan itibaren uygulamaya koyacağını duyurdu.

Anlaşma, öğrencilerde duygusal bağlılık veya bağımlılık geliştirmeye yönelik ya da ekranda kalma süresini kasıtlı olarak uzatan yapay zekâ yoldaşlarının ve özelliklerinin kullanımını yasaklıyor. Standartlar hukuken bağlayıcı olacak ve üçüncü taraf denetimlerle uyum kontrol edilecek.

Anlaşma Microsoft’a hangi yükümlülükleri getiriyor?

Microsoft, öğrencilerden ve eğitimcilerden topladığı verileri, öğrencileri korumaya yardımcı olabilecek dar kapsamlı istisna dışında, yapay zekâ sistemlerini eğitmek için kullanmayacağını taahhüt ediyor. Şirket ayrıca bu verilerin satılmayacağını, reklam amacıyla veya ürün geliştirme için kullanılmayacağını açıkladı.

Ailelere yönelik şeffaflık da anlaşmanın parçası. Microsoft, araçlarının nasıl çalıştığını ve hangi verileri topladığını sade ve anlaşılır bir dille açıklamak zorunda olacak. Microsoft Başkanı Brad Smith, “Bu standart, çocukların mahremiyeti ve yapay zekâ güvenliği açısından yüksek bir ölçüt koyuyor ve bu anlaşmayı ülke çapındaki tüm okul bölgelerine yayacağız” açıklamasını yaptı.

Anlaşmanın kapsamı ve denetim mekanizması

Standartlar, 1 Kasım’dan itibaren ABD genelindeki Microsoft okul sözleşmeleri için geçerli olacak. Üçüncü taraf denetimleri, şirketin taahhütlerini fiilen uygulayıp uygulamadığını bağımsız gözle kontrol edecek. Bu yapı, anlaşmayı “kendi denetimini kendin yap” modelinden çıkarıp dışarıdan izlenebilir bir çerçeveye taşıyor.

ABD merkezli çevrimiçi güvenlik kuruluşu Fairplay’in icra direktörü Josh Golin, anlaşmanın önemli olduğunu ancak otomatik onay gibi algılanmaması gerektiğini söyledi. Golin, “Eğer veri gizliliği ve güvenliği konusunda iyi iş çıkarıyorlarsa, o zaman bu aracı kullanmalıyız diye düşünülmesinden endişe duyuyorum” değerlendirmesini yaptı.

OpenAI ve Anthropic neden görüşme halinde?

Öğretmenler sendikası, Microsoft’un ardından OpenAI ve Anthropic ile de benzer güvenlik ve gizlilik anlaşmaları üzerinde görüşme yürütüyor. Her iki şirket de sendikayla çalıştıklarını doğruladı. OpenAI anlaşmayı “okullarda yapay zekâ güvenliği ve gizliliği açısından önemli bir dönüm noktası” olarak nitelendirdi ve kendi mutabakatını kısa sürede sonuçlandırmayı beklediğini bildirdi.

Anthropic de eğitimde sorumlu yapay zekâ kullanımını desteklediğini ve güvenlik standartları için sendikayla birlikte çalıştığını açıkladı. Sendika bu süreçte üç büyük yapay zekâ şirketini aynı çerçevede buluşturmayı hedefliyor.

Google bu tablonun neresinde?

Google, ABD eğitim teknolojisindeki en büyük oyuncu olarak sürecin dışında görünüyor. Şirket, sendikayla benzer güvenceler sunmayı planlayıp planlamadığını kamuoyuna açıklamadı. Bu belirsizlik, anlaşmanın sektörel etkisini sınırlayabilecek en önemli soru olarak öne çıkıyor.

Google, ağustos ayında Classroom’daki Gemini tabanlı araçları 18 yaş altı öğrencilerin okul hesaplarına da genişletmişti. Şirkete göre Classroom dünya çapında 150 milyondan fazla öğretmen ve öğrenci tarafından kullanılıyor. Eleştirmenler bu genişlemeyi, teknoloji devlerinin yapay zekâ ürünlerini okullara yerleştirme rekabetinde yeni bir adım olarak yorumladı.

Dikkat edilmesi gereken kriterler

1. Anlaşmanın bağlayıcılığı: Standartlar hukuki yaptırım içeriyor ve üçüncü taraf denetimine tabi.
2. Veri kullanım sınırları: Toplanan öğrenci verileri model eğitimi için kullanılamıyor, satılamıyor, reklama konu edilemiyor.
3. Bağımlılık riski: Duygusal bağ ve ekranda kalma süresini uzatan tasarımlar açıkça yasak.
4. Aile şeffaflığı: Araçların işleyişi ve toplanan veriler ailelere anlaşılır dille aktarılmalı.
5. Sektörel yaygınlık: Çerçevenin etkisi Google’un katılımına bağlı.
6. Coğrafi kapsam: Yükümlülükler 1 Kasım’dan itibaren ABD’deki Microsoft okul sözleşmelerini kapsıyor.

Avrupa’da yapay zekâ çocuklara nasıl düzenleniyor?

Avrupa Komisyonu’nun Finlandiya, Almanya, İrlanda, Lüksemburg ve İspanya’daki liselerde yürüttüğü çalışma, öğrencilerin üretken yapay zekâyı zor konuları açıklamak, beceri pratiği yapmak ve sınavlara hazırlanmak için kullandığını ortaya koydu. Fransa, Almanya, İsveç ve İrlanda’da 11-25 yaş aralığında 2026’da yapılan ankete katılanların neredeyse yarısı duygusal destek için yapay zekâ sohbet botlarına başvurdu.

Norveç, yaklaşık 6-12 yaş grubunun okul ödevleri için üretken yapay zekâyı kendi başına kullanmaması gerektiğini, 13-15 yaş grubunun ise temkinli biçimde denemeye başlayabileceğini açıkladı. Fransa, ilkokul düzeyinde üretken yapay zekânın doğrudan kullanılmamasını, öğretmen gözetiminde kullanımın ise yaklaşık 13-14 yaştan itibaren başlayabileceğini belirtti.

Euronews’ün gördüğü bir belgeye göre Avrupa Komisyonu, 15 yaş altındaki çocukların yapay zekâ sohbet botları gibi riskli çevrimiçi hizmetlere erişiminin yasaklanmasını öngören bir yasa teklifi sunmaya hazırlanıyor.

Microsoft’un ABD okullarında başlattığı çerçeve, 1 Kasım itibarıyla yürürlüğe girecek standartlarla sektöre örnek oluşturuyor; anlaşmanın etkisi OpenAI ve Anthropic’in yanı sıra Google’un katılımına bağlı olacak.