OpenAI, Avrupa Birliği'nin yapay zeka şeffaflığı düzenlemelerine uyum sağlamak amacıyla ChatGPT ve Codex çıktılarına görünmez ve makine tarafından okunabilir 'textGrain' filigranı eklemeye hazırlanıyor. İlk aşamada AB kullanıcılarını kapsayacak sistem, küresel API müşterileri için ise isteğe bağlı olarak bugünden itibaren kullanıma sunuluyor.
OpenAI, Avrupa Birliği'nin yapay zeka şeffaflığı kurallarına uyum sağlamak amacıyla ChatGPT ve Codex tarafından üretilen metinlere görünmez ancak makine tarafından okunabilir filigranlar eklemeye hazırlanıyor. Uygulama, ilk aşamada yalnızca Avrupa Birliği'ndeki uygun kullanıcıları kapsayacak şekilde hayata geçiriliyor.
textGrain Sistemi Nasıl Çalışıyor?
Şirket, metin filigranlama işlemi için kendi geliştirdiği textGrain adlı yeni bir sistemi devreye sokuyor. Bu teknoloji, yapay zeka modelinin kelime seçimlerine görünmez bir istatistiksel sinyal entegre ediyor. Eklenen bu sinyal, daha sonra özel bir algılama aracı tarafından taranarak ilgili metnin OpenAI modelleri tarafından üretilip üretilmediğini ortaya koyabiliyor.
OpenAI, textGrain sisteminin Google’ın SynthID for Text gibi pazardaki diğer işaretleme yöntemleriyle benzer veya daha üstün sonuçlar ürettiğini ifade ediyor.
Sınırlamalar ve Tespit Zorlukları
Şirket, sistemin her senaryoda yüzde yüz güvenilir sonuçlar vermeyeceği konusunda uyarıda bulunuyor. Özellikle kısa metinlerde tespit başarısının yaklaşık yüzde 80 seviyesinde kaldığı, matematiksel içerik barındıran metinlerde ise filigranı yakalamanın daha da zorlaştığı belirtiliyor.
Bunun yanı sıra, metin üzerinde sonradan yapılan düzenlemeler de tespit performansını düşürebiliyor. Dolayısıyla bir metinde filigranın tespit edilememesi, o içeriğin yapay zeka tarafından üretilmediğinin kesin bir kanıtı niteliği taşımıyor. OpenAI ayrıca filigran sisteminin; metnin doğruluğunu, mülkiyetini, insan katkısının oranını veya metnin doğrudan bir insan tarafından kaleme alındığını kanıtlamadığını özellikle vurguluyor.
Takvim ve Kapsam: Kimler Etkilenecek?
Önümüzdeki haftalardan itibaren Avrupa Birliği'ndeki tüm planlarda yer alan uygun ChatGPT ve Codex kullanıcılarının ürettiği metinlere textGrain filigranı otomatik olarak uygulanmaya başlayacak. Uygulama başlangıçta küresel çapta varsayılan hale getirilmeyecek.
Bununla birlikte, dünya genelindeki API müşterileri seçili modellerde filigranlı metin çıktısını bugünden itibaren isteğe bağlı olarak etkinleştirebilecek. Şirket, önümüzdeki haftalarda bulut hizmeti ortakları üzerinden erişilen OpenAI modellerinin çıktılarında da filigran desteğini aktif hale getirmeyi planlıyor.
Tespit Aracı Sınırlı Erişime Açılıyor
OpenAI, geliştirdiği filigran tespit aracını da başlangıçta genel kullanıma açmayacak. Onaylanmış araştırmacılar ve uzman kuruluşlar, araca erişim için başvuruda bulunabilecek. İlk aşamada başvurular tek tek incelenerek değerlendirilecek.
Söz konusu tespit aracı, yalnızca metinde OpenAI filigranının bulunup bulunmadığı bilgisini paylaşacak; kullanıcı kimliğini, kullanılan istemleri veya geçmiş konuşma verilerini ifşa etmeyecek.
AB Yapay Zeka Yasası ve Şeffaflık Takvimi
Atılan bu adım, doğrudan Avrupa Birliği'nin Yapay Zeka Yasası kapsamında getirilen şeffaflık kurallarına dayanıyor. Yeni düzenlemeler piyasaya yeni giren şirketlerin hemen uyum sağlamasını zorunlu kılarken, daha önce faaliyet gösteren kuruluşlara belirli bir geçiş süresi tanınıyor. OpenAI'ın yanı sıra Anthropic, Microsoft, Google ve Meta gibi sektörün önde gelen oyuncularının da 2 Aralık tarihine kadar bu gereklilikleri eksiksiz yerine getirmesi gerekiyor.
