Avrupa Birliği Komisyonu (“AB Komisyonu”) tarafından 21.04.2021 tarihinde “Yapay Zekaya İlişkin Uyumlu Kurallar Koyulması ve Bazı Avrupa Birliği Düzenlemelerinin Değiştirilmesi” (“Teklif”) düzenlemesi teklif edildi. Söz konusu düzenleme yapay zeka ile ilgili kurallar çerçevesini içeren bir yasal düzenleme olma özelliğini taşımaktadır. Düzenleme teklifinin yürürlüğe girmesi için Avrupa Parlamentosu ve üye ülkelerin onayı gerekmektedir. Düzenleme yasalaştığında, AB ülkelerinde faaliyet gösteren diğer ülkelerin teknoloji şirketlerinin faaliyetleri de sınırlandırılmış olacaktır. Teklif, güvenilir Yapay Zeka için yasal bir çerçeve önererek bir güven ekosisteminin geliştirilmesi hedefini uygulamayı amaçlamaktadır. Teklif, AB değerlerine ve temel haklara dayanmaktadır; ayrıca yapay zeka tabanlı çözümlerin benimsenmesi konusunda güven vermeyi ve işletmeleri bunları geliştirmeye teşvik etmeyi amaçlamaktadır. Teklif ile düzenlenen bazı hususlar aşağıdaki gibidir:
1- Tanımlar
Teklif ile 44 terimin tanımı yapılmıştır. Bu tanımların içerisinde “Yapay Zeka Sistemi” ve “Kullanıcı” da yer almaktadır. Buna göre Yapay Zeka Sistemi “Ek I’de listelenen teknik ve yaklaşımlardan biri veya daha fazlasıyla geliştirilen ve belirli bir insan tanımlı hedef kümesi için etkileşimde oldukları ortamları etkileyen içerik, tahminler, öneriler veya kararlar gibi çıktılar üretebilen yazılım” olarak, Kullanıcı ise “AI sisteminin profesyonel olmayan kişisel bir faaliyet sırasında kullanıldığı durumlar hariç olmak üzere, kendi yetkisi altındaki bir yapay zeka sistemini kullanan herhangi bir gerçek veya tüzel kişi, kamu otoritesi, kurum veya diğer kuruluş anlamına gelir.” şeklinde tanımlanmışlardır. Ayrıca ‘training data’, ‘testing data’, ‘validation data’, ‘input data’ gibi teknik hususlara ilişkin konularda da tanımlar getirilmiştir.
2- Risk grupları
Teklif ile yapay zeka sistemleri “kabul edilemez risk”, “yüksek risk”, “düşük ya da “minimum risk” olmak üzere 3 ana gruba ayrılmıştır. Ek 3’te söz konusu grupların içeriklerine ilişkin listeler paylaşılmıştır. Buna göre yüksek risk grubunda bulunan bazı uygulamalar aşağıdaki gibidir:
- Gerçek kişinin biyometrik tanımlanması ve sınıflandırılması:
- Gerçek kişilerin ‘gerçek zamanlı’ ve ‘sonradan’ uzaktan biyometrik tanımlanması için kullanılması amaçlanan Yapay Zeka sistemleri;
- Kritik altyapının yönetimi ve işletilmesi:
- Karayolu trafiğinin yönetimi ve işletilmesinde ve su, gaz, ısıtma ve elektrik temininde güvenlik bileşenleri olarak kullanılması amaçlanan tüm sistemler.
- Eğitim ve mesleki eğitim:
- Gerçek kişilerin eğitim ve mesleki eğitim kurumuna erişimini belirlemek veya atamak amacıyla kullanılması amaçlanan tüm sistemler
- Gerçek kişinin biyometrik tanımlanması ve sınıflandırılması:
Ayrıca, insanların güvenliği, geçim kaynakları ve haklarına ilişkin açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk grubunda yer almıştır ve bunların kullanımı yasaklanmıştır.
İnsan davranışlarını manipüle eden, özgür iradeyi önleyen, hükümetler tarafından sosyal puanlama yapılmasını sağlayan uygulamalar ve yapay zeka sitemleri “kabul edilemez” risk grubuna dahil edilmiştir.
Düşük risk grubunda yer alan yapay zeka sistemleri bazı şeffaflık yükümlülüğüne tabi olacaktır. Kullanıcıların bu grupta yer alan “sohbet robotları” ile görüşme yaparken bir makine ile etkileşimde bulunduklarının farkında olması ve bilinçli karar almaları sağlanacaktır.
Yapay Zeka destekli video oyunları veya istenmeyen e-posta filtreleri gibi uygulamalar minimum risk grubunda yer almıştır.
3- Yüksek Riskli Yapay Zeka Sistemleri
Yüksek riskli yapay zeka sistemleri için birtakım gereklilikler öngörülmüştür. Örneğin, yüksek riskli Yapay Zeka sistemleri ile ilgili olarak bir risk yönetim sistemi kurulması gerekecektir.
Risk yönetim sisteminin yüksek riskli Yapay Zeka sisteminin tüm yaşam döngüsü boyunca çalışan ve düzenli sistematik güncelleme gerektiren bir süreci ve düzenlemede belirlenen adımları içermesi gerekecektir.
Yüksek riskli Yapay Zeka sistemlerinin, çalışırken log kayıtları tutacak şekilde tasarlanması gerekecektir. Bunların minimumda neleri içereceği de ayrıca belirlenmiştir.
İnsan gözetiminin sağlanmasına ilişkin olarak, yüksek riskli Yapay Zeka sistemlerinin, uygun insan-makine arayüz araçları da dahil olmak üzere, Yapay Zeka sisteminin kullanımda olduğu süre boyunca gerçek kişiler tarafından etkin bir şekilde denetlenebilecek şekilde tasarlanması gerekecektir.
Yüksek riskli Yapay Zeka sistemleri, hedeflenen amaçları ışığında uygun bir doğruluk, sağlamlık ve siber güvenlik seviyesine ulaşacak ve yaşam döngüleri boyunca bu açılardan tutarlı biçimde performans gösterecek şekilde geliştirilecektir.
4- Yükümlülükler
İlk olarak yüksek riskli Yapay Zeka sağlayıcılarının yükümlülükleri ele alınmıştır. Belli bazı politika ve prosedürlerinin bu düzenlemeye uyumluluğun sağlanması için hazırlanması öngörülmüştür.
Yüksek riskli Yapay Zeka sistemi ithalatçıları ve distribütörleri için de bazı yükümlülükler düzenlenmiştir.
Yüksek riskli Yapay Zeka sistemi kullanıcıları için de bazı yükümlülükler düzenlenmiştir. Örnek olarak, yüksek riskli Yapay Zeka sistemlerinin kullanıcılarının, bu sistemleri, kullanım talimatlarına uygun olarak kullanması gerekmektedir. Kullanım talimatları temelinde yüksek riskli Yapay Zeka sisteminin çalışmasını gözleyecektir. Eğer riskli bir durum söz konusu olursa sağlayıcı veya distribütörü bilgilendirecek ve sistemin kullanımını askıya alacaktır.
Yüksek riskli bir Yapay Zeka sistemini piyasaya sürmeden veya hizmete sunmadan önce, sağlayıcının veya uygun olduğu durumlarda yetkili temsilcinin, bu sistemi belirlenen AB veri tabanına kaydettirmesi gerekecektir.
5- Yaptırımlar
Üye devletler, Teklif’te belirtilen şart ve koşullara uygun olarak, idari para cezaları da dahil olmak üzere ihlaller karşısında uygulanacak cezalara ilişkin kuralları belirleyecektir ve bunların düzgün ve etkili bir şekilde uygulanmasını sağlamak için gerekli tüm önlemleri alacaklardır. Öngörülen cezalar etkili, orantılı ve caydırıcı olacaktır. Küçük ölçekli sağlayıcıların ve girişmcilerin çıkarları ve ekonomik sürdürülebilirlikleri özellikle dikkate alınacaktır.
Yapay Zeka sisteminin Teklif kapsamındaki herhangi bir gerekliliğe veya zorunluluğa uymaması durumunda, 30.000.000 EUR veya dünya çapındaki toplam yıllık cirosunun %6’sına varan para cezası söz konusu olabilecektir.
Son olarak, Avrupa Yapay Zeka Kurulu kurulması öngörülmüştür.
İlgili Düzenleme’nin İngilizce tam metnine aşağıdaki linkten ulaşabilirsiniz
