AB’de yapay zeka yasası: Biyometrik tanımlama sistemleri yasaklanıyor

Fotoğraf, teknolojinin, suçları işlenmeden önce tahmin etmesini konu edinen Minority Report filminden.

Avrupa Parlamentosu (AP), yapay zeka teknolojilerine dair kurallar getiren yeni yasanın içeriğini belirledi.

Strazburg'da gerçekleştirilen AP Genel Kurul oturumunda, Avrupa'da yapay zekaya yönelik ilk kuralları içeren yasa taslağı görüşüldü.

AP milletvekilleri, yapay zeka yasası konusunda üye ülkelerle yapılacak müzakerelerde AP'nin pozisyonunu belirleyen belgeyi 499 "Evet", 28 "Hayır" oyuyla kabul etti.

Yapay zekaya risk temelli yaklaşım

Yasa taslağına göre, yapay zeka sistemlerinin insanlar tarafından denetlenmesi, ayrım yapmaması, güvenli, şeffaf ve çevre dostu olması gerekecek.

Yapay zekaya risk temelli yaklaşım uygulanacak. Yapay zekanın oluşturabileceği risk düzeyine bağlı biçimde kurallar ise katılaşacak.

İnsanların güvenliği açısından "kabul edilemez" düzeyde risk içeren yapay zeka sistemleri yasaklanacak. Bu kapsama, insanları sosyal davranışlarına veya kişisel özelliklerine göre sınıflandıran yapay zeka sistemleri de dahil olacak.

Sınıflandırma ve veri tabanı yasak

Halka açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama sistemleri kullanımı da yasak kapsamına girecek.

Cinsiyet, ırk, etnik köken, vatandaşlık durumu, din, siyasi yönelim gibi çeşitli özellikleri kullanan biyometrik sınıflandırma sistemleri, profil çıkarma, konum veya geçmişteki suç davranışına dayalı polis sistemleri, kolluk kuvvetleri, sınır idareleri, iş yerleri ve eğitim kurumlarında duygu tanımlama sistemleri, yüz tanıma veri tabanları oluşturmak için internet veya kapalı devre kamera sistemlerinden veri tabanı kurulması yasak olacak.

İnsan sağlığı ve güvenliği kriteri

Yüksek risk yapay zeka sınıflandırması; insanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı içerecek biçimde genişletilecek.

Siyasi kampanyalarda seçmenleri etkilemek için yapay zeka sistemleri kullanımı yüksek risk kategorisine dahil olacak. Toplam kullanıcısı 45 milyonun üzerindeki büyük sosyal medya platformlarının kullandıkları sistemler de yüksek risk listesine girecek ve bu sistemler sıkı kurallara tabi olacak.

Yasa dışı içerik üretimi

ChatGPT gibi sistemlerin ilave şeffaflık kurallarına uyması gerekecek. Bu sistemlerin, içeriklerin yapay zeka tarafından oluşturulduğunu açık biçimde belirtmesi gerekecek.

Sistemler yasa dışı içerik üretimini önleyecek biçimde tasarlanacak.

AB üyesi ülkelerde

Onaylanan müzakere yetkisi çerçevesinde AB üyesi ülkelerle AP arasındaki müzakereler bugün başlayacak. Yasal düzenleme müzakerelerinin bu yıl sonuna kadar tamamlanması bekleniyor.

AB kurumlarının ortak bir yasal metin üzerinde anlaşmalarının ardından yasa yürürlüğe girecek.

AB'nin yapay zeka sistemleriyle ilgili bir düzenlemesi bulunmuyor ancak AB Komisyonu 2 yıl önce yapay zeka konusunda yeni kurallar çerçevesini içeren ilk yasal düzenleme teklifini hazırlayıp üye ülkelere ve AP’ye sunmuştu. Bu teklif, yapay zeka sistemlerinin kullanımında birtakım sınırlama ve şeffaflık kuralları getiriyordu.

Tanımlayıcı etiket zorunluluğu

AB geçen hafta teknoloji şirketlerinden yapay zeka tarafından üretilen metin ve görsellere tanımlayıcı etiket koymalarını istedi.

Ayrıca, yapay zeka yasanın yürürlüğe girmesi öncesinde AB Komisyonu yapay zeka alanında çalışan bütün şirketlerin katılımıyla bu alana yeni kurallar getirecek bir anlaşma üzerinde çalışıyor. Bu gönüllü anlaşmanın yapay zeka yasası devreye girene kadar uygulanması planlanıyor. (AS)