AB Yapay Zekâ Tüzüğü (EU AI Act), Avrupa Birliği’nde yapay zekâ sistemlerinin kullanımını düzenleyen kapsamlı bir hukuki çerçeve sunmaktadır. Bu düzenleme, risk temelli bir yaklaşımı esas alır ve sistemleri taşıdığı potansiyel tehlikeye göre sınıflandırır.

Bu çerçevede, bazı yapay zekâ uygulamaları tamamen yasaklanmıştır. Zira bu uygulamaların insan onuru, özgürlük, eşitlik, demokrasi, hukukun üstünlüğü ve temel haklarla bağdaşmadığı değerlendirilmiştir. Dolayısıyla bu sistemler yalnızca “yüksek riskli” değil, kabul edilemez risk taşıdığı için yasak kapsamına girmektedir.

AB Yapay Zekâ Tüzüğü Kapsamında Yasaklanan Uygulamalar

Tüzük kapsamında Avrupa Birliği genelinde yasaklanan bazı yapay zekâ uygulamaları şunlardır:

• Bilinçaltını hedef alan veya yanıltıcı etki yöntemleri, bireyin farkında olmadan davranışını değiştirmeye yönelik sistemler;

• Hassas durumda olan bireylerin istismarı, örneğin çocuklar veya engelli bireylerin karar alma kapasitesini zayıflatacak sistemler;

• Sosyal puanlama sistemleri, bireylerin davranışlarına veya özelliklerine göre, bağlam dışı bir şekilde değerlendirilmesi;

• Önleyici kolluk faaliyetleri, bireylerin potansiyel olarak suç işleyip işlemeyeceğinin yapay zekâyla tahmin edilmeye çalışılması;

• Yüz görsellerinin rastgele toplanması, internetten veya kamusal alanlardaki kamera kayıtlarından yüz verisi çekilerek veri tabanı oluşturulması;

• İşyeri ve eğitim ortamlarında duygu tanıma sistemleri, kişinin rızası olmaksızın duygu analizine maruz kalması;

• Biyometrik kategorilendirme sistemleri, bireylerin ırk, siyasi görüş veya dini inanç gibi hassas bilgilerine göre sınıflandırılması;

• Gerçek zamanlı uzaktan biyometrik tanıma sistemleri, örneğin kamusal alanlarda yüz tanıma, ancak çok sınırlı istisnalar dışında yasaktır.

Uyum (Compliance) ve Diğer Düzenlemeler

Her ne kadar bu uygulamalar genel olarak yasaklanmış olsa da, bazı dar kapsamlı istisnalar mevcuttur. Özellikle kamu güvenliği veya ceza soruşturması gibi alanlarda belirli koşullarda bu uygulamaların geçici olarak kullanımı mümkündür. Avrupa Komisyonu, bu yasakların kapsamına ilişkin uygulama rehberleri yayımlayacaktır (Madde 96(1)(b)).

Ancak şunun altı çizilmelidir: AB Yapay Zekâ Tüzüğü’ne uyum sağlamak tek başına yeterli değildir. Örneğin, Genel Veri Koruma Tüzüğü (GDPR) kapsamındaki düzenlemelere de uyulmalıdır. GDPR’nin 22. maddesi, yalnızca otomatik işlemeye dayanan karar alma süreçlerini sınırlayabilir. Ayrıca, ayrımcılık yasağı gibi temel hukuk kuralları, yapay zekâ kullanımında da geçerlidir.

Bu nedenle, yapay zekâ sistemleri geliştiren veya kullanan şirketlerin, AB Yapay Zekâ Tüzüğü’ne ek olarak diğer ilgili mevzuata da tam uyum sağlaması gerekmektedir. Bu hem hukuki riskleri azaltacak hem de toplumsal güveni destekleyecektir.