Avrupa Yapay Zeka Hukuku
İçindekileri İncele
SUNUŞ 5
ÖNSÖZ 13 İÇİNDEKİLER 19
GİRİŞ 31
1. Genel Olarak Yapay Zekâ Hukuku 31
2. Avrupa Yapay Zekâ Hukuku 36
3. Yumuşak ve Sert Yapay Zekâ Hukuku Ayrımı 37
4. Yapay Zekâ Okur Yazarlığı ve Dijital Okur Yazarlık 38
A. AB Yapay Zekâ Yasası: Yapay Zekâ Okur Yazarlığı 38
B. AK Yapay Zekâ Çerçeve Sözleşmesi: Dijital Okuryazarlık ve Dijital Beceri 39
5. Kitabın Kapsamı 41
BİRİNCİ BÖLÜM AVRUPA BİRLİĞİ YAPAY ZEKÂ HUKUKUNUN GELİŞİMİ VE TEMELLERİ
1.1. AB HUKUKU DÜZENLEMELERİNE GENEL BAKIŞ 43
1.2. YAPAY ZEKÂ YASASINA GİDEN YOLDA HUKUKİ GİRİŞİM VE DÜZENLEMELER 45
1.2.1. AB Komisyonunun Girişimleri 46 1.2.1.1. 2019 Tarihli AB Komisyonu Uzman Grubu Önerileri 46
1.2.1.2. Güvenilir Bir Yapay Zekâ İçin Etik İlkeler Rehberi (2019) 47
1.2.1.3. AB Komisyonu Beyaz Kitap Raporu (2020) 49
1.2.1.4. Komisyonun Diğer Girişimleri 50
1.2.2. AB Parlamentosu’nun Hukuki Yükümlülüklere İlişkin Karar Tasarısı (2020) 52
1.2.3. AB Yapay Zekâ Sorumluluk Direktifi 54
1.2.4. Ürün Sorumluluk Direktifi 55
1.3. İLGİLİ DÜZENLEMELER 58
1.3.1. AB Temel Haklar Şartı 58
1.3.2. Genel Veri Koruma Yasası 59
1.3.2.1. Genel Olarak 59
1.3.2.1. GDRP’nin Ulusal Uygulanmasına Örnekler 65
1.3.2.1.1. SyRI davası kararı 65
1.3.2.1.2. Uber Veri İhlali Davası 66 1.3.2.
1.3. Uber ve Ola Cabs Sürücüleri Davası 67
1.3.3. Avrupa Veri Yönetimi Yasası 68 1.3.3. 2016 Tarihli Kolluk Direktifi 70
1.3.4. Dijital Hizmetler ve Dijital Pazar Yasaları 71
1.3.4.1. Mevzuat 71
1.3.4.2. Kurumsal Yapı: Avrupa Algoritmik Şeffaflık Merkezi (ECAT) 73
1.3.5. AB Ürün Güvenliği Mevzuatı 74
1.3.6. Siber Güvenlik Mevzuatı 75
1.4. AB YAPAY ZEKÂ YASASINA GENEL BAKIŞ 77
1.4.1. Genel Olarak 77
1.4.2. İçeriği 79
1.4.3. Yapay Zekâ Yasasının Temel Öğeleri 80
1.4.4. Önemi ve Etkisi 81
1.4.5. Değişiklik Yaptığı Mevzuat 83
1.4.6. Yasanın Kapsamı 83
1.4.7. Yapay Zekâ Yasasına Yönelik Eleştiriler 85
1.4.8. Yapay Zekâ Yasasının Diğer AB Mevzuatı ile İlişkisi 89
1.5. DAVALAR 90
1.5.1. Ligue des droits humains Davası 90
1.5.2. Google Spain SL, Google Inc. v Agencia Española de Protección de Datos, Mario Costeja González Davası 92
1.5.3. Schrems II Davası 93
1.5.4. Özel Gerçek ve Tüzel Kişilerin Açacağı Davalar 94
İKİNCİ BÖLÜM YAPAY ZEKÂ YASASININ ANALİZİ
2.1. YASANIN KONU VE AMACI 95
2.2. YASANIN KAPSAM VE UYGULAMA ALANI 98
2.3. MUAFİYETLER 102
2.3.1. Askeri, Savunma veya Ulusal Güvenlik Amaçları İçin Piyasaya Sürülen, Hizmete Sunulan veya Kullanılan Yapay Zekâ sistemleri 102
2.3.2. AB’de Piyasaya Sürülmeyen veya Hizmete Sunulmayan ve Çıktısı Yalnızca Askeri, Savunma veya Ulusal Güvenlik Amaçları İçin Kullanılan Yapay Zekâ Sistemleri 105
2.3.3. Uluslararası İş Birliği Muafiyeti 106
2.3.4. Yapay Zekâ Sistemleri veya Modellerinin Araştırma, Test veya Geliştirme Faaliyetleri 107
2.3.5. Yalnızca Bilimsel Araştırma ve Geliştirme Amacıyla Özel Olarak Geliştirilen ve Hizmete Sunulan Yapay Zekâ Sistemleri veya Modelleri ve Bunların Çıktısı 108
2.3.6. Gerçek Kişiler Tarafından Sadece Kişisel ve Mesleki Olmayan Bir Faaliyet Kapsamında Kullanılan Yapay Zekâ Sistemleri 111
2.3.7. Serbest ve Açık Kaynaklı Lisanslar Altında Yayımlanan Yapay Zekâ Sistemleri 112
2.3.8. Eleştiriler 113
2.4. YASANIN ETKİLEMEDİĞİ AVRUPA BİRLİĞİ MEVZUATI 114
2.5. YAPAY ZEKÂ SİSTEMİNİN HUKUKİ TANIMI 115
2.5.1. Yapay Zekâ Sistemi 115
2.5.2. Genel Amaçlı Yapay Zekâ Modeli ve Genel Amaçlı Yapay Zekâ Sistemi Tanımları 122
2.5.3. Eleştiriler 125
2.6. YAPAY ZEKÂ YASASININ UYGULAMA TAKVİMİ 126
2.7. RİSK TEMELLİ DÜZENLEYİCİ YAKLAŞIM 128
2.8. RİSK TÜRLERİ 131
2.9. KABUL EDİLEMEZ RİSK 134
2.9.1. Davranışları Çarpıtmak ve Bilinçli Karar Verme Yetisini Zayıflatmak Amacıyla Bilinçaltı, Manipülatif veya Aldatıcı Teknikler Kullanarak Önemli Zararlara Yol Açan Yapay Zekâ sistemleri 134
2.9.2. Yaş, Engellilik veya Sosyo–Ekonomik Durumla İlgili Zayıflıkları İstismar Ederek, Davranışları Çarpıtarak Önemli Zararlara Yol Açan YZ Sistemleri 136
2.9.3. Sosyal Puanlama Yapay Zekâ Sistemleri 137
2.9.4. Profilleme Amaçlı Yapay Zekâ Sistemleri (Öngörücü Adalet Sistemleri) 139
2.9.5. Yüz Tanıma Yapay Zekâ Sistemleri 141
2.9.6. Duygu Tanıma Sistemleri 143
2.9.7. Biyometrik Sınıflandırma Sistemleri 145
2.9.8. Kamuya Açık Alanlarda Kanun Uygulama Amacıyla 'Gerçek Zamanlı' Kullanılan Uzaktan Biyometrik Tanımlama Sistemleri 146
2.10. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİ 151
2.10.1. Bir Ürünün Güvenlik Bileşeni Niteliğindeki YZ sistemleri 152
2.10.2. Yasanın III Nolu Ekinde Sayılan Yapay Zekâ Sistemleri 154
2.10.2.1. Uzaktan Biyometrik Tanıma, Biyometrik Sınıflandırma ve Duygu tanıma sistemleri 154
2.10.2.2. Kritik Altyapı 156
2.10.2.3. Genel ve Mesleki Eğitim 157
2.10.2.4. İstihdam, personel yönetimi ve serbest meslek erişimi 159
2.10.2.5. Temel Özel ve Kamu Hizmetleri ve Yardımlarına Erişim ve Bunlardan Yararlanma 160
2.10.2.6. Kanun Uygulama (Kolluk Faaliyeti) 163
2.10.2.7. Göç, iltica ve Sınır Kontrol Yönetimi 165
2.10.2.8. Adalet ve Demokratik Süreçler 167
2.10.3. Muafiyet ve Eklemeler 169
2.11. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN SAĞLAYICILARININ YÜKÜMLÜLÜKLERİ 170
2.11.1. Uyumluluk 172
2.11.1.1. Gereksinimlere Uyum (m.8). 172
2.11.1.2. Risk Yönetim Sistemi (m.9) 172
2.11.1.3. Veri Ve Veri Yönetimi (m.10) 174
2.11.1.4. Teknik Belgeleme (m.11) 176
2.11.1.5. Kayıt Tutulması ve Saklanması (m.12 ve 19). 176
2.11.1.6. Şeffaflık ve Kullanıcılara Bilgi Sağlama (m.13) 177
2.11.1.7. İnsan Kontrolü (m.14) 180
2.11.1.8. Doğruluk, Sağlamlık ve Siber Güvenlik (m.15) 184
2.11.2. Bilgilendirme Yükümlülüğü (m.16) 187
2.11.3. Kalite Yönetim Sistemi Kurma 188
2.11.4. Belgeleme (Dokümantasyon) 193
2.11.6. Uygunluk Değerlendirmesi 194
2.11.7. AB Uygunluk Beyanı 195
2.11.8. CE İşareti 195
2.11.9. Kayıt Yükümlülükleri 196
2.11.10. Düzeltici Eylemler 197
2.11.11. Uygunluğun Gösterilmesi 197
2.11.12. Erişilebilirlik Gereklilikleri 198
2.11.13. Yetkili Otoritelerle İşbirliği 204
2.11.14. AB Dışındaki Sağlayıcıların Yetkili Temsilci Atama Yükümlülüğü 205
2.12. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN İTHALATÇILARI İÇİN YÜKÜMLÜLÜKLER 206
2.12.1. Piyasaya Sürmeden Önce Uyumluluğun Sağlanması 206
2.12.2. Uyumsuz veya Sahte Sistemlerin Bildirilmesi 207
2.12.3. İthalatçı Bilgilerinin Gösterilmesi 208
2.12.4. Depolama ve Taşıma Koşulları 208
2.12.5. Belgelerin Saklanması 208
2.12.6. Yetkili Makamlara Bilgi Sağlama 208
2.12.7. Yetkili Makamlarla İşbirliği 209
2.13. DAĞITICILARIN YÜKÜMLÜLÜKLERİ 209
2.13.1. Piyasaya Sunmadan Önce Doğrulama 209
2.13.2. Uyumsuzluk Durumunda Yapay Zekâ Sistemlerini Piyasaya Sürmeme 210
2.13.3. Depolama ve Taşıma Koşulları 210
2.13.4. Uyumsuzluk Durumunda Düzeltici Eylemler 210
2.13.5. Yetkili Makamlara Bilgi Sağlama 211
2.13.6. Yetkili Makamlarla İşbirliği 212
2.14. YAPAY ZEKÂ DEĞER ZİNCİRİ BOYUNCA SORUMLULUKLAR 212
2.15. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN KULLANICILARININ YÜKÜMLÜLÜKLERİ 214
2.15.1. Teknik ve Organizasyonel Önlemler 215
2.15.2. İnsan Denetimi 215
2.15.3. Diğer Yükümlülükler 215
2.15.4. Girdi Verilerinin Kontrolü 216
2.15.5. İzleme ve Ciddi Olayları Bildirim 216
2.15.6. Otomatik Kayıtların Saklanması 217
2.15.7. Çalışan Bilgilendirme 218
2.15.8. Kamu Otoriteleri ve AB Kurumları 218
2.15.9. Veri Koruma Etki Değerlendirmesi 218
2.15.10. Adli İzin 219
2.15.11. Gerçek Kişilerin Bilgilendirilmesi 221
2.15.12. Yetkili Makamlarla İşbirliği 222
2.16. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN DAĞITICILARI İÇİN TEMEL HAKLAR ETKİ DEĞERLENDİRMESİ 222
2.17. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİ İÇİN BİLDİRİMDE BULUNAN YETKİLİLER VE BİLDİRİLEN KURULUŞLAR 226
2.18. STANDARTLAR, UYGUNLUK DENETİMİ SERTİFİKALAR VE KAYIT 229
2.18.1. Uyumlaştırılmış Standartlar ve Standardizasyon Ürünleri 229
2.18.2. Ortak Şartnameler 229
2.18.3. Belirli Gerekliliklerle Uyumun Varsayılması 230
2.18.4. Uygunluk Değerlendirmesi 230
2.18.5. Sertifikalar 230
2.18.6. Bildirilen Kuruluşların Bilgilendirme Yükümlülükleri 231
2.18.7. Uygunluk Değerlendirme Prosedüründen Sapma 231
2.18.8. AB Uygunluk Beyanı 231
2.18.9. CE İşareti 232
2.18.10. Pazarlama Sonrası İzleme Sistemleri 232
2.18.11. Kayıt ve İzlenebilirlik 233
2.19. SINIRLI RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN SAĞLAYICILARI VE DAĞITICILARI İÇİN ŞEFFAFLIK YÜKÜMLÜLÜKLERİ 236
2.20. SİSTEMİK RİSK TAŞIYAN YAPAY ZEKÂ MODELLERİ 238
2.20.1. Genel Amaçlı Yapay Zekâ Modeli 238
2.20.2. Sistemik Risk Taşıyan Genel Amaçlı Yapay Zekâ Modeli 239
2.21. DÜŞÜK RİSKLİ SİSTEMLER 244
2.22. YAPTIRIMLAR VE CEZALAR 245
2.22.1. İhlaller ve Uygulanacak Cezalar 245
2.22.2. AB Kurumlarına Yönelik Para Cezaları ve Düzenleyici Yaptırımlar 247
2.22.3. Uyum Sağlamayan Sistemler İçin Düzeltici Tedbirler 247
2.23. YÖNETİŞİM MEKANİZMALARI 248
2.23.1. Ulusal Düzeyde 248
2.23.2. Avrupa Yapay Zekâ Ofisi 250
2.22.3. Avrupa Yapay Zekâ Kurulu 252
2.23.4. Danışma Forumu 253
2.23.5. Bağımsız Uzmanlar Bilimsel Paneli 254
2.23.6. Üye Devletlerin Görev ve Sorumlulukları 255
2.24. İNOVASYONU DESTEKLEYİCİ ÖNLEMLER: KUM HAVUZLARI VE KÜÇÜK İŞLETMELERİN (KOBİLERİN) DESTEKLENMESİ 255
2.24.1. Genel Olarak 255
2.24.2. Düzenleyici Kum Havuzları 257
2.24.3. Küçük İşletmelere Destek 257
2.24.4. Küçük İşletmeler için Basitleştirilmiş Yönetim Sistemleri 258
2.24.5. Yüksek Riskli Yapay Zekâ Sistemlerinin Gerçek Dünya Koşullarında Test Edilmesi 258
2.24.6. Kişisel Verilerin Kullanımı 258
ÜÇÜNCÜ BÖLÜM AVRUPA KONSEYİ YAPAY ZEKÂ HUKUKUNUN TEMELLERİ VE GELİŞİMİ
3.1. AVRUPA KONSEYİ VE YAPAY ZEKÂ 261
3.1.1. Genel Olarak 261
3.1.2. Bakanlar Komitesinin Belgeleri 262
3.1.3. Parlamenterler Meclisinin Belgeleri 264
3.1.4. İnsan Hakları Komiserinin Belgeleri 265
3.1.5. Yapay Zekâ Üzerine Komiteler 266
3.1.5.1. Yapay Zekâ Ad Hoc Komite (CAHAI) 266
3.1.5.2. Yapay Zekâ Komitesi (CAI) 267
3.1.6. CEPEJ ve Yargı Sistemleri ve Çevrelerinde Yapay Zekânın Kullanımı İçin Bir Avrupa Etik Şartı 267
3.1.6.1. Avrupa Yargının Etkinliği Komisyonu (CEPEJ) 267
3.1.6.2. Yargı Sistemleri ve Çevrelerinde Yapay Zekânın Kullanımı İçin Bir Avrupa Etik Şartı 269
3.2. AVRUPA KONSEYİ YAPAY ZEKÂ, İNSAN HAKLARI, DEMOKRASİ VE HUKUKUN ÜSTÜNLÜĞÜ ÇERÇEVE SÖZLEŞMESİ 272
3.2.1. Genel Olarak 272
3.2.2. Sözleşmenin Hazırlık Süreci ve Kabulü 275
3.2.3. Sözleşmenin Uygulama Alanı ve İlkeleri 277
3.2.4. Sözleşmenin Uygulanması ve İzlenmesi 278
3.2.5. Dikkate Alınan Belgeler 278
3.2.6. Sözleşmeye Yönelik Eleştiriler 279
DÖRDÜNCÜ BÖLÜM İNSAN HAKLARI, DEMOKRASİ VE HUKUKUN ÜSTÜNLÜĞÜ BAĞLAMINDA YAPAY ZEKÂ HAKKINDA AVRUPA KONSEYİ ÇERÇEVE SÖZLEŞMESİNİN ANALİZİ
4.1. SÖZLEŞMENİN AMAÇ VE HEDEFLERİ 284
4.2. YAPAY ZEKÂ SİSTEMİ TANIMI 290
4.3. SÖZLEŞMENİN UYGULAMA ALANI 291
4.3.1. Kamu Makamları veya Onların Adına Hareket Eden Özel Aktörlerin Yapay Zekâ Sistemlerinin Yaşam Döngüsü Çerçevesinde Faaliyeti 292
4.3.2. Yapay Zekâ Sistemlerinin Yaşam Döngüsü Çerçevesindeki Faaliyetlerinden Kaynaklanan Riskler ve Etkileri ile Özel Aktörlerin Diğer Faaliyetleri 292
4.4. MUAFİYETLER 293
4.4.1. Ulusal Güvenlik Çıkarlarının Korunmasıyla İlgili Yapay Zekâ Sistemlerinin Yaşam döngüsü Çerçevesinde Yürütülen faaliyetler 293
4.4.2. Yapay Zekâ Sistemlerine İlişkin Araştırma ve Geliştirme Faaliyetleri, Testler, Benzeri Faaliyetler 294
4.4.3. Ulusal Savunma ile İlgili Konular 294
4.5. TARAF DEVLETLERİN GENEL YÜKÜMLÜLÜKLERİ 295
4.5.1. İnsan Haklarının Korunması 295
4.5.2. Demokratik Süreçlerin Dürüstlüğü ve Hukukun Üstünlüğüne Saygı 297
4.5.3. Yapay Zekâ Sistemlerinin Yaşam Döngüsü Çerçevesinde Yürütülen Faaliyetlere İlişkin İlkeler 302
4.5.3.1. İnsan Onuru ve Bireysel Özerklik 303
4.5.3.2. Şeffaflık ve Denetim 304
4.5.3.2.1. Şeffaflık İlkesi 305
4.5.3.2.2. Denetim İlkesi 307
4.5.3.3. Hesap Verebilirlik ve Sorumluluk 307
4.5.3.4. Eşitlik ve Ayrımcılık Yasağı 309
4.5.3.5. Mahremiyet ve Kişisel Verilerin Korunması 313
4.5.3.6. Güvenilirlik 316
4.5.3.7. Güvenli İnovasyon (Yenilikçilik) 318
4.5.4. Hukuki Yollar 320
4.5.5. Usuli Garantiler 324
4.5.5.1. İnsan Kontrolü 324
4.5.5.2. Bir İnsanla Etkileşimde Bulunmadığına İlişkin Bilgilendirilme 325
4.5.6. Risk ve Etki Yönetim Çerçevesi 326
4.5.6.1. Risk Temelli Yaklaşım 326
4.5.6.2. İnsan Hakları Etki Analizi 329
4.5.6.3. Kabul Edilemez Risk Taşıyan YZ sistemleri 330
4.5.7. Sözleşmenin Uygulanmasında Ayrımcılık Yapılmaması 331
4.5.8. Engelli Kişilerin ve Çocukların Hakları 333
4.5.9. Kamu İstişaresi 334
4.5.10. Tanınan İnsan Haklarının Korunması 334
4.5.11. Daha Geniş Koruma 335
4.5.12. İzleme Mekanizması: Taraflar Konferansı 335
4.5.13. Uluslararası İşbirliği 338
4.5.14. Etkili Denetim Mekanizmaları 339
4.5.15. Sözleşme ve AB Hukuku 340 SONUÇ 341
EKLER 347
EK 1 : AVRUPA BİRLİĞİ YAPAY ZEKÂ YASASI (İçeriği) 347
EK 2: AVRUPA KONSEYİ YAPAY ZEKÂ VE İNSAN HAKLARI, DEMOKRASİ VE HUKUKUN ÜSTÜNLÜĞÜ ÇERÇEVE SÖZLEŞMESİ (Tam Metin) 352
EK: 3
YAPAY ZEKÂ HAKKINDA OECD KONSEY TAVSİYESİ 363
KAYNAKÇA 369 YAZARIN YAYINLANMIŞ KİTAPLARI 373