Giriş
Kamu kurumları hizmet sunumunda yapay zekâ destekli algoritmalar kullanmaya başladıkça şeffaflık ve hesap verebilirlik tartışmaları merkezî önem kazanmıştır. Algoritmik kararlar doğrudan bireylerin sosyal faydalarına, haklarına ve yükümlülüklerine etki edebilir. Bu yüzden idare hukukunun denetim ve şeffaflık ilkeleri algoritmik uygulamalara uyarlanmalıdır. Yazar: Av. Burak Şahin, Şahin Hukuk.
Algoritmik Şeffaflığın Hukuki Temelleri
Şeffaflık idare hukuku açısından bilgi edinme hakkı, hakkaniyet ve denetlenebilirlik ilkeleriyle doğrudan ilişkilidir. Algoritmanın işleyişine dair makul düzeyde bilgi sağlanması, kişisel verinin nasıl kullanıldığının açıklanması ve karar süreçlerinin temel gerekçelerinin erişilebilir olması beklenmelidir. Ancak açıklanabilirlik ile ticari sırlar arasında bir denge kurulmalıdır.
Denetlenebilirlik ve Bağımsız Mekanizmalar
Denetlenebilirlik, hem teknik hem de hukuki araçları gerektirir. Teknik olarak erişim logları, model sürüm kontrolü, veri kaynaklarının dokümantasyonu ve algoritmik etki değerlendirmeleri temel gerekliliklerdir. Hukuki olarak ise bağımsız denetim kurumlarına erişim, idari yargı denetimi ve gerektiğinde bilirkişi incelemesi mekanizmaları güçlendirilmelidir.
Algoritmik Etki Değerlendirmesi
Kamu kurumları önemli kararlar üreten algoritmalar için etki değerlendirmesi yapmalı; bu değerlendirme riskleri, muhtemel ayrımcılığı ve veri güvenliği etkilerini içermelidir. Etki değerlendirmesi sonuçları halka açık olmalı ve denetime konu olabilecek şekilde saklanmalıdır.
Kamu Alımlarında Sözleşmesel ve Teknik Önlemler
Kamu kuruluşları AI tedarikçileriyle sözleşme yaparken aşağıdaki hususları zorunlu kılmalıdır:
- Denetim ve erişim hakları: Bağımsız denetçiler için kaynak kod veya çalışma örneklerine sınırlı erişim imkanları.
- Veri ve model sahipliği: Eğitim verilerinin kökeni, güncelleme tarihlerive model değişiklikleri sözleşmede düzenlenmelidir.
- Hataların raporlanması ve düzeltme süreçleri: Yanlış kararların tespiti ve düzeltilmesi için net prosedürler bulunmalıdır.
Vatandaş Hakları ve Başvuru Mekanizmaları
Algoritmik kararların muhatabı olan vatandaşlar için erişim, itiraz ve tekrar incelenme hakları sağlanmalıdır. İdare kararlarında olduğu gibi, algoritmik önerilerde de gerekçe bildirimi ve itiraz imkânı temel haklardandır. İdare tarafından verilen kararlarda insan incelemesinin varlığı ve gerekçelendirme zorunluluğu korunmalıdır.
Pratik Başvuru Önerileri
- Kurumun algoritma kullanımına ilişkin politika ve etki değerlendirmelerini talep etme.
- Karar gerekçesinin açıklanmasını isteme ve idari itiraz yollarını kullanma.
- Gerekirse bağımsız denetim talep etme veya idari yargıya başvurma.
Karşılaşılan Zorluklar ve Dengelenmesi
Şeffaflık talepleri ile tedarikçilerin ticari sırlarını koruma ihtiyaçları arasında bir gerilim vardır. Bu gerilimi yönetmek için tarafsız üçüncü taraf denetimleri, kısıtlı erişim protokolleri ve anonimleştirilmiş veri incelemeleri kullanılabilir. Ayrıca, teknik açıklamalar herkes tarafından anlaşılmayabileceği için özet, anlaşılır ve hukukî açıdan anlamlı raporlar hazırlanmalıdır.
Sonuç
Kamu hizmetlerinde algoritmik şeffaflık ve denetlenebilirlik, demokratik hesap verebilirliğin bir uzantısıdır. Türkiye bağlamında idari yapıların, denetim mekanizmalarının ve başvuru yollarının güçlendirilmesi gerekir. Kamu alımlarında sözleşmesel hükümler, etki değerlendirmeleri ve bağımsız denetimler pratiğe geçirilmeli; vatandaşların erişim ve itiraz hakları etkin biçimde korunmalıdır. Şahin Hukuk, kamu kurumları ve sivil toplum kuruluşlarına bu alanlarda hukuki değerlendirme ve uyum danışmanlığı sunmaktadır. Av. Burak Şahin
Bu yazı genel hukuki bilgilendirme ve değerlendirme amacıyla hazırlanmıştır. Somut uyuşmazlıklar güncel mevzuat ve olayın özellikleri dikkate alınarak ayrıca değerlendirilmelidir.
