Bir polis memuru yapay zekâ kullanarak delil üretti

Birleşik Krallık, yapay zekâ çağının en endişe verici emsallerinden biriyle karşı karşıya kaldı. Derbyshire’daki bir polis memuru, mahkeme davalarının sonucunu etkileyebilecek materyaller oluşturmak için yapay zekâ kullandığı iddiaları üzerine görevden uzaklaştırıldı ve hakkında ceza soruşturması başlatıldı. Şimdi, ağır suçlara ilişkin daha önce verilmiş kararlar bile incelemeye alındı.

Ne oldu

Britanya basınındaki haberlere göre, Derbyshire polisi mensubu bir görevli, çeşitli ceza davalarında sözde «delil materyalleri» hazırlamak için üretken yapay zekâ kullandığından şüpheleniliyor. Soruşturma, Birleşik Krallık yargı sistemine karşı en ciddi suçlardan biri olan adaleti engelleme ihtimalini değerlendiriyor.

Memur hâlihazırda operasyonel görevden uzaklaştırılmış durumda. Adı açıklanmıyor ve soruşturma polis ile Kraliyet Savcılık Servisi (CPS) tarafından ortaklaşa yürütülüyor. Şu ana kadar herhangi bir gözaltı yapılmadı, ancak kolluk kuvvetleri dosyanın erken aşamada olduğunu ve ciddi sonuçlar doğurabileceğini kabul ediyor.

Gerçek mahkeme kararları tehlikeye girdi

En dikkat çekici gelişme, Britanya makamlarının, şüpheli dedektifin yer aldığı birkaç tecavüz davasını yeniden incelemeye başlamasıyla ortaya çıktı. Soruşturmaya yakın kaynaklara göre, polis memurunun yapay zekâya belgeleri mümkün olduğunca savcılığın tezini destekleyecek şekilde düzenlemesi için komutlar verdiği iddia ediliyor.

İhtilaflı belgeler arasında şunlar yer alıyor:

— suçun mağdurlar üzerindeki etkisine ilişkin beyanlar;

— savcılar için analitik notlar;

— suçlama kararı verilmesi için hazırlanan materyaller.

Bu iddialar doğrulanırsa, artık mesele yalnızca teknolojinin dikkatsiz kullanımı değil, bir algoritma yardımıyla kasıtlı olarak suçlayıcı pozisyonu güçlendirme girişimi olacak.

Britanya tarihinde ilk benzer vaka

Uzmanlar, soruşturmayı Birleşik Krallık’ta bir polis memurunun yapay zekâ yardımıyla delil oluşturmakla suçlandığı bilinen ilk vaka olarak nitelendiriyor.

Özellikle kaygı verici olan, olayın Britanya polisinin çalışmalarına yapay zekâ entegrasyonu için oluşturulan ulusal PoliceAI merkezinin faaliyete geçmesinden yalnızca birkaç gün sonra yaşanmış olması. Merkez yönetimi, güvenilir denetim mekanizmaları oluşturulana kadar bazı birimlere mahkeme belgeleri hazırlarken üretken yapay zekâ kullanımından geçici olarak vazgeçmeleri yönünde tavsiyelerde bulunulduğunu açıkladı.

Sorun göründüğünden daha derin

Skandal, yapay zekânın sözde «halüsinasyonları» yani sinir ağının yanlış bilgiyi güvenle doğruymuş gibi sunması konusundaki artan endişeler eşliğinde patlak verdi.

Daha önce Britanya’da, yapay zekânın var olmayan içtihatları hatta kurgusal olayları uydurduğu yüksek profilli vakalar yaşanmıştı. Yakın zamanda yaşanan olaylardan biri, polisin hiç var olmamış bir futbol maçına ilişkin bilgileri kullanmasına yol açtı; çünkü bu veriler bir sinir ağı tarafından üretilmişti.

Ancak mevcut soruşturma çok daha ciddi kabul ediliyor. Daha önce mesele ihmal ve verilerin yeterince kontrol edilmemesi iken, şimdi araştırmacılar olayların istenen bir versiyonunu oluşturmak için yapay zekânın kasıtlı biçimde kullanılma ihtimalini inceliyor.

Neden tüm dünya için önemli

Derbyshire’daki bu hikâye, Birleşik Krallık’ın çok ötesindeki kolluk kuvvetleri için bir uyarı niteliği taşıyor. Daha fazla ülke, yapay zekâyı soruşturmalara, belge analizine ve şüpheli tespitine entegre ediyor. Ancak teknolojinin imkânları genişledikçe, kötüye kullanım riski de artıyor.

Hukukçular, geleneksel adalet sisteminin delillerin güvenilirliği ve kaynaklarının doğrulanabilmesi ilkesi üzerine kurulu olduğuna dikkat çekiyor. Üretken yapay zekâ sürece dahil olduğunda, gerçekler ile makinenin kurgusu arasındaki sınırı belirlemek çok daha zor hale geliyor.

Şimdi Britanyalı soruşturmacılar, kısa süre önce bilim kurgu konusu gibi görünen şu soruya yanıt arıyor: Ceza davasındaki delilleri bir insan değil de bir algoritma yazdıysa ne yapılmalı?

Ve bu sorunun yanıtı, yapay zekâ çağında yargı sistemine duyulan güveni belirleyebilir.