Yapay zeka ve politika yapımı arasındaki etkileşim bazen beklenmedik sonuçlar doğurabiliyor, Alaska’daki son gelişmeler de bu durumu gözler önüne seriyor.
Alaska’da yaşanan olayda, milletvekilleri, okullarda cep telefonları kullanımını yasaklamayı önerirken, yanlış yapay zeka tarafından üretilen alıntılara başvurdular. The Alaska Beacon tarafından bildirilen haberlere göre, Alaska Eğitim ve Erken Gelişim Departmanı (DEED), var olmayan akademik çalışmalara referans veren bir politika taslağı sundu.
Bu durum, Alaska Eğitim Komiseri Deena Bishop’un, cep telefonu yasağına dair bir taslak hazırlamak için yapay zekadan yararlanmasıyla başladı. Yapay zeka tarafından oluşturulan taslak, doğrulanmamış ve hatalı akademik alıntılar içeriyordu, ancak AI kullanımının yalnızca hazırlık aşamasında olduğu belirtilmedi. Bazı yapay zeka içerikleri, gözden geçirilmeden önce Alaska Devlet Eğitim ve Erken Gelişim Kurulu’na iletildi ve bu durum, kurulun tartışmalarını olumsuz şekilde etkileyebilirdi.
Komiser Bishop, AI’nin yalnızca “alıntı üretmek” amacıyla kullanıldığını ve toplantı öncesinde hataların düzeltildiğini, güncellenmiş alıntıların kurul üyelerine gönderildiğini açıkladı. Ancak, AI’nin ürettiği “halüsinasyonlar”—yapay zekanın, doğruluğu kontrol edilmemiş ancak mantıklı görünen içerikler üretme eğiliminde olduğu—hala kurul tarafından oylanan son belgede yer alıyordu.
Sonuç olarak, DEED’in web sitesinde yayımlanan nihai karar, departmanın okullarda cep telefonu kısıtlamaları için bir model politika oluşturması yönünde bir öneri sundu. Ancak, belgede altı alıntı yer alıyordu ve bunlardan dördü saygın bilimsel dergilerden alınmış gibi görünüyordu. Fakat bu alıntılar tamamen uydurulmuştu ve bağlantılar, alakasız sayfalara yönlendiriliyordu. Bu olay, özellikle politika yapımı sırasında, doğru insan doğrulaması yapılmadan yapay zeka verilerine güvenmenin risklerini gözler önüne seriyor.
Alaska’daki durum, tek bir örnek değil. Yapay zeka halüsinasyonları, birçok sektörde giderek daha yaygın hale geliyor. Örneğin, bazı hukuk profesyonelleri, mahkemelerde yapay zeka tarafından üretilen, uydurulmuş dava alıntıları kullandıkları için sonuçlarla karşılaştılar. Benzer şekilde, yapay zeka ile oluşturulmuş akademik makalelerde çarpıtılmış veriler ve sahte kaynaklar bulunmuş, bu da ciddi güvenilirlik sorunlarına yol açmıştır. Yapay zeka algoritmalarının doğruluk yerine desenlere dayalı içerik üretme eğilimleri, kontrolsüz bir şekilde çalıştığında yanıltıcı alıntılar üretmesine neden olabilir.
Eğitim gibi hassas alanlarda, özellikle politika yapımında, yapay zeka tarafından üretilen verilere güvenmek büyük riskler taşır. Uydurulmuş verilere dayalı olarak oluşturulan politikalar, kaynakların yanlış tahsisine yol açabilir ve öğrenciler üzerinde olumsuz etkiler yaratabilir. Örneğin, sahte verilere dayalı bir cep telefonu yasağı, öğrenciler için daha faydalı olabilecek kanıta dayalı politikaların önünü kesebilir.
Ayrıca, doğrulanmamış yapay zeka verilerinin kullanılması, hem politika yapma sürecine hem de yapay zeka teknolojisinin güvenilirliğine olan kamu güvenini sarsabilir. Bu tür olaylar, özellikle öğrenciler gibi büyük etkileri olabilecek grupları hedefleyen kararlar alırken, yapay zeka kullanımında doğrulama, şeffaflık ve dikkatli yaklaşımın önemini vurgulamaktadır.
Alaska yetkilileri, durumu küçümseyerek uydurulmuş alıntıları “yer tutucular” olarak tanımladılar. Ancak, “yer tutucularla” hazırlanan belge yine de kurulun önüne sunuldu ve oylama için temel alındı. Bu durum, yapay zeka kullanımında dikkatli ve titiz denetimlerin gerekliliğini bir kez daha gösteriyor.
