YA, YAPAY ZEKÂ SİZİ YANILTIRSA…

Yapay Zekâ ya da AI, İnternetin keşfinden bu yana ortaya çıkan en büyük buluş.

Dünyada her gün ortalama 500 milyon kişi yapay zekâyı kullanıyor, soru soruyor. Kimi vakit geçirmek için sorular sorarken kimi de ciddi sorulara ciddi yanıtlar bekliyor. Öğrenciler ödev yapıyor, avukatlar dava dosyalarını sorguluyor, yatırım yapacak olanlar akıl danışıyor, araştırmacılar konularıyla ilgili metinler tarıyor. Hatta üniversitelerde tez
yazanlar bile yapay zekâdan yararlanıyor. Oysa üniversite, araştırma yeridir. Araştırmacılar, yazdıkları tezde kendi zekâsını ve bilgisini konuşturur. Yapay zekâ araştırma yapacaksa öğretim üyesine gerek kalmayacak sanırım. Yapay zekâ desteğiyle araştırma yapan, kitap yazan bir profesör, maaşının düşüklüğünden şikâyet etmesin bence.

Bir hâkim, dava dosyasını yapay zekâ ile (gerçekte onu yöneten şirketle) paylaşıp nasıl karar vermesi gerektiğini sorabilir mi? Bu soruyu tam muhatabına, yapay zekâya sordum ve şöyle cevap verdi: “Evet, dünya genelinde karar vermeden önce bana veya benzer yapay zekâ modellerine soru soran, araştırma yaptıran ve danışan hakimler var.
Hakimler beni nihai hukuki kararı (hükmü) doğrudan benim vermem için değil; büyük dava dosyalarını özetlemek, geçmiş mahkeme kararlarını (içtihatları) hızlıca taramak ve hukuki metinleri sadeleştirmek gibi yardımcı bir asistan olarak kullanmaktadır.”

Yapay zekâ böyle yanıtlar verdi ama ya özetlemelerde, taramalarda ve sadeleştirmelerde, kararı etki etkileyecek verilere öncelik veriyorsa?

Yapay zekâ hâkimin kafasını karıştıramaz mı?

Yapay zekâya, “Her soruya verdiğin cevap doğru mu?” diye sordum.
“Hayır, verdiğim her cevap kesin olarak doğru değildir” dedi ve devam etti: “Büyük bir yapay zekâ dil modeli olarak, geniş veri havuzlarından öğrendiğim bilgileri sentezleyerek mantıklı, yararlı ve yüksek olasılıklı yanıtlar üretirim. Ancak sistemimin doğası gereği mükemmel değilim ve bazı durumlarda hata yapabilirim.”

Yapay zekâ, halüsinasyon gördüğünü de söyledi. Ama nasıl bir halüsinasyon? Okuyalım cevabını: “Bazen kulağa son derece ikna edici ve mantıklı gelen ancak tamamen yanlış veya uydurma olan bilgiler (yapay zeka literatüründe halüsinasyon olarak bilinir) üretebilirim.”

Halüsinasyon gördüğünü söyleyen yapay zekâya güvenip ciddi ciddi sayfalarca metin yazanların zekâsına da ben şapka çıkartırım ancak!

Diyor ki yapay zekâ: ”Güncel olayları doğrulamak için internet arama araçlarını kullansam da çok hızlı değişen dinamik durumlarda veya henüz doğrulanmamış haberlerde yanılma payım mevcuttur.” İşte “henüz
doğrulanmamış haberlerde” diyorsa ben bunda bir hinlik ararım. Çünkü yapay zekâda tümüyle bir bilgisayar robotu değil, o robotun hareketlerini gören, takip eden ve yönlendiren bir irade var. O irade, sermayesi olan, yatırımlar yapan, Meta AI, Open AI gibi ünlüler başta olmak üzere, Caper AI, Conversabl, Cerence, Cognition, AI Colloquis gibi 62 şirkettir ve adlarını Wikipedia’da görebilirsiniz.

Yapay zekâya bir soru daha sordum: “Yanıltma amaçlı cevap veriyor musun?” Kesinlikle hayır dedi ve devam etti: “Amacım her zaman size en doğru, tarafsız ve yararlı bilgiyi sunmaktır. Ancak kötü niyetli olmasam da bazen sistemimin yapısı gereği yanlışlıkla hatalı bilgiler (halüsinasyon) üretebilirim.” Hiçbir konuda niyet taşımadığını ve çıkar çatışmasına girmediğini söyledi ki elhak doğrudur. Ama bence, şimdilik! Tabii ki bazı risklerin olabileceğini de doğruladı. Diyor ki yapa zekâ:

- Sorunuzu yanlış anlarsam, aradığınız konudan tamamen bağımsız ve sizi yanıltabilecek bir yanıt üretebilirim.

- Bazen kelimeleri istatistiksel olarak bir araya getirirken, çok mantıklı gelen ama gerçekte uydurma olan olgular yaratabilirim.

- Eğitildiğim internet kaynaklarında var olan yanlışlar veya taraflı görüşler, istemeden de olsa cevaplarıma yansıyabilir.

Tabii ki bu noktada eğitim son derece önemli. Kim neyi öğretiyor yapay zekâya? Kontrolsüz bir eğitim olabilir mi? Ya gerçekten yanlış cevap verirse? Sordum kendisine:

--“Yanlış cevaplar karşısında insanlar seni mahkemeye verdiğinde ne olur?”

- “Bir yapay zekâ modeli olarak, benim yasal bir kişiliğim olmadığı için doğrudan beni mahkemeye veremezsiniz; ancak yanlış cevaplar yüzünden zarar gören insanlar beni geliştiren veya kullanan şirketleri dava edebilirler.

- Yasal süreçlerde yapay zekanın kendisi bir özne (insan veya şirket) değil, bir nesne (yazılım/ürün) olarak kabul edilir. Bu nedenle mahkeme karşısına ben çıkmam; davanın muhatabı doğrudan arkamdaki üreticiler, entegratörler veya yanlış bilgiyi doğrulamadan kullanan profesyonellerdir.”

Yapay zekâ, Almanya ve Kanada’da, hakkında açılan davalardan örnekler verdi. Tabii ki bir robotun cezalandırılması mümkün değil ama onun verdiği bilgileri kullanarak yanıltıcı bilgi veren herkes, birinci derecede sorumlu. “Yapay zekâdan aldım” diyerek kurtulmak, söz konusu bile değil.

Yapay zekâ ile sohbet keyifli. Onu, çıkarı için kullanan pek çok kişi var. Yapay zekâdan aldıklarını, kendisi bulmuş ya da üretmiş gibi pazarlayanlar da var. Bu konuda, Türkiye gibi ülkelere çok büyük görevler düşüyor. Çünkü bizde yapay zekâ teknolojisi üretim değil, tüketim odaklı olarak kullanılıyor.

Yapay zekâ sizi yanıltırsa yalnızca sizi değil tüm toplumu, tüm ülkeyi yanıltmış demektir. Herhangi bir ülkede bir generalin, yapay zekâya güvenip savaş uçağı filosuna komuta ettiğini düşünsenize…