Kim Korkar Yapay Zekâ’dan?
Dostlar; gün geçmiyor ki yazılı veya görsel basında, kitaplarda, dergilerde veya sosyal medyada, podcastlar veya videolarda, Yapay Zekâ haberleriyle karşılaşmayalım. Son zamanlarda sohbet robotları(1) teknolojisindeki müthiş ilerlemeler, Yapay Zekâ tartışmalarını ayyuka çıkardı.
Ortada dolaşan haberlerin bir kısmı Yapay Zekâ (YZ) (2) hakkında pembe tablolar çizerken, bir diğer kısmı şeamet tellallığı yapmaktadır: insanlık üzerine egemenlik kurmaktan sahte haberler üretmeye, neoliberal düzene arka çıkmaktan milyonlarca emekçiyi işinden etmeye, YZ-askerlerinden sinsi silahlar yaratmaya kadar, âdeta kıyamet gününün kapıya dayandığı duyurulmaktadır. Bu arada komplo teorileri de gırla gitmektedir.
Ne düşünmeli?
Konu hayli kapsamlı; bu yazı ile sadece birkaç başlığa değinmek isterim...
Yeni teknolojiler, yeni endişeler
Tarih boyunca her dönüştürücü teknoloji bir umut kaynağı olduğu kadar, bir korku unsuru da olmuştur: tren ve demir yollarının ortaya çıkışı, telgrafın ve daha sonra telefonun icadı, nükleer enerji, genetik mühendisliği... Endişe yaratmak bakımından, YZ farklı değil. Yaşadığımız bilişim çağında, yeni teknolojiler eskiye nazaran çok daha hızlı yayıldığından, toplumsal etkiler de tez katlanıp artabiliyor. Telefon, icadından ancak on yıllar sonra geniş çapta benimsendi, fakat bilgisayarlar on yıl gibi kısa bir süre içerisinde yaygınlık kazandı, akıllı telefonlar ise sadece birkaç yıl içinde. YZ uygulaması ChatGPT, kasım 2022'de kullanıma açıldı ve beş gün içerisinde 1 milyon kullanıcıya ulaştı; bu sayı ocak 2023’te 57 milyon, şubat 2023’te ise 100 milyona yükseldi. Bu üstel artış, kamuoyunda YZ ile ilgili endişelerin patlamasında katalitik bir rol oynadı
YZ, tıpkı genetik bilimi ya da evrim kuramı gibi, beşeri değerlerimizi sorgulamamıza yol açıyor, bizleri ateşle mi oynuyoruz sorusuyla karşı karşıya bırakıyor. Goethe’nin ünlü Sihirbazın Çırağı şiirinde olduğu gibi, henüz hâkim olmadığımız konuları kurcalayarak felaketlere kapı mı açıyoruz sorusunu doğuruyor.
Harika bir teknoloji ama...
Kimi yorumcular, YZ’nın Sanayi Devrimi veya Elektrik Devrimi niteliğinde bir devrim olduğunu ileri sürdü. Bu tür iddialar için henüz erken olsa gerek, zamanla göreceğiz. Ancak şu hâliyle bile, YZ’nın muazzam olanaklar sunduğuna dair şüphe yok: bilişimden finansa, taşımacılıktan sağlığa, çevirmenlikten gazeteciliğe, eğitimden sanata, insan faaliyetinin âdeta her alanında dönüştürücü bir etken olacaktır. Anında düşünce yaratabilen, akılsal yeteneklerimize meydan okuyan YZ’nın olumlu yönlerini saymakla bitmez, ama gelin burada madalyonun diğer yüzüne göz atalım...
İlk önce, tüm YZ ürünleri gibi sohbet robotlarının da %100 güvenilir olmadıklarına, sundukları bilgiye körü körüne inanılmaması gerektiğine dikkat çekelim. Bu bilgilerin sorgulanması ve denetlenmesi, kullanıcının sorumluluk alanına giren görevlerdir. Bu yüzden sohbet robotlarını, çeşitli entelektüel faaliyetlerimizde bizlere destek olan, zihinsel kapasitemizi artıran, yardımcı araçlar olarak görmeliyiz. Öte yandan birtakım sıradan görevlerde, sohbet robotlarının insanların yerini alması kaçınılmaz görünüyor, zaten hâlihazırda almaya başladı bile: örneğin Goldman Sachs yaklaşık 600 borsa çalışanını YZ destekli robotlarla değiştirdi; birçok şirketin müşteri hizmetleri işlerinin büyük bir kısmı artık chatbotlar tarafından gerçekleştiriliyor vs...
İkinci nokta olarak, YZ sohbet robotlarının, tasarım süreçlerinde öngörülmemiş davranışlarda bulunabildiklerini belirtelim. Adına emergent properties denilen bu tür davranış özellikleri, kullanılan modellerin parametre sayısının son derece büyük olmasından kaynaklanmaktadır: GPT4 modeli bağlamında bu sayının trilyon (!) mertebesinde olduğu söyleniyor. Dolayısıyla her bir parametrenin etkisi ayrı ayrı bilinse dahi, birçok parametrenin birleşik etkisinin ne olacağını tahmin etmek mümkün olmayabiliyor. (Aynı kavram, biyolojik sistemlerde de mevcuttur.) Bu durumu: ‘Bütün, parçaların toplamından daha büyüktür’ vecizesi ile özetleyebiliriz.
Vurgulanması gereken bir diğer nokta ise, YZ destekli robotların kararlarındaki olası tarafgirliktir. Bu husus, ağırlıklı olarak, programın ne tür bir veri kümesi kullanılarak eğitilmiş olmasıyla ilintilidir(3). Örneğin günümüzde firmalar, işe alım süreçlerini gitgide YZ yazılımlarına emanet etmektedirler (CV-scanning, en azından ilk dosya eleme aşamasında kullanılan bir yöntem. Bankalar da, kredi kararlarını bu tür yazılımlara devretmekteler, vs). Bu yaklaşımın doğurabileceği sorunlar çok açık: programın eğitim safhasında kullanılan veri kümesi, erkek-kadın veya etnisite ayrımcılığı doğurabilecek unsurlar içeriyor mu? Başvuruda bulunan kişinin engelli veya düşük gelirli bir mahallede oturuyor oluşu, programın kararını nasıl etkileyecek? Örneğin bazı sınavlarda, mülakatın yerini bir YZ programı aldığında, programın, adayların dinî tercihlerini belirleyip, ona göre karar vermeyeceğinden emin olabilir miyiz? Programın siyasi tutumu nedir?... YZ sohbet robotlarının daha birçok olumsuz yönünü sayabiliriz.
Güvenilir Yapay Zekâ Nasıl Oluşturulabilir?
Bu soruya cevaben birçok önlem düşünülebilir (örneğin, YZ sistemlerinin kod yapısı ve eğitim süreçlerininin şeffaf hâle getirilmesi; geliştiricilerin, uygulamaların tam amaçlandığı gibi çalıştığından, ayrıca insani ilke ve değerlere saygılı olduğundan emin olmaları; bir YZ sistemi tarafından üretilen her sonucun yeniden üretilebilir olmasının sağlanması,...). Ama bu önlemlerin başında, elbette yasal düzenlemeler geliyor, ki benzerleri, genetik mühendisliği, İnternet, nükleer silahlar gibi başka teknolojik alanlarda hâlihazırda mevcut. Birçok ülkede, YZ ile ilgili yasal çerçeve oluşturulması konusunda adımlar atılıyor. Örneğin Avrupa Birliği YZ Düzenlemesi (European Union AI Act), YZ uygulamalarına ilişkin birçok sınırlama getiriyor (henüz kanunlaşmış değildir). OECD ülkeleri veya UNESCO, benzer tavsiyeler yayımladı. Bu tür talimatların giderek artacağı kesin, fakat sakıncalı (örneğin askerî) araştırmaların önüne geçmeyi mümkün kılacaklarını düşünmek, acaba fazla saf bir beklenti mi? Mart 2023 itibarıyla, 1000'den fazla teknoloji lideri ve araştırmacı, büyük YZ sistemlerinin geliştirilmesine yönelik bir moratoryum çağrısında bulunan açık bir mektuba imza attı: karşılık görecek mi?...
YZ sohbet robotları—en azından şimdilik—son derece yüksek maliyetli bir teknolojik alan oluşturduğu için, sadece az sayıda şirket yatırım yapabilmekte ve araştırma-geliştirme faaliyeti yürütebilmektedir. Dolayısıyla teknolojiyi üreten firma sayısının sınırlı olması, denetimleri bir ölçüde kolaylaştıran ve güvenliği artıran bir diğer faktör olarak görülebilir. Ancak, basit bir kaynak kodundan başlayarak, kendi kodunu değiştirecek ve eğitecek kadar akıllı olan ve her seferinde daha da akıllanan bir ‘süper YZ’ hayal etmek fazla mı abartılı olur?
Hissedebilen makineler?
ChatGPT gerçekten düşünme yetisine sahip mi? Önemli bir soru elbette ancak yanıtı, düşünmeyi tam olarak nasıl tanımladığımıza bağlı. Bir makinenin düşünebildiğini söyleyebilmemiz için Turing Testi’ni geçmesi yeterli mi? Yoksa, Çince Odası Argümanı’nda kanıtlanmaya çalışıldığı gibi, insan zihninin bir bilgisayar benzeri hesaplama veya bilgi işleme sistemi olmadığı, zihninsel gücümüzün aslında karmaşık biyolojik süreçlerin bir ürünü olduğu ve bilgisayarların en iyi ihtimalle bu süreçleri taklit edebileceğini mi varsaymalıyız? GPT doğal dil modelleri, adına ‘Yapay Sinir Ağları’ denilen mimarileriyle insan beynine bir şekilde öykünseler de, insan beyni, katbekat daha karmaşık yapısal özellikler içerir ve çok farklı çalışır (örneğin sohbet robotlarının dayandığı back propagation benzeri algoritmaları kullanmaz). Sanırız bu konuda tatmin edici açıklamalara, ancak nöro-bilimlerin beyin ve düşünme muammasını çözdükten sonra ulaşacabileceğiz.
Düşünmek veya akıl yürütmek bir yana, makinelerin asla sahip olamayacağı, insanlar olarak salt bizlere özgü niteliklerin var olduğunu ileri sürmekten hoşlanırız: duyumsamak, umut etmek, heyecanlanmak, yaratmak, hayal etmek... Kaldı ki tarih boyunca, bir eşref-i mahlukat olduğunu iddia eden insanoğlu, kendini alçakgönüllülüğe zorlayan bir dizi deneyimler yaşadı: Dünya’nın, güneş sisteminin merkezi olmadığı (Kopernik, 1543), güneş sisteminin evrenin merkezi olmadığı (Galileo, 1609), insanoğlunun yaratılışın merkezi olmadığı (Darwin, 1859) gibi gerçeklerle yüzleşmesi gerekti. Dolayısıyla duyumsama ve hayal etme gibi yetilerinin de merkezinde olmadığımızı, benzer melekelere bir gün bilgisayarların da--akıl yürütmenin ve düşünmenin yanı sıra--sahip olacaklarını ileri sürmek aşırı bir iddia mı olur? Stanley Kubrick’in 2001: A Space Odyssey filmindeki düşünen, hisleri olan, bağımsız karar verebilip dile gelen HAL isimli bilgisayar bir gün gerçek olacak mı? Yaratıcılık ve imgelem gücünün salt biz insanlara özgü olduğu düşüncesine sarılsak dahi, Yapay Genel Zekâ’nın, insanlığımızın bu son kalesini de bir gün ele geçireceği ihtimal dışı mıdır?
Kaldı ki bir YZ bilgisayar programının ‘boyadığı’ bir tablo, sizi ne kadar heyecanlandıracaktır? Bir robot kuartetinin çaldğı müziği, iliklerinizde duyabilecek misiniz? Bir programın yazdığı roman—arkasında gerçek bir insanın acıları, hisleri ve umutları bulunmayan bir eser—gözlerinizi yaşartabilecek mi?
___________________
(1) Sohbet robotu, namıdiğer chatbot, kullanıcının sorularını yanıtlamak ya da komutlarını yerine getirmek için, insan konuşmalarını taklit eden bir bilgisayar programıdır. ChatGPT, bu teknolojinin en yeni ürünlerinden biridir.
(2) Yapay Zekâ (Artificial Intelligence, AI), makinelerin (bilgisayarların diye okunabilir) genellikle zeki varlıklarla ilişkilendirilen belirli (sınırılı) görevleri yerine getirme yeteneğidir. Günümüzde sıklıkla bahsedilen Yapay Genel Zekâ (Artificial General Intelligence, AGI) ise, makinelerin bir insanın yapabileceği herhangi bir entelektüel görevi öğrenme ve icra etme yeteneğinidir. GPT4 dil modeline dayanan ChatGPT’nin bir (erken) Yapay Genel Zekâ örneği olup olmadığı konusu henüz tartışmalı.
(3) Bebekler ile olduğu gibi sohbet robotlarına da konuşmayı, cümle kurmayı öğretmek gerekiyor. Bu amaçla, tasarım aşamasında, programa çok büyük miktarda metin sunulur (bilumum internet web sayfaları, makaleler, kitaplar, raporlar vs). Tüm bu metinleri inceledikten sonra program, bir ‘dil modeli’ oluşturur; örneğin hangi kelimeden sonra (belli bir olasılıkla) hangi kelime veya kelimelerin gelebileceği konusunda bilgi edinir. Biraz farklı söylersek, büyük bir veri kümesi kullanılarak sohbet robotu ‘eğitilir’ ve sonuç olarak kelimelerin sırası hakkında ‘öngörücü modeller’ oluşturur. Bu modeller Türkçe veya İngilizce gibi belli bir dile özgü olup, dilden dile değişir. Öğretme/eğitme veri kümesi ne kadar büyükse, programın öngörü gücü de o kadar artabilir. İşte böylece sohbet robotu, insan gibi cümleler kurmada, inanılmaz derecede uzun ve ‘akıllı’ açıklamalar yapmak noktasında şaşırtıcı bir perfomans sergileyebilir.