Düşünce Temsilsizliği: Yapay Zekâ Çağında Kimin Fikri?

Satırbaşları:

• Bir kişi, oluşumunda yer almadığı bir düşüncenin sahibi gibi görünebilir mi?
   
• Düşünmeden temsil etmek, yapay zekâ çağında akademinin yeni sorusu haline geliyor.
   
• Her soruya anında cevap alabiliyorsun ama cevapların doğru olduğundan emin olamıyorsun.

Yapay zekâ artık yalnızca metin üreten bir araç değil; kimi zaman düşünmenin, öğrenmenin ve akademik emeğin kendisini dönüştüren bir güç. Bu söyleşide Güven Güzeldere ile yapay zekâ çağında fikrin kime ait olduğunu, öğrenme kavramını, düşünceyi temsil etmek ile düşünmeden temsil etmek arasındaki farkı ve akademinin karşı karşıya kaldığı yeni etik soruları konuştuk.

U.P.:Antroposen Sohbetler’e hoşgeldiniz, ben Utku Perktaş. Bugün programda çok kıymetli arkadaşım, sevgili Güven Güzeldere var. Aslında aynı radyoda farklı programlar yapıyoruz. Güven Güzeldere, Açık Bilinç programını hazırlayıp sunuyor. Aynı zamanda Harvard Üniversitesi akademisyenlerinden. Bugün kendisini programda ağırladığım için kendimi çok şanslı hissediyorum.

Bu, Güven’le yaptığımız ikinci program olacak. Eksik olmasın, davetimi kabul etti. Bugün yapay zekâ üzerine konuşacağız. Yapay zekâyla ilgili bir süredir benim de aklımda olan bazı meseleler vardı; özellikle üniversitede yaşadığım süreçlerden ve öğrencilerle karşılaştığım deneyimlerden yola çıkarak. Bunları Güven’e açmıştım. Program dışındaki yazışmalarımızda da bu konunun altını birlikte doldurabileceğimizi fark ettim. Sağolsun, o da programa geldi.

Öncelikle, sohbete başlamadan önce kendisine hoşgeldin demek istiyorum. Güven, çok teşekkür ederim. Davetimi kabul ettin, geldin, buradasın. Eksik olma.

G.G.: Rica ederim. Ben de nazik davetin için teşekkür ederim.

U.P.: Yapay zekâ artık günümüzde yalnızca metin yazan bir araç gibi görünmüyor. Kimi zaman düşünme sürecinin kendisini devralan bir araca dönüşmüş durumda. Ben de hem bireysel deneyimlerimde hem de öğrencilerden gördüğüm örneklerde bu durumla sık sık karşılaşıyorum.Bu da akademide yeni bir soruyu önümüze koyuyor diye düşünüyorum: Bir kişi, oluşumunda yer almadığı bir düşüncenin sahibi gibi görünebilir mi?

Aslında programın ana ekseni biraz bu sorudan yola çıktı. Ben bunu bir tür “düşünce temsilsizliği” olarak adlandırıyorum. Farklı şekillerde de adlandırmak mümkün elbette; program öncesinde de konuştuk. Yani bir fikri temsil ediyor gibi görünmek, ama o fikrin kuruluşundaki tarihleri, gerilimleri ve sorumluluğu gerçekten üstlenmemiş olmak; buna rağmen o fikri üstlenmiş gibi davranmak… Bence bu dönemin önemli sorunlarından biri. Üstelik sık karşılaştığımız ve kimi zaman anlaması da zor olan bir sorun.

Bu programda yapay zekâ çağında emek, sahiplenme, öğrenme ve entelektüel sorumluluk arasındaki ilişkiyi, en başta söylediğim soru bağlamında seninle konuşmak istedim. Sorularımı hazırladım ama istersen yavaş yavaş başlayabiliriz.

G.G.: Tamam. Ben de o zaman şunu söyleyerek başlayayım: Ben ABD’ye ilk kez yapay zekâ konusunda doktora yapmak için gelmiştim çünkü o dönemde Türkiye’de yapay zekâ konusunu bilen çok fazla kişi yok gibiydi. Ama o zaman konuştuğumuz yapay zekâ başka bir paradigma içinde yer alıyordu.

Bugünkü yapay zekâ, yani 10 sene önce benim hiçbir şekilde tahmin edemeyeceğim bir noktaya geldi ve kaçınılmaz bazı sorunlarla karşımızda duruyor. Bu tabii yalnızca senin problemin değil maalesef. Ya da yalnızca Türkiye’deki akademisyenlerin problemi değil. Bütün dünyadaki akademisyenlerin de ciddi bir yapay zekâ sorunu var ve her okulda bu konuşuluyor. Herkes şunu soruyor: Ne yapalım? Öğrencilerin bizim sorduğumuz sorular üzerine düşünmesini, öğrenmesini, okumaları yapmasını ve bunları gerçekten dert etmesini nasıl sağlayalım? Haklılar da.

Ben de mesela derslerde okuma verdiğim zaman, haftadan haftaya öğrencilerden bu okumalar üzerine kısa metinler yazmalarını istiyordum. Böylece hem verdiğim okumaları yapıp yapmadıklarını anlamak istiyordum hem de oradan iyi bir soru ya da düşünce çıkar mı, ona bakıyordum.Fakat şimdi bir öğrenci senin sorunu olduğu gibi yapay zekâya sorup cevabı oradan alabilir. Sen de buna cevap yazacaksan, mesela “Şunu şöyle yapmışsın, peki bu konuda ne diyorsun?” diyeceksen, aslında onu yazan öğrenciye değil, sanki yapay zekâya yorum yapıyormuş gibi oluyorsun. Bu da tabii çok sinir bozucu bir şey çünkü istediğin şey o değil: Yapay zekâ senden bir şey öğrenmiyor. Sen öğrencinin bir şey öğrenmesini istiyorsun. Öğrenmesi için de senin verdiğin soruyla biraz mücadele etmesini bekliyorsun. Ama yapay zekâya sorduğu zaman, başkalarının yazdıklarına bakarak anında bir cevap üretebiliyor. Öğrenci ise aslında pek bir şey öğrenmiyor; soruyla da boğuşmuş olmuyor. Dolayısıyla herkesin derdi şu: Peki biz buna karşı ne yapacağız?

U.P.: Çok güzel başladık. Ben de bu anlamda farklı sorular hazırlamıştım. Elimde aslında dört soru var. İznin olursa ilkiyle başlamak istiyorum.

G.G.: Tamam, güzel.

U.P.: Yapay zekâ destekli üretim ile düşünmeyi yapay zekâya devretmek arasındaki sınır sence nerede çizilmeli?

G.G.: Bu çok iyi bir soru ama aynı zamanda çok da zor bir soru. Bunun cevabını bir cümlede verebilirim; “Biliyorum, her şey çok açık” desem yalan olur. Aslında kimse bilmiyor. Dünyada da kimse bilmiyor ve herkes bunu dert ediyor çünkü bu akademi için ciddi bir sorun.

Bir yandan yapay zekâyı yasaklamak bence çok tuhaf bir şey. Öğrencilere “Siz bu teknolojiyi kullanmayın” demiş oluyorsun. Ama yapay zekâ aslında pek çok işi kolaylaştıran imkânlar da sunuyor. Benim için de sunuyor, senin için de sunuyordur, hocalar için de, herkes için de sunuyor. Mesela “Şuna bak” diyorsun, anında bakıyor. Bir imla hatası varsa buluyor. Bir bibliyografya ortaya çıkarmak istiyorsan onu çok hızlı biçimde çıkarabiliyor. Senin günler boyunca uğraşıp yapabileceğin, içinde de bütün yanlışları ayıklamanın belki mümkün olmayacağı işleri iki dakika içinde karşına getirebiliyor.

Bu açıdan bakınca, “Bunu kullanmalıyız” diye düşünüyorum. Öte yandan öğrencilerin de bu anlattıklarını öğrenmeleri gerekiyor ki senden sonra onlar devralabilsin. Sen öğretmek istiyorsun; onların anlamasını istiyorsun. Anlamaları için de sorduğun sorularla biraz cebelleşmeleri gerekiyor. Eğer bunu yapmıyorlarsa, yani işin kolayına kaçıyorlarsa; soruyu yapay zekâya sorup cevabı hemen kendi cevaplarıymış gibi yapıştırıyorlarsa, o zaman gerçekten düşüncenin temsiliyeti onlarda olmuyor. Kimde olduğu da pek belli değil çünkü yapay zekâ bu meseleleri dert etmiyor, bir sorumluluğu da yok. Dünyada kendi başına var olan, dolayısıyla dünyaya karşı bir şeyler yapmak durumunda olan bir özneden de bahsetmiyoruz. Peki o zaman ne yapacağız? Asıl soru galiba burada.

U.P.: Tabii, sınır derken aslında bizim ne yapacağımızı da söyleyecek bir sınırdan bahsediyoruz sanırım.

G.G.: Evet. Ben yapay zekâ sorularını genellikle üç kategoride ele almaya çalışıyorum: Birincisi etik sorular yani yapay zekâyla ilgili sorumluluk kimde olacak gibi sorular. İkincisi mali sorular. Bu da şu; yapay zekâya müthiş bir para harcanıyor. Sadece ABD'de milyarlarca dolar harcanıyor. Bu bir balon mu? Yarın insanlar yapay zekâdan vazgeçer mi? Ayrıca yapay zekâya karşı ciddi bir direnç de ortaya çıkmaya başladı, en azından Amerika Birleşik Devletleri’nde. İnsanlar “Biz böyle bir teknoloji ürettik; kendimiz yaptık ama bu teknoloji elimizden işimizi alacak. O zaman biz bu teknolojiyi niye bu kadar destekliyoruz?” diye sormaya başladılar. Bunları da mali sorular başlığı altında düşünebiliriz.

Bir de üçüncü kategori var. O da şu: Biz yapay zekâyı bir kara kutu olarak mı görmeliyiz? Yoksa bir soru sorduğumuzda bu cevabı nasıl ürettiğini anlamalı mıyız? Genellikle bunu anlamıyoruz ve anlamayı da pek önemli bulmuyoruz. Halbuki bence işin kör düğüm olduğu nokta tam da burası. Yapay zekânın sorduğumuz sorulara nasıl cevap verdiğine, nasıl hesaplar yaptığına bakmadığımız zaman etik sorulara da sağlıklı cevap veremeyiz.

Ben buna bazen yarım saniyede “dünyayı dolaşan” bir süreç gibi bakıyorum. Çünkü yapay zekâ yerel bir şey değil, en azından şu anki haliyle. Veri merkezleri denen devasa yerler kuruluyor. Bunlara milyarlarca dolar harcanıyor. Biz çok basit bir soru bile sorsak, o soru internet üzerinden belki Arizona’ya kadar gidiyor. Orada veri merkezlerinde derlenmiş dijital metinler, veriler okunuyor; onlara göre bir cevap hesaplanıyor. Fakat buradaki hesabın ne olduğunu bilmiyorsak, etik sorulara nasıl cevap vereceğiz? Hangi durumda kimi, neden sorumlu tutacağız? Ya da mali sorulara nasıl cevap vereceğiz? Çok zor.

Diyelim ki yapay zekânın neyi nasıl yaptığını çok iyi anladık. Bu bile tek başına bir çözüm olmayabilir. Çünkü “Peki anladık da ne oldu?” diyenler de çıkacaktır. Doğru; buna müdahale etme imkânımız da aslında çok az. Çünkü yapay zekâyı geliştiren ve bugünkü haline getiren bir avuç şirket var. Çoğu Amerika’da; bir tane de Çinli şirket var. Bunlar müthiş paralar toplayarak bu işleri yapıyorlar. Şimdi benim bu şirketlerle rekabet etmem çok zor. O zaman bazen kendime şunu sorduğum da oluyor: Acaba “Peki içeride ne oluyor?” sorusundan bir ölçüde vazgeçip yalnızca işin etik ve mali kısmına mı baksam? Mesela “Eğitimde biz bunu nasıl kullanabiliriz?” sorusunu dert etsem daha mı doğru olur?

U.P.: Burada yine etik dedin ve benim de aklımda şu soru vardı: Bir öğrenciyi düşünelim; kendi kurmadığı bir argümanı sunduğunda burada sorun yalnızca etik mi yoksa aslında biraz değindik ama öğrenmenin kendisi mi ortadan kalkıyor?

G.G.: Öğrenmenin kendisi kesinlikle ortadan kalkıyor. Sana gelen bir soruyu yapay zekâya sordun; yapay zekâ sana bir cevap verdi. Sen de onu kendi cevabınmış gibi yazdın. Ne oldu? Sen burada gerçekten bir şey anladın mı? Aslında anlamadın.

Buna karşı ne yapılabilir? Diyelim ki sen soruyu soran kişisin, öğretim üyesisin, bir öğrenci yetiştirmeye çalışıyorsun. Eğer yasaklamak bir çözüm değilse —ki bence iyi bir çözüm değil— ne yapmalı da öğrencinin öğrenmesini sağlamalı?

Mesela ABD'deki okullarda artık genellikle kimse evden çalışılarak cevap verilecek sorular sormaz oldu. Sınav yapıyorsun; sınıfta öğrencilere kâğıt kalemle yazdırıyorsun, “Başka türlü olmasın, kopya çekmesinler” diye. Ama bu da sonuçta insanı sınırlandıran bir şey. Daha önce kullandığın yöntemleri kullanamaz hale geliyorsun. Bence biraz acayip bir durumla karşı karşıyayız.

U.P.: Ben de şöyle düşünüyorum: Öğrenmenin ortadan kalkmaması için öğrencinin oradan öğrendiğini bir şekilde ispat etmesi gerekiyor. Jüride, komitede ya da verdiği ödevde bunu gösterebilmesi lazım.

Burada mesele “yapay zekâyı kullanmasın” demek değil. Ben bunun üzerine düşünürken “düşünce temsilsizliği” gibi bir terim önermiştim. Diyelim ki senin alanında yapay zekâya “Beni biraz eğit, Güven’le konuşacak düzeye getir” dedim. Bana muhtemelen bir metin üretebilir. Ben de bunu sana kendim yazmışım gibi pekâlâ anlatabilirim; tıpkı şimdi yaptığımız gibi. Sen de “Herhalde Utku bu işleri biliyor” diyebilirsin. Ama bana bir soru sorduğunda, ona üretebileceğim bir cevap yoksa bu hemen ortaya çıkar. Çünkü bu kadar birikimle bir şey konuşuyorsam, en azından senin soruna eleştirel biçimde ya da belirli bir perspektif içinden cevap vermem beklenir.

Benim bireysel tecrübelerimde, böyle sorular sorduğumda öğrenciler doğrudan duvara toslamış gibi oluyorlar. Bir anda kalıyorlar. Bu da aslında beni bir şeyi tespit etme konusunda eğitti. Bu anlamda, yapay zekâyı dile getirdiğim zaman karşımdaki arkadaşlar “Evet, yapay zekâdan yararlandık” demekten de çekinmiyorlar. Çünkü verecek başka bir cevap yok; başka bir perspektif sunulamıyor. O yüzden ben buna “düşünce temsilsizliği” demiştim. Ama yine de şunu düşünmek istiyorum: Akademik değerlendirme süreçlerinde bu düşünce temsilsizliği nasıl fark edilir? Ben böyle bir yöntem uygulamıştım ama jüride, danışman olarak ya da bir komite üyesi olarak neye dikkat etmeliyiz? Bu konuda senin de fikrini sormak isterim.

G.G.: Evet, sağol. Şimdi her dakika öğrenciyi karşına alıp sözlüye çekecek halin yok.

U.P.: Tabii, yok. Ama toplantılara, savunmalara girdiğimiz zaman…

G.G.: Evet. Bir savunma jürisindeysen, mesela tez jürisindeysen, öğrenciyle karşı karşıya geliyorsun. Bir soru soruyorsun. Bu soruyu e-posta üzerinden yazılı olarak sormuş olsan, hemen bir cevap alacaksın. Fakat sözlü olarak sorduğunda cevap gelmiyor. Demek ki öğrenci bu sorunun nasıl cevaplanacağını bilmiyor. Bu tabii ciddi bir sorun.

Bir de işin ironik bir tarafı var. Yapay zekâ ilk başladığında şöyle düşünülüyordu: Biz insanlar birtakım sorulara cevaplar üretiyoruz ya da bazı çözümler buluyoruz ama neyi nasıl çözdüğümüzü çok iyi bilmiyoruz. Oysa bu işi bilgisayarlara yaptırsak ve bilgisayar her adımda ne yaptığını bize anlatabilse, belki biz de nasıl akıl yürüttüğümüz konusunda daha iyi bir fikir sahibi oluruz.

İlk düşünceler buydu. Bir şekilde yapay zekâ programlarının psikoloji ve nörobilim kuramlarına faydası olacağı düşünülüyordu. Ama şimdi tabii öyle olmadı. Hatta tam tersi bir durum ortaya çıktı. Yapay zekâya “Peki sen böyle bir cevap verdin ama bu cevabı niye verdin?” diye sormak mümkün; ama oradan bile insan her zaman istediği gibi cevap alamıyor. İşin ironisi de bence burada.

U.P.: Doğru söylüyorsun. Bu biraz zor bir durum aslında. Ama karşı karşıya kaldıkça da kendimizce birtakım metodolojiler üretmeye çalışıyoruz.

Peki Güven, şimdi son soruya geldim. Söyleşi çok güzel aktı. Son soruda şöyle bir şey düşünmüştüm ki aslında belki bunun cevabını arada vermiş de olabiliriz; konuşmuş, sen değinmiş olabilirsin: Yapay zekâyı yasaklamadan öğrencinin düşünceyle sahici bir ilişki kurmasını sağlamanın yolları olabilir mi sence?

G.G.: Olmak zorunda, değil mi? Bu konuda anlaşıyoruz. Çünkü bir öğrenci yetiştiriyorsun. Senin yerini alacak; kendinden sonra gelen kuşaklara bu bilgiyi aktaracak. Peki öğrenci bunu doğru dürüst anlamadıysa, bilmiyorsa, senin anlattıklarını öğrenmediyse bunu nasıl yapabilir? Ya işin ucunu tamamen bırakacaksın, “Herkes yapay zekâdan alsın cevaplarını” diyeceksin. Ama bu bana hiç cazip gelen bir fikir değil. Belki yaş itibarıyla da öyledir.

U.P.: Bence de değil. Çünkü o, akademinin zevkini de almamızı engelleyen bir şey. Biz bu işi niye yapıyoruz? Hem öğrenmek için, yeni şeylere ulaşmak için hem de bir şey üretebilmek için. Sonra da kendi adımıza ürettiğimiz şeyi bizimle çalışan bir arkadaşa miras bırakabilmek için. O da belki o mirasın üzerine bir şey koyabilir.

G.G.: Evet. Katılıyorum. Geçenlerde yazılımcı bir arkadaşımla konuşuyordum. Kendi oğlunun yaşlarında gençlerle konuşuyormuş; bir kısmı da yazılımcı. Dedi ki: “Bu çocukların yaptığının çok daha iyisini yapay zekâ yapıyor ve çok daha kısa zamanda yapıyor. Dolayısıyla onların işlerini de ellerinden alacak.” Ara sıra böyle şeyler çıkıyor: Yapay zekâ, beyaz yakalı işlerin %80'ini önümüzdeki beş yıl içinde yok edecek deniyor. Olabilir. Bir kısmını mutlaka yok edecektir. Yeni teknolojilerle bazı işler gerçekten ortadan kalkıyor.

Mesela artık kimse gazyağıyla aydınlatılan sokaklardaki lambaların yağlarını kontrol etmiyor. Öyle bir iş kalmadı. Çünkü sokaklar artık gazyağı lambalarıyla aydınlatılmıyor. Elektrikle, otomatik olarak bazı lambalar yakılıyor, bazıları söndürülüyor. Benzer şeyler belki farklı ülkelere farklı zamanlarda gelecektir. Eminim elektriğin icadı ve sokak lambalarının otomatik hale getirilmesi ilk olarak İngiltere’de olmuştur. Türkiye’ye bunun gelmesi zaman almıştır ama sonuçta gelmiş vaziyette. Belki benzer şekilde, belli bir süre sonra taksi şoförü diye bir meslek de kalmayacak. Çünkü bütün taksiler sürücüsüz araçlar haline gelecek.

Burada şunu söylemek istiyorum: Yapay zekâ klasik anlamda bir tür zihin simülasyonu yapmaya çalışıyordu. Yani “Biz insanlar şöyle bir soruya nasıl cevap veririz?” sorusunu birtakım kurallara ve kaidelere bağlayarak bilgisayara yaptırmaya çalışıyordu. Aslında bir tür zihin simülasyonu yapmaya çalışıyorduk. Yani “Biz insanlar şöyle bir soruya nasıl cevap veririz?” diye düşünüp bunu birtakım kurallara, kaidelere bağlayarak bilgisayarlarda yapmak derdindeydik. Tabii öyle olduğu zaman, belki her soru kümesi ya da her soru türü için değişik bir yapay zekâ programı gerekiyordu. Bu da “mikro dünyalar problemi” denen bir probleme yol açıyordu. Mesela bir makineye nasıl satranç oynanacağını öğrettin; ama bu programın başka bir şeyden haberi yok. Başka bir soru soruyorsun, bilmiyor. Herhangi bir şey söyleyemiyor.

Bugünkü yapay zekâ ise bütün bu soruları aşmış vaziyette aslında. Öyle bir genelleme söz konusu gibi duruyor. Bir yapay zekâ platformuna gidip “Patatesi en ucuz nereden alabilirim?” diye soruyorsun, ona cevap veriyor. Bambaşka bir şey soruyorsun; mesela “Şu kuşlar nasıl bir evrim geçirmiştir?” diyorsun, ona da cevap veriyor. Neredeyse her şeye cevap verebiliyor. Dolayısıyla böyle bir genelleme imkânı da doğdu. Bu da bence klasik paradigmada zihin simülasyonu diye adlandırdığım şeyi yapan yapay zekânın, bugün giderek bir tür beyin simülasyonu yapmaya çalışmasıyla oldu. Her ne kadar zihin beynin çalışmasına bağlı olsa da —ki ben sonuç itibarıyla öyle olduğunu düşünüyorum— burada farklı bir durum var.

Mesela bir çocuk yetiştirirken, her ne kadar kurallar ve kaideler koysan, çocuk bundan etkilense bile tam olarak senin istediğin şeyleri yaptıramıyorsun. Yapay zekâ da biraz öyle. Yapay zekânın ne cevap vereceğini, yapay zekâ dahil hiç kimse adım adım anlatamayabiliyor. Bu da bence yapay zekânın yapısından kaynaklanan bir durum. Öte yandan yapay zekâ, bu sayede bugün yaptığı şeyleri yapabilir hale geldi.
1990’lar ve 2000’lerin başları, yapay zekânın kış uykusunda olduğu zamanlardı. Öyle deniyordu. Bundan on sene önce kimse yapay zekâya çok fazla önem vermiyordu.

U.P.: İnternette bilgi de bu kadar birikmemişti o zaman. Şimdi inanılmaz bir bilgi var.

G.G.: Tabii, tabii. Bir kere metinler dijitalize edildi. İnternetten ulaşmak mümkün hale geldi. Pek çok sorunun cevabını zaten bulabiliyorsun. Bir de bilgisayar sistemleri çok hızlı çalışır hale geldi. Bütün bunlar bir araya gelince, “Bundan bir şey çıkmaz” denilen, beyin simülasyonu yapmaya çalışan bilgisayar platformları aslında çok etkileyici işler yapar hale geldiler.

U.P.: Bir de zannediyorum, sen bilgisayar sistemleri deyince aklıma geldi, bilgi erişilebilir hale geldi. Bunu da söyledin. Açık erişim yayıncılık da çok ciddi arttı. Eskiden okumak için para veriyorduk; şimdi akademik makalemiz kabul edilirse yayımlatmak için para verir olduk. Sonra da o yayınlar herkesle açık biçimde paylaşılıyor. Dolayısıyla zannediyorum yapay zekâ o tür akademik yayınlara da, sonuçta bir kısıtlama olmaksızın, rahatlıkla ulaşabiliyor.

G.G.: Öyle gibi gözüküyor. Belki parayla ulaşıyordur, bilmiyorum nasıl ulaşıyor ama bundan çok daha önce, 1990’larda mesela Google şirketi kütüphanelere öğrencileri gönderip bütün kitapları dijitalize ederken, taratırken, bu işin nereye varacağını düşünüyorlar mıydı? Ya da buraya varacakları ümidiyle mi bu işi yapıyorlardı, bilmiyorum.

Benim o zaman hiç aklımın ermediği bir şeydi. “Bu insanlar buna niye para veriyor?” diye düşünüyordum. Fakat tabii bunlar olmasa yapay zekâ bugün yaptığı işleri yapamazdı. Ya müthiş bir vizyon ve öngörüyle bu işi yapıyorlardı bu büyük şirketler ya da şanslarına öyle denk geldi diyelim. Ama dediğin çok doğru: Bilginin erişilebilir olması, metinlerin dijitalize olması… Bunların hiçbiri olmasa bugünkü yapay zekâ yaptığı işlerin hiçbirini yapamazdı. En azından bunu söyleyebilirim.

U.P.: Kesinlikle. Hibrit yayıncılık da çok ciddi anlamda kendini gösterdi. Şimdi bazı insanlar doğrudan açık erişim yayın yapıyor ve buna herkes, akademiyle ilişkili olsun olmasın, anahtar kelimeyi yazdığında çıkan bağlantıya tıklayarak ulaşabiliyor. Gerek Google’dan gerek başka arama motorlarından.
Benim anladığım kadarıyla yapay zekâ da bunun ekmeğini yiyor ve bize bilgiyi bir şekilde ulaştırıyor. Tabii bunu test etmek gerekiyor. Çünkü kendi deneyimlerimden de gördüğüm kadarıyla çok fazla yanlış bilgi de verebiliyor. Uydurma bilgi üretebiliyor.

Bununla ilgili Oxford Üniversitesi’nde bir sosyolog çalışmıştı zannediyorum. Özellikle Afrika’da iş bulamayan bazı akademisyenlerin artık makale yazma fabrikaları kurduklarını anlatıyordu. Kenya’da da bunun bir örneği varmış. Diyelim ki ben kendi çalışma alanımı söylüyorum; “Doktora yapıyorum, bana makale lazım” diyorum. Onlar da benim için araştırmayı yapıyor, literatürü çıkarıyor, bir makale yazıyor, metni ücret karşılığı veriyorlar. Sonuçta benim adımı da üzerine koyuyoruz ve ben bunu yayımlıyorum. O sosyoloğun Oxford’da yaptığı araştırmada anladığım kadarıyla dergiler bunu herhalde çok kolay tespit edemiyor. Çünkü binlerce dergi var; Science Citation Index’te, farklı indekslerde… Hatta on binlerce, belki yüz binlerce yayın çıkıyor. Bazı referanslar gözden kaçıyor. Referansı görüyorsun, “Bu ilgimi çeken bir makale” diyorsun. Ulaşmaya çalışıyorsun ama öyle bir referans yok.

“Düşünmeden temsil etmek, yapay zekâ çağında akademinin yeni sorusu haline geliyor.”

Aslında mesele oradan ortaya çıkmaya başlıyor. Böyle birçok insan akademide derece alıyor, iş buluyor ya da CV’sine bunları koyuyor. Rekabette bir derece öne çıkıyor. Bu tür şeyler dünyada olmaya başlamış durumda. Belki bir şekilde çözüm yolu üretilir ama dediğim gibi, ben buna artık “düşünmeden temsil etmek” diyorum. Yapay zekâ ve akademinin yeni sorusu galiba burada ortaya çıkıyor.

G.G.: Evet, çok doğru. Bence “düşünmeden temsil etmek” çok iyi bir teşhis. Sen bir makale yazıyorsun; bu makalende olmayan birtakım makalelere referans veriyorsun ve olmayan makalelerin olmayan başlıklarını sayıyorsun. “Bak, şurada şunu demiş; burada bunu demiş” diyorsun ama ortalıkta öyle bir şey yok. Bu, yapay zekânın çok derdi değil. Aslında senin derdin.

U.P.: Tabii, tabii. Birey olarak sen varsın. Hukuken gidilse bile yapay zekâyı mı mahkemeye verecekler? Ne diyecekler? Ortada zaten bir şey yok. Çok acayip bir durum.

Güven Güzeldere: Evet. Ya da avukatsın. Öyle şeyler de oldu aslında. Hâkime diyorsun ki: “Bu konuda şöyle bir karar vermeniz lazım. Çünkü daha önce böyle bir dava olmuş ve hâkim de şu kararı vermiş. Dolayısıyla bunun böyle bir öncülü var; biz de bu şekilde davranmalıyız.” Fakat aslında öyle bir şey yok. Yapay zekâ bunu uydurmuş. Sen yapay zekâya “Buna benzer başka vakalar var mı?” diye sormuşsun, o da kafadan atmış. Bu da bence bir etik problem.

U.P.: Tabii, çok ciddi bir etik problem.

G.G.: Buna nasıl çözüm bulacağız, onu da çok iyi bilmiyorum. Ama yapay zekânın iç yapısına baktığımız zaman, böyle şeylerden tamamen kurtulmanın pek imkânı olmayacakmış gibi görünüyor.

Bu da bence yapay zekânın bütün kültürü dönüştüren özelliklerinden biri. Her soruya anında cevap alabiliyorsun ama cevapların doğru olduğundan emin olamıyorsun. Buna rağmen “Tamam, bazen yanlış şeyler söylüyor ama genellikle doğru söylüyor madem” diyerek bunu kabul edip kullanmaya devam ediyoruz.
Bu bana hoş bir şeymiş gibi gelmiyor doğrusu. Ama dediğim gibi, belki bu seninle benim yaşımızla da ilgili. Biz başka bir elekten geçmiş durumdayız. Akademide bir şeyler yaptıysak, kendi başımıza uğraşarak, birilerinden bir şeyler öğrenmeye çalışarak yaptık. Belki bundan sonrası böyle olmayacak. Bilmiyorum.

U.P.: Güven, çok teşekkür ederim. Eksik olma. Çok güzel bir söyleşi oldu. Sonuna da geldik sayılır; zamanı tamamladık gibi.

Ben buna “düşünmeden temsil etmek” diyorum. Yapay zekânın olduğu bir çağda akademinin yeni sorusunu bugün konuşmaya çalıştık: Yapay zekâ çağında kimin fikri? Belli ölçüde de düşünce temsilsizliği üzerinde durduk. Vakit ayırdın, çok teşekkür ederim. Eksik olma.

G.G.: Ben çok teşekkür ederim. Çok iyi cevaplar veremedim; bir cevaplar kümesiyle karşına çıkamadım ama durum bu yani maalesef.

U.P.: Aslında cevapları hiçbirimiz bilmiyoruz ama sen birçok şeyi çok güzel açıkladın. Bunlar üzerinde düşünmemiz gereken meseleler. Bir anlamda göle maya çalar gibiyiz. Umarım bunun devamı gelir.

Programı dinleyenler ve sonradan dinleyecek olanlar da belki bu konuyu biraz daha ciddi düşünmeye başlarlar. Çünkü bu, önemli bir sorun olacakmış gibi görünüyor.

G.G.: Evet. Ben teşekkür ediyorum.

U.P.: Evet, Antroposen Sohbetler’in bugün sonuna geldik. Konuğum Güven Güzeldere’ydi.