Bir Kitap ile Sohbet buluşması, kitabın son sayfasında bitmez. Bazen bir cümle zihnimizde kalır, başka kitapların kapısını açar. Ardından yaşadığımız çağa yeniden bakmaya başlarız.
Friedrich Nietzsche’nin İyinin ve Kötünün Ötesinde kitabını konuştuğumuz son buluşmamızda da bunu yaşadık. Hakikati, ahlakı, gücü ve değerleri kimin belirlediğini sorguladık. Tam bu sırada bir katılımcı, yapay zekâ şirketlerinin milyonlarca ikinci el kitap satın aldığını anlattı. Şirketler kitapların sırtlarını kesiyor, sayfalarını tarıyor ve metinleri eğitim verisine dönüştürüyordu.
Bir zamanlar kitapları ateşten korumaya çalışıyorduk. Bugün ise onları algoritmaların içinde nasıl koruyacağımızı düşünüyoruz. Kitabın kaderi değişirken okurun sorumluluğu da değişiyor.
İyiyi, Kötüyü ve Hakikati Kim Belirliyor?
Nietzsche, İyinin ve Kötünün Ötesinde kitabında hazır bulduğumuz değerlerin kökenini araştırır. “İyi” ve “kötü” adını verdiğimiz yargıları kim oluşturdu? Bu yargılar hangi koşullarda doğdu? Kimin gücünü artırıyor, kimin sesini bastırıyor?
Bu sorular bugün yapay zekâ tartışmalarının ortasında yeniden karşımıza çıkıyor. Çünkü teknolojinin yapabildikleri kadar, o teknolojiyi yönetenlerin tercihleri de önem taşıyor. Üstelik şirketler artık neyin doğru, adil ve kabul edilebilir olduğuna dair kararlar alıyor.
Bir kitabı satın almak, içindeki düşünceyi sınırsızca kullanma hakkı verir mi? Bir şirket, yazarın yıllar süren emeğini yapay zekânın eğitim malzemesine dönüştürebilir mi? Hukukun izin verdiği her davranışı etik açıdan da kabul edebilir miyiz?
Kısacası iyinin ve kötünün sınırlarını artık yalnızca filozoflar çizmiyor. Teknoloji şirketleri, mahkemeler ve algoritmalar da bu sınırları etkiliyor.
Kitapların Sırtını Kesen Proje
Sohbetin ardından konuyu araştırdım. Nitekim mahkeme belgeleri, konuştuğumuz olayın gerçek bir dayanağının bulunduğunu gösteriyor.
Anthropic adlı yapay zekâ şirketi, 2024 yılında “Project Panama” adlı gizli bir çalışma başlatmış. Şirket önce çevrim içi ikinci el kitap satıcılarından milyonlarca kitap satın almış. Ardından proje ekibi kitapların sırtlarını kesmiş ve sayfalarını taramış. Ekip, tarama işleminin sonunda kâğıtları geri dönüşüme göndermiş. Son olarak şirket, elde ettiği dijital metinleri Claude adlı yapay zekâ modelinin eğitiminde kullanmış.
Yazarların açtığı telif hakkı davasındaki mahkeme belgeleri projenin ayrıntılarını gün ışığına çıkardı. Şirket yöneticileri, yasal yollarla satın aldıkları basılı kitapları tarayarak savunabilecekleri bir dijital kütüphane kurmak istemiş. Washington Post’un araştırması, projenin büyüklüğünü ve şirketin kullandığı yöntemi ayrıntılarıyla aktarıyor.
Bununla birlikte dava belgeleri başka bir gerçeği daha gösteriyor. Anthropic, milyonlarca korsan kitabı da sistemine indirmiş. Mahkeme, şirketin yasal yollarla satın aldığı kitaplarla korsan dosyaları ayrı başlıklar altında değerlendirmiş. Sonuçta Anthropic, korsan kitaplara ilişkin davada yazarlarla 1,5 milyar dolarlık uzlaşmaya gitmiş. Reuters’ın dava haberi, yaklaşık yarım milyon kitabı kapsayan süreci ortaya koyuyor.
Bu tablo insanın içini acıtıyor. Çünkü kitabın sırtını kesmek, yalnızca bir cildi parçalamak anlamına gelmiyor. Bir şirket, bir insanın yıllar süren emeğini, düşüncesini ve sesini birkaç dakika içinde veriye çeviriyor. Böylece kültürel bir varlık, teknoloji şirketinin elinde ham maddeye dönüşüyor.
Kitaplar Bilgiyi Yok Etmek İçin mi Toplandı?
Güvenilir kaynaklar, “Şirketler sahaflardaki kitapları içlerindeki bilgileri ortadan kaldırmak için topluyor” iddiasını desteklemiyor. Şirketler yapay zekâyı büyük miktarda metinle eğitmek istiyor. Ayrıca telif tartışmalarında daha güçlü bir hukuki konum elde etmeye çalışıyor.
Bu noktada iki ayrı gerçeği birbirinden ayırmamız gerekiyor. Birincisi, mahkeme belgeleri şirketin kitapların fiziksel varlığını ortadan kaldırdığını doğruluyor. İkincisi, şirketin bilgiyi toplumdan silmeyi amaçladığını gösteren güvenilir bir kanıt bulunmuyor.
Yine de doğrulanmış kısım yeterince rahatsız edici. Bu nedenle olayın üzerine bir komplo yerleştirmemize gerek kalmıyor. Asıl sorun zaten gözümüzün önünde duruyor: Büyük teknoloji şirketleri kültürel mirası veri kaynağı olarak kullanıyor. Bu hesap içinde yazarın emeği, yayıncının yatırımı ve okurun kitapla kurduğu ilişki giderek görünmezleşiyor.
Bir sahafın rafındaki kitapla yapay zekânın veri tabanındaki metin aynı içeriği taşıyabilir. Buna karşılık ikisi aynı varoluşa sahip değildir. Sahaf rafındaki kitap elden ele dolaşır, yaşanmışlık taşır ve yeni bir okur bekler. Algoritma ise metni parçalar, sınıflandırır ve öğrenme sürecine katar.
Kısacası kitap yaşar, sistem veriyi işler.
Fahrenheit 451: Kitapların Yakıldığı Dünya
Bu haber bana önce Ray Bradbury’nin Fahrenheit 451 romanını hatırlattı. Bradbury’nin kurduğu dünyada yönetim kitapları yasaklar. İtfaiyeciler yangın söndürmek yerine kitapları ve onları saklayan insanların evlerini yakar. Böylece iktidar, toplumun düşünmesini, sorgulamasını ve geçmişin sesini duymasını engeller.
Romanın kahramanı Guy Montag, kitap yakan bir itfaiyecidir. Ancak bir süre sonra yaktığı kitapların içinde ne bulunduğunu merak eder. Bu merak onu sistemin dışına çıkarır. Sonuçta bir kitabı kurtarmak, Montag için kendi zihnini kurtarmaya dönüşür.
Bradbury’nin uyarısı iki katman taşır. İlk katmanda sansür ve kitapların fiziksel olarak yok oluşu vardır. İkinci katmanda ise insanlar uzun metinlerden vazgeçer, büyük ekranlara yönelir ve kesintisiz eğlence içinde düşünme alışkanlığını kaybeder.
Bugün şirketler kitapları meydanlarda yakmıyor. Bunun yerine kitapların sırtlarını kesiyor, sayfalarını tarıyor ve içeriklerini veriye dönüştürüyor. Amaçlar farklı olsa da görüntü insanı sarsıyor. Çünkü kitabın maddi varlığı ortadan kalkarken içindeki düşünce, büyük bir teknoloji şirketinin sistemine geçiyor.
Bradbury’nin dünyasında ateş kâğıdı yok ediyordu. Bugün ise hız, kolaylık ve ilgisizlik okuma kültürünü aşındırıyor.
1984: Geçmişin Yeniden Yazıldığı Dünya
George Orwell’in 1984 romanı başka bir tehlikeye işaret eder. Romanın kahramanı Winston Smith, Gerçek Bakanlığında çalışır. Bakanlık ona eski haberleri iktidarın güncel söylemine uygun biçimde değiştirme görevi verir.
Yönetim geçmişi sürekli yeniden yazar. Bakanlık eski kayıtları yok eder ve sözcükleri azaltır. Böylece Parti, insanların düşünme alanını daraltır. Üstelik Parti dün söylediğinin tersini bugün rahatlıkla söyleyebilir. Yönetim eski bilgiyi ortadan kaldırdığı için hiç kimse bu çelişkiyi kanıtlayamaz.
Orwell’in dünyasında yaşananlar hakikati belirlemez. Bunun yerine toplum, gücü elinde tutanların anlattıklarını hakikat olarak kabul eder.
Yapay zekâ çağında benzer bir tehlike farklı bir biçimde karşımıza çıkıyor. İnsanlar kitaplara, belgelere ve özgün kaynaklara gitmek yerine hazır cevaplarla yetiniyor. Ayrıca bir düşüncenin hangi bağlamda ortaya çıktığını araştırmıyor ve kaynağın güvenilirliğini sorgulamıyor.
Sonuçta gerçek ortadan kaybolmuyor. Ancak gerçek ile aramıza bir algoritma giriyor.
Makine Duruyor: Hayatın Ekrana Sığdığı Dünya
E. M. Forster, Makine Duruyor adlı uzun öyküyü 1909 yılında yazdı. Buna rağmen öykü, bugünün dünyasına ürkütücü ölçüde yaklaşıyor. Forster’ın kahramanları yer altındaki ayrı odalarda yaşıyor. Doğayla ve bedenleriyle temas kurmuyor. Birbirleriyle ekranlar üzerinden konuşuyor. Makine ise onların bütün ihtiyaçlarını karşılıyor.
İnsanlar seyahat etmek yerine görüntü izliyor. Birbirleriyle buluşmak yerine ekranlardan konuşuyor. Ayrıca bilgiyi doğrudan deneyimlemek yerine Makine’den alıyor. Yeni düşünceler üretmek yerine başkalarından duydukları ikinci el fikirleri tekrarlıyor.
Makine cevap verdiği sürece hiç kimse kaynağa gitme ihtiyacı duymuyor. Zamanla insanlar Makine’yi bir araç olmaktan çıkarıyor ve mutlak bir otoriteye dönüştürüyor.
Forster bu metni internetten, sosyal medyadan ve yapay zekâdan onlarca yıl önce yazdı. Buna rağmen ekranlar aracılığıyla yaşayan, fiziksel temastan uzaklaşan ve hazır bilgiye bağımlı hâle gelen insanı gördü. Bu nedenle öykü, teknolojik bağımlılık konusunda erken ve çarpıcı bir uyarı sunuyor. Eserin yayımlanma öyküsü ve temaları
Makine çalıştığı sürece herkes kendini güvende hisseder. Makine durduğunda ise çöküş, insanların kendi başlarına yaşama becerilerini ne ölçüde kaybettiğini açığa çıkarır.
Üç Kitap, Üç Ayrı Uyarı
Fahrenheit 451, iktidarın kitapları fiziksel olarak yok etmesini anlatır. 1984, iktidarın geçmişi ve hakikati nasıl yeniden yazdığını gösterir. Makine Duruyor ise insanın gerçek hayatı teknoloji aracılığıyla yaşamasını sorgular.
Her üç eser de aynı noktada buluşur. Kitap ortadan kalktığında toplumun hafızası zayıflar. İktidar hakikati yeniden yazdığında geçmiş kaybolur. İnsan hayatı yalnızca teknoloji aracılığıyla yaşadığında ise kişi kendi deneyimine yabancılaşır.
Dolayısıyla asıl tehlike yalnızca kitabın yanması, parçalanması veya dijitalleşmesi değildir. Tehlike, insanların okumaktan, araştırmaktan ve kendi düşüncelerini kurmaktan vazgeçmesiyle büyür.
Bradbury’nin romanında itfaiyeciler kitapları yakıyordu. Bugün kimsenin kitap yakmasına gerek kalmayabilir. Çünkü insanlar okumayı bırakırsa raflardaki kitaplar kendi sessizliklerine gömülür.
Ateş bazen kâğıdı yakar. İlgisizlik ise hafızayı söndürür.
Hakikate Sahip Olabilir miyiz?
Nietzsche, İyinin ve Kötünün Ötesinde kitabının ön sözünde kışkırtıcı bir cümle kurar:
“Hakikatin bir kadın olduğunu varsayalım.”
Nietzsche bu sözle dogmatik filozofları hedef alır. Çünkü bu filozoflar hakikati bütünüyle ele geçirebileceklerine inanır. Onlara göre insan hakikati bulabilir, tanımlayabilir ve bir sistemin içine kapatabilir.
Oysa Nietzsche bu güveni sarsar. Hakikate yaklaşmak için soru sormamız, kaynakları karşılaştırmamız ve kendi ön yargılarımızı fark etmemiz gerekir.
Benzer biçimde yapay zekâ da bize birkaç saniyede cevap sunabilir. Ancak cevabın kaynağını, bağlamını ve doğruluğunu araştırma sorumluluğu yine bize kalır. Çünkü her cevap hakikat taşımaz. Bazı cevaplar eksik bilgiden doğar. Bazıları yanlış bağlantılar kurar. Bazıları ise görünmeyen tercihleri yansıtır.
Bu nedenle hakikat, ilk bulduğumuz cevapta bizi beklemeyebilir. Onu bazen ikinci soruda, karşılaştırdığımız kaynakta veya kuşkuyla yaklaştığımız cümlede görürüz.
Sanal Olan Gerçeğin Yerini Alabilir mi?
Sanal olan, gerçeğin yerini kendi gücüyle alamaz. Ancak biz kaynağa bakmaktan, karşılaştırmaktan ve sorgulamaktan vazgeçtiğimizde o alanı sanal olana bırakırız.
Yapay zekâ bilgiye ulaşmayı hızlandırabilir. Buna karşılık düşünme sorumluluğumuzu üstlenemez. Üstelik sistem, hangi bilgiyi eksilttiğini veya hangi cümleyi bağlamından kopardığını her zaman göstermez.
Benzer biçimde bir kitabın özetini okumak, o kitabın dilini, ritmini ve dünyasını yaşamaya yetmez. Bir karakterin ne yaptığını bilmekle onun sessizliğinde ne hissettiğimizi anlamak aynı deneyimi sunmaz.
Okumak, yalnızca bilgi edinmenin ötesine geçer. Çünkü okur başka bir insanın zihninde yürür, kendi düşünceleriyle karşılaşır ve acele etmeden anlam kurar.
Sonuçta yapay zekâ bize kitabın konusunu anlatabilir. Ancak kitabın bizde açacağı kapıdan bizim yerimize geçemez.
Kitapları Korumak Neden Önemli?
Sahafları, kütüphaneleri ve basılı kitapları korumayı önemsiyorum. Çünkü bu yaklaşım nostaljiden daha fazlasını taşır. Fiziksel kitap kendi zamanına tanıklık eder.
Kitap el değiştirdikçe yaşamaya devam eder. Üstelik kenarındaki çizgi, arasındaki not ve sayfasındaki iz bile bir okurun hikâyesini taşır. Bu nedenle sahaf rafındaki bir kitap, basılı metinle birlikte önceki okurların sessiz tanıklığını da korur.
Dijital metin kolayca çoğalır, değişir ve bir tuşla kaybolur. Buna karşılık basılı kitap sessizce durur ve tanıklığını sürdürür.
Dolayısıyla bir kitabı korurken yalnızca kâğıdı korumayız. Aynı zamanda yazarın emeğine, okurun düşünme hakkına ve toplumun hafızasına sahip çıkarız.
Güç İstenci ve Teknolojinin Sorumluluğu
Tam bu noktada Nietzsche’nin güç istenci kavramı yeniden karşımıza çıkıyor. Teknolojiye sahip olmak güç verir. Ancak o gücün neyi büyüttüğü, insanın değerlerini gösterir.
Teknoloji bir yandan insan bilgisini çoğaltabilir. Öte yandan insan emeğini görünmez kılabilir. Hakikate ulaşmayı kolaylaştırabilir. Bununla birlikte bilgiyi birkaç şirketin elinde de toplayabilir.
Güç, kendi başına ahlaki bir yön taşımaz. Bu nedenle onu kullananların amacı, yöntemi ve sorumluluğu belirleyici olur. İnsanlığın bütün yazılı birikimine ulaşan bir teknoloji büyük bir imkân sunar. Aynı teknoloji, beraberinde ağır bir etik sorumluluk da getirir.
Ayrıca bir kitabı okuyarak öğrenmekle onu veriye dönüştürerek kullanmak arasında önemli bir fark vardır. Okur metinle ilişki kurar. Sistem ise metni işler. Okur değişebilir. Sistem güçlenir.
Sonuç olarak gücün gerçek sınavı, neyi yapabildiğimiz sorusuyla başlamaz. Asıl sınav, yapabileceğimiz hâlde hangi sınırları koruduğumuzda başlar.
Hâlâ Düşünüyor muyuz?
Asıl mesele yalnızca yapay zekânın ne yapabildiği değildir. Bizim ona hangi sorumlulukları bıraktığımız da önem taşır. Elbette cevap bulma işini ona verebiliriz. Ancak soru sorma hakkımızı ve düşünme sorumluluğumuzu da bırakırsak kendi hayatımızın seyircisine dönüşürüz.
Bilgiye daha hızlı ulaşırken hakikate yaklaşacak mıyız? Yoksa bize sunulan cevabı hakikat sayıp düşünmekten vaz mı geçeceğiz? Kitapların özetleriyle yetinip asıl metinleri okumayı bırakacak mıyız?
Bugün henüz Orwell’in 1984 tablosunun tamamını yaşamıyoruz. Fahrenheit 451’in ateşi de bütün kitaplara ulaşmadı. Buna karşılık Makine çalışıyor.
Asıl soru şu: Biz hâlâ düşünüyor muyuz?
