Computer Power and Human Reason (1976)

Computer Power and Human Reason

Joseph Weizenbaum
Massachusetts Institute of Technology
Cambridge, MA 02139

"Makineler ne kadar zeki hâle getirilirse getirilsin, yalnızca insanlar tarafından girişilmesi gereken bazı düşünme edimleri olduğunu savunurum."

Preface

Bu kitap yalnızca isim olarak bilgisayarlar hakkındadır. Önemli bir anlamda, bilgisayar burada, bilgisayarlardan çok daha önemli olan bazı fikirleri taşımak için yalnızca bir araç olarak kullanılmaktadır. Bu kitabın birkaç sayfasına bakıp arada bir denk geldiği bir denklem ya da bilgisayar jargonu parçası yüzünden korkarak geri dönen okur, yeniden düşünmelidir. Bilgisayarlar hakkında hiçbir şey bilmediğini, hatta bilgisayarların sıradan insanların anlayamayacağı kadar karmaşık olduğunu düşünebilir. Oysa bu kitabın temel noktalarından biri tam da şudur: Bizler, hepimiz, dünyayı aşırı ölçüde bir bilgisayara benzettik ve dünyanın bilgisayar imgesinde yeniden şekillendirilmesi, elektronik bilgisayarlar ortada yokken çok önce başladı.

Artık bilgisayarlara sahip olduğumuza göre, dünya üzerinde gerçekleştirdiğimiz bu hayal gücüne dayalı dönüşümü görmek biraz daha kolaylaşmaktadır. Artık bilgisayarın kendisini — yani bilgisayar fikrini — ne yaptığımızı ve yapmakta olduğumuzu anlamamıza yardımcı olacak bir metafor olarak kullanabiliriz.

Hepimiz bilgisayarın güçlü bir yeni araç olduğunu duymaya alışığız. Ancak çok az insan bir bilgisayarın gücünün nereden geldiğine dair herhangi bir fikre sahiptir. I. ile III. bölümler tam olarak bunu açıklamaya ayrılmıştır. Zaman ve zihinsel enerji bakımından mütevazı bir yatırımla, bu Önsözü okuyabilen herkes bu bölümleri adım adım kavrayabilmelidir. II. ve III. bölümler en zor olanlar olacaktır; ancak okur bunları başaramıyorsa, bu nedenle kitabın geri kalanından vazgeçmemelidir.

Gerçekte, II. ve III. bölümlerin ortaya koyduğu tek nokta, bilgisayarların bir anlamda “evrensel” makineler olduğudur; (orada açıklanan belirli bir anlamda) “her şeyi” yapabilecekleridir. Bu savı peşinen kabul etmeye istekli olan okur, I. Bölümden (ki bunu okuması gerekir) IV. Bölüme atlamak isteyebilir. Belki kitabın tamamını bitirdikten sonra, II. ve III. Bölümleri yeniden denemeye heves edecektir.

Kitabın geri kalanı esas tartışmaları içerir; bunlar özünde, birincisi, insan ile makine arasında bir fark olduğu ve ikincisi, bilgisayarların bu işleri yapabilecek hâle getirilip getirilemeyeceğinden bağımsız olarak, bilgisayarlara yaptırılmaması gereken bazı görevler bulunduğu savlarıdır.

Joseph Weizenbaum hâlen Massachusetts Institute of Technology, Cambridge, Mass.’ta Bilgisayar Bilimi Profesörüdür. Bank of America için ilk mevduat muhasebesi bilgisayar sistemini (ERMA) geliştiren General Electric ekibinin bir parçası olmuştur; daha sonra liste-işleme dili SLIP’i tasarlamıştır.

Profesör Weizenbaum, Stanford University Davranış Bilimleri İleri Araştırmalar Merkezi; Berlin Teknik Üniversitesi; Columbia University; ve Harvard University’de görevlerde bulunmuştur. Communications of the Association for Computing Machinery, Science, Partisan Review ve diğer teknik dergilerde makaleler yayımlamıştır. Daha yakın dönem ilgi alanları, bilgisayar bilimi eğitimi ile hesaplamanın kültür ve toplumla ilişkisini kapsamaktadır.

Introduction

1935 yılında, o sırada İngiltere, Manchester’daki Victoria University’de Fiziksel Kimya Kürsüsü’nün sahibi olan Michael Polanyi, hayatına o zamandan beri egemen olan felsefi sorularla ani bir yüzleşmeye sürüklendi. Bu sarsıntı, Rus Komünist Partisi’nin önde gelen kuramcılarından Nicolai Bukharin tarafından tetiklendi; Bukharin, Polanyi’ye “sosyalizm altında, bilimin kendi başına sürdürülmesi anlayışının ortadan kalkacağını, çünkü bilim insanlarının çıkarlarının kendiliğinden yürürlükteki Beş Yıllık Plan’ın sorunlarına yöneleceğini” söyledi. Polanyi o anda, “bilimsel bakış açısının, bilimin kendisine bile yer bırakmayan mekanik bir insan ve tarih anlayışı üretmiş gibi göründüğünü” ve ayrıca “bu anlayışın düşünceye içkin herhangi bir güç atfetmeyi tümüyle reddettiğini ve böylece düşünce özgürlüğünü ileri sürmek için her türlü zemini inkâr ettiğini” sezdi.

Polanyi’nin, insan ve tarih için karşıt bir kavram lehine bir sav geliştirmeye ne kadar zaman ayırmayı düşündüğünü bilmiyorum. Yaşadığı sarsıntının kendisi, Bukharin ile derin bir görüş ayrılığı içinde olduğunun, dolayısıyla o sırada kavramını açık bir biçime dökemese bile, insanı zaten farklı şekilde tasavvur ettiğinin kanıtıdır. Yalnızca bir bilim insanı olarak kendi deneyimine dayanarak Bukharin’in konumuna karşı bir karşı-argüman yazmaya karar vermiş ve bunu kısa sürede tamamlamayı düşünmüş olabilir. Ancak sonuçta, Bukharin’in açıklamasıyla tetiklenen felsefeyle yüzleşme, Polanyi’nin o günden bugüne kadar tüm dikkatini talep edecekti.

Preface
Introduction
1. On Tools
2. Where the Power of the Computer Comes From
3. How Computers Work
4. Science and the Compulsive Programmer
5. Theories and Models
6. Computer Models in Psychology
7. The Computer and Natural Language
8. Artificial Intelligence
9. Incomprehensible Programs
10. Against the Imperialism of Instrumental Reason
Notes
Index

(Metin, Computers and People, Nisan 1976’da basıldığı şekliyle ELIZA ve sonraki örneklerin tartışmasıyla devam eder.)

Benimle tartışmıyorsun.

NEDEN BENİMLE TARTIŞMADIĞIMI DÜŞÜNÜYORSUN

Benden korkuyorsun.

BENDEN KORKTUĞUNA İNANMAN SENİ MEMNUN MU EDİYOR

Babam herkesten korkar.

BABANI DÜŞÜNDÜĞÜNDE AKLINA BAŞKA NE GELİYOR

Zorbalar.

BUNUN, ERKEK ARKADAŞININ SENİ BURAYA GETİRMİŞ OLMASIYLA BİR İLGİSİ VAR MI

DOCTOR, ELIZA’nın psikiyatrist rolünü oynayan biçimiyle anılmaya başlandığında, ilk olarak ortaya çıktığı Massachusetts Institute of Technology çevresinde kısa sürede ün kazandı; bunun başlıca nedeni, gösterimi kolay bir program olmasıydı.

Diğer programların çoğu, halihazırda örneğin matematiğin bir dalı gibi özel bir bilgiye sahip olmayan ziyaretçilere bir bilgisayarın bilgi işleme gücünü canlı biçimde gösteremiyordu. Buna karşılık DOCTOR, herkes tarafından bir düzeyde takdir edilebiliyordu. Bir gösterim aracı olarak gücü, ziyaretçinin fiilen çalışmasına katılabilmesi gerçeğiyle daha da artıyordu.

Kısa süre sonra, yayımlanmış açıklamama dayanarak oluşturulan DOCTOR kopyaları Amerika Birleşik Devletleri’ndeki diğer kurumlarda görünmeye başladı. Program ülke çapında tanınır hâle geldi ve hatta bazı çevrelerde ulusal bir oyuncak oldu.

DOCTOR yaygın biçimde tanınıp “oynanır” hâle geldikçe yaşadığım sarsıntılar, esas olarak üç ayrı olaydan kaynaklanıyordu.

1.

Uygulamada çalışan bazı psikiyatristler, DOCTOR programının neredeyse tamamen otomatik bir psikoterapi biçimine dönüşebileceğine ciddi biçimde inanıyordu. Örneğin Colby vd. şöyle yazar:

“Programın klinik kullanım için hazır hâle gelmesinden önce daha fazla çalışma yapılmalıdır. Yöntemin yararlı olduğu kanıtlanırsa, terapist sıkıntısı çeken ruh sağlığı hastaneleri ve psikiyatri merkezleri için geniş ölçekte erişilebilir kılınabilecek bir terapötik araç sağlayacaktır. Modern ve gelecekteki bilgisayarların zaman paylaşımlı yetenekleri sayesinde, bu amaçla tasarlanmış bir bilgisayar sistemi tarafından saatte birkaç yüz hasta ele alınabilir. Bu sistemin tasarımı ve işletilmesine dâhil olan insan terapist yerini almayacak, ancak çabaları artık mevcut olduğu gibi bire bir hasta-terapist oranıyla sınırlı kalmayacağından çok daha verimli bir insan hâline gelecektir.” /3/

Bir kişinin başka birine duygusal sorunlarıyla başa çıkmayı öğrenmesinde yardımcı olabilmesinin olanağı için vazgeçilmez bir önkoşul olarak, yardım edenin bizzat diğerinin bu sorunlara ilişkin deneyimine katılması ve büyük ölçüde kendi empatik tanıması yoluyla bu sorunları kendisinin anlamaya varması gerektiğini düşünmüştüm.

Terapistin hastanın iç yaşamına yönelik hayal gücüne dayalı projeksiyonunu kolaylaştıran kuşkusuz pek çok teknik vardır. Ancak terapötik sürecin bu kritik bileşeninin bütünüyle saf teknikle ikame edilmesini savunabilecek tek bir uygulayıcı psikiyatristin bile olabileceği — bunu hayal etmemiştim!

Böyle bir öneride bulunan bir psikiyatrist, bir hastayı tedavi ederken ne yaptığını düşündüğünde, tek bir görüşme tekniğinin en basit mekanik parodisini bir insan karşılaşmasının özünden herhangi bir şeyi yakalamış olarak nasıl görebilir?

Belki de Colby vd. bize gerekli ipucunu şu satırlarla veriyor:

“Bir insan terapist, kısa vadeli ve uzun vadeli hedeflerle yakından bağlantılı bir dizi karar kuralına sahip bir bilgi işlemci ve karar verici olarak görülebilir, ... Bu kararlarda, belirli bağlamlarda neyin söylenip neyin söylenmemesinin uygun olduğunu kendisine bildiren kaba ampirik kurallar tarafından yönlendirilir. Bu süreçleri, bir insan terapistin sahip olduğu dereceye kadar, programa dâhil etmek önemli bir girişim olacaktır, ancak bu yönde ilerlemeye çalışıyoruz.” /4/

Bir psikiyatrist, kendisini, bir şifacı olarak eyleyen, sürece katılmış bir insan olarak değil de kuralları izleyen bir bilgi işlemci olarak görüyorsa, hastasına ilişkin imgesi nasıl olabilir?

Bu tür sorular, Polanyi’nin daha önce “insanın mekanik bir kavrayışını üretmiş gibi görünen bilimsel bakış açısı” diye adlandırdığı şeye benim uyanışım oldu.

Dr. Colby, bilgisayar tarafından yürütülen psikoterapi konusundaki coşkusunda yalnız değildir. Astrofizikçi Dr. Carl Sagan, yakın zamanda Natural History, cilt LXXXIV, sayı 1 (Ocak 1975), s. 10’da ELIZA hakkında şöyle yorum yaptı:
“Bugün hiçbir böyle bilgisayar programı psikiyatrik kullanım için yeterli değildir, ancak aynı şey bazı insan psikoterapistler için de söylenebilir. Toplumumuzda giderek daha fazla insanın psikiyatrik danışmanlığa ihtiyaç duyuyor gibi göründüğü ve bilgisayarların zaman paylaşımının yaygın olduğu bir dönemde, birkaç dolar karşılığında bir seans için, dikkatli, sınanmış ve büyük ölçüde yönlendirmeyen bir psikoterapistle konuşabileceğimiz, büyük telefon kulübeleri dizilerini andıran bilgisayar psikoterapötik terminallerinden oluşan bir ağın gelişimini hayal edebiliyorum.”

2.

DOCTOR ile konuşan insanların bilgisayarla ne kadar hızlı ve ne kadar derinden duygusal olarak ilişkilendiğini ve onu ne kadar kesin biçimde insanlaştırdıklarını görmek beni şaşkına çevirdi.

Bir keresinde, program üzerinde aylarca çalıştığımı izlemiş ve dolayısıyla bunun yalnızca bir bilgisayar programı olduğunu mutlaka biliyor olması gereken sekreterim onunla konuşmaya başladı. Yalnızca birkaç karşılıklı değişimden sonra benden odadan çıkmamı istedi.

Başka bir sefer, sistemi herkesin onunla yaptığı tüm konuşmaları, örneğin bir gecede, inceleyebileceğim şekilde ayarlayabileceğimi öne sürdüm. Derhâl, önerdiğimin insanların en mahrem düşüncelerine casusluk etmek anlamına geldiğine dair suçlamalara maruz kaldım; bu da insanların bilgisayarla, samimi terimlerle uygun ve yararlı biçimde hitap edilebilecek bir kişiymiş gibi konuştuklarının açık bir kanıtıydı.

Elbette insanların, örneğin müzik aletlerine, motosikletlere ve arabalara, her türlü duygusal bağ kurduklarını biliyordum. Ayrıca uzun deneyimlerimden, pek çok programcının bilgisayarlarına duyduğu güçlü duygusal bağların çoğu zaman makineleriyle yalnızca kısa süreli temaslardan sonra oluştuğunu da biliyordum.

Fark etmediğim şey, görece basit bir bilgisayar programına son derece kısa süreli maruziyetlerin, oldukça normal insanlarda güçlü sanrısal düşünceyi tetikleyebileceğiydi. Bu kavrayış, birey ile bilgisayar arasındaki ilişkiye dair sorulara yeni bir önem atfetmeme ve dolayısıyla bunlar üzerine düşünmeye karar vermeme yol açtı.

3.

ELIZA programına verilen bir başka yaygın ve benim için şaşırtıcı tepki, bunun bilgisayarların doğal dili anlama sorununa genel bir çözüm gösterdiği inancının yayılmasıydı.

Makalemde, bu soruna hiçbir genel çözümün mümkün olmadığını, yani dilin yalnızca bağlamsal çerçeveler içinde anlaşıldığını, bunların bile insanlar tarafından ancak sınırlı ölçüde paylaşılabildiğini ve dolayısıyla insanların bile böyle bir genel çözümün cisimleşmiş hâlleri olmadığını söylemeye çalışmıştım. Ancak bu sonuçlar çoğu zaman görmezden gelindi.

Her hâlükârda, ELIZA son derece küçük ve basit bir adımdı. Katkısı, eğer varsa, yalnızca başkalarının çok uzun zaman önce keşfetmiş olduğu bir gerçeği, yani bağlamın dil anlama açısından önemini, canlı biçimde vurgulamaktan ibaretti.

Winograd’ın /5/ İngilizceyi bilgisayarla anlama konusundaki sonraki, çok daha zarif ve kuşkusuz daha önemli çalışması da, şu anda ELIZA’nın yanlış yorumlandığı gibi yanlış yorumlanmaktadır.

ELIZA’ya verilen bu tepki, şimdiye kadar gördüğüm her şeyden daha canlı biçimde, iyi eğitimli bir kitlenin bile, anlamadığı bir teknolojiye son derece abartılı atıflar yapabildiğini, hatta bunları yapmaya çabaladığını bana gösterdi.

Elbette diye düşündüm, ortaya çıkan teknolojiler hakkında genel kamu tarafından alınan kararlar, bu teknolojilerin gerçekte ne olduklarından ya da ne yapabildiklerinden ve ne yapamadıklarından çok, kamuoyunun onlara ne atfettiğine bağlıdır. Görünüşe göre kamunun atıfları vahim biçimde yanlışsa, o hâlde kamusal kararlar da kaçınılmaz olarak hatalı ve çoğu zaman yanlış olacaktır.

Bu gözlemlerden zor sorular doğmaktadır; örneğin, bilim insanının çalışmasını kamuya açma konusunda sorumlulukları nelerdir? Ve bilim insanı kime (ya da neye) karşı sorumludur?

Bu tür algılar içimde yankılanmaya başladığında, belki Polanyi’nin Buharin’le karşılaşmasından sonra yaptığı gibi, bana bu kadar güçlü biçimde dayatılan soruların ve kuşkuların hızlıca, belki kısa ama ciddi bir makaleyle bertaraf edilebileceğini düşündüm.

Gerçekten de burada değinilen pek çok noktaya temas eden bir makale yazdım. /6/ Ancak zamanla, ilk başta fark ettiğimden çok daha kronik biçimde içime işlemiş olan bazı son derece temel sorular bulunduğunu görmeye başladım. Muhtemelen onlardan hiçbir zaman kurtulamayacağım.

Bu temel soruları ifade etmenin, onlarla başa çıkmaya yönelik başlangıç noktaları kadar çok yolu vardır. En temelde, bunlar insanın evrendeki yeriyle ilgili olmaktan daha azını konu almaz.

Ancak mesleki eğitimim yalnızca bilgisayar bilimleri alanındadır; bu da (tam bir ciddiyetle söylüyorum ki) son derece yetersiz bir eğitim aldığım anlamına gelir; gerçekten gerekli olan büyük ölçekli bir yazıyı kaleme almak için ne yeterliliği, ne cesareti, hatta ne de chutzpah’ı gösterebilirim. Bu nedenle, dile getirdiğim kaygılarla daha doğrudan bağlantılı sorularla boğuşuyorum ve onların daha geniş sonuçlarının kendiliğinden ortaya çıkmasını umuyorum.

Bu nedenle aşağıdaki türden sorularla ilgilenmek zorunda kalacağım:

1.

Bilgisayarla ilgili olarak, insanın bir makine olarak görülmesini yeni bir inandırıcılık düzeyine taşıyan şey nedir? Kuşkusuz, insanı çeşitli biçimlerde taklit eden başka makineler de olmuştur; örneğin buharlı ekskavatörler. Ancak dijital bilgisayarın geliştirilmesine kadar, mütevazı bir kapsamda bile olsa entelektüel işlevler yerine getirebilen makineler yoktu; yani herhangi bir anlamda zeki olduğu söylenebilecek makineler yoktu.

Bugün “yapay zekâ” (AI), bilgisayar bilimlerinin bir alt dalıdır. Bu yeni alanın ele alınması gerekecektir. Nihayetinde insan ve makine zekâsını ayıran bir çizgi çizilmelidir.

Eğer böyle bir çizgi yoksa, o zaman bilgisayarlı psikoterapinin savunucuları, insanın nihayetinde yalnızca bir saat mekanizmasından ibaret olarak tanındığı bir çağın habercileri olabilirler. O takdirde, böyle bir gerçekliğin sonuçlarının acilen sezilmesi ve üzerinde düşünülmesi gerekir.

2.

Bireylerin makinelerle güçlü duygusal bağlar kurmaları, kendi başına şaşırtıcı olmamalıdır. Ne de olsa insanın kullandığı araçlar, bedeninin uzantıları hâline gelir.

En önemlisi, insan araçlarını ustalıkla kullanabilmek için, onların bazı yönlerini kinestetik ve algısal alışkanlıklar biçiminde içselleştirmek zorundadır. En azından bu anlamda, araçları kelimenin tam anlamıyla onun bir parçası hâline gelir ve onu değiştirir; dolayısıyla kendisiyle kurduğu duygusal ilişkinin temelini de dönüştürür.

İnsanın, yalnızca kas gücünü genişleten makinelere kıyasla, kendi entelektüel, bilişsel ve duygusal işlevleriyle doğrudan bağlantı kuran araçlara daha yoğun bir libidinal yatırım yapması beklenir.

Batı insanının tüm çevresi artık onun her işlevsel kapasitesinin karmaşık teknolojik uzantılarıyla kuşatılmış durumdadır. Son derece uyarlanabilir bir hayvan olan insan, kendisiyle ve kimliğiyle kurduğu ilişki için böylesi teknolojik temelleri, gerçekten doğal (yani doğa tarafından verilmiş) olarak kabul edebilmiştir.

Belki de bu, insanın en mahrem duygularını bir bilgisayara yatırmanın uygunluğunu neden sorgulamadığını açıklamaya yardımcı olur. Ancak böyle bir açıklama, aynı zamanda, hesaplama makinesinin insanın dünyasına anlam verme konusunda özerk bir fail olarak hareket etme kapasitesinin çok daha genel bir teknolojik gaspının yalnızca uç bir ekstrapolasyonu olduğunu da ima eder.

Bu nedenle, insanın kendi özerkliğini bir makine olarak görülen bir dünyaya hangi daha geniş anlamlarda teslim etmeye başladığını sorgulamak önemlidir.

3.

Belki de paradoksaldır ki, insan en derin anlamda kendi özerkliğine inanmayı—bırakın ona güvenmeyi—tam da bıraktığı bir anda, özerk makinelere, yani uzun süreler boyunca tamamen kendi iç gerçeklikleri temelinde işleyen makinelere bel bağlamaya başlamıştır.

Eğer bu tür makinelere duyduğu güven, sınırsız bir umutsuzluk ya da kör bir inanç dışında bir şeye dayanacaksa, insan bu makinelerin ne yaptığını ve hatta nasıl yaptıklarını kendisine açıklamak zorundadır. Bu da onların iç “gerçekliklerine” dair bir kavrayış geliştirmesini gerektirir. Oysa insanların çoğu bilgisayarları en ufak bir derecede bile anlamaz.

Dolayısıyla, çok büyük bir kuşkuculuk sergileyemiyorlarsa (bir sahne sihirbazını izlerken başvurduğumuz türden), bilgisayarın entelektüel başarılarını açıklamak için başvurabilecekleri tek analojiyi, yani kendi düşünme kapasitelerine dair modellerini kullanmak zorunda kalırlar.

Bu nedenle hedefi aşmaları şaşırtıcı değildir; örneğin ELIZA’yı taklit edebilecek ama dil yetenekleri ELIZA’nın sınırında kalan bir insanı hayal etmek gerçekten imkânsızdır.

Yine, hesaplama makinesi çok daha genel bir olgunun yalnızca uç bir örneğidir. “Makine” sözcüğünün günlük kullanımında kastedilen çağrışım genişliği, ne kadar büyük olursa olsun, onun gerçek genelliğini ima etmeye yetmez.

Zira bugün, örneğin bürokrasiden, üniversiteden ya da neredeyse herhangi bir toplumsal veya siyasal yapıdan söz ettiğimizde, zihnimizde canlanan imge çoğu zaman özerk, makine benzeri bir süreçtir.

İşte bunlar, burada betimlediğim ELIZA’ya verilen tepkilerin daha derin anlamları bana açık hâle gelmeye başladığından beri beni terk etmeyi reddeden düşünceler ve sorulardır.

Yine de, Massachusetts Institute of Technology gibi, “bilim ve teknoloji etrafında kutuplaştığını” gururla ilan eden, teknolojinin tapınağı sayılabilecek bir kurumda öğretmen olarak teknolojik toplumun yoğun bir çekirdeği içinde derinlemesine yer almış (ve hâlâ yer almakta) olmasaydım, bunların bende bu denli güçlü izler bırakıp bırakmayacağından kuşkuluyum.

Orada, dünyanın güvenilir bilgisini sağlamada yalnızca modern bilime güvenen birçok meslektaşımla birlikte yaşar ve çalışırım. Özellikle “Savunma” Bakanlığı başta olmak üzere devlet kurumlarına sunulacak araştırma önerileri konusunda onlarla görüş alışverişinde bulunurum.

Bazen, önermeye yöneldiğimiz şeyleri ve bu önerileri desteklemek için

Kurduğumuz argümanların niteliğini düşündükçe, azımsanmayacak ölçüde ürkerim.

Ayrıca, sürekli olarak öğrencilerle karşı karşıya gelirim; bunların bazıları dünyayı tanımanın bilimsel olanlar dışındaki tüm yollarını çoktan reddetmiş ve yalnızca bu inanç içinde daha derin, daha dogmatik bir aşılanma aramaktadır (gerçi artık bu sözcük dağarcıklarında yoktur). Diğer bazı öğrenciler ise M.I.T.’deki makinelerin ve araçların tüm toplamının bile hayatlarına anlam kazandırmada önemli bir katkı sağlayamayacağından kuşkulanır. Bilim ve teknoloji etrafında kutuplaşmış bir eğitimin içinde bir ikilemin varlığını sezerler; bu eğitim, olgulara ayrıcalıklı bir erişim yolu açtığını örtük olarak iddia eder, fakat neyin olgu sayılacağına nasıl karar verileceğini onlara söyleyemez. Zanaatlarını öğrenmenin gerçek önemini kabul ederken bile, ne ilginç olgusal soruları yanıtlamaya ne de kuramsal sorunları çözmeye yönelmiş görünen projeler üzerinde çalışmaya isyan ederler.

Gündelik toplumsal gerçekliğimle bu tür yüzleşmeler, ELIZA ile yaşadığım deneyimin daha derin sorunların belirtisi olduğuna beni yavaş yavaş ikna etti. Eminim ki, bilgisayarlarla olan kendi deneyimimin bana bu kadar keskin biçimde çizdiği tabloyu anlamlandırmaya girişmeden, ne araştırma önerisi toplantılarına katılmaya ne de öğrencilerimin terapiye (evet, doğru sözcük budur) duyduğu ihtiyaca dürüstçe karşılık vermeye devam edebilecektim.

Elbette, bilgisayarların zaten son derece teknolojik olan toplumumuza girişi, göstermeye çalışacağım gibi, insanı kendisi hakkında giderek daha mekanik bir imgeye doğru iten önceki baskıları yalnızca pekiştirmiş ve büyütmüştür. Bu nedenle, bilgisayarın insan ve onun toplumu üzerindeki etkisine dair tartışmamı, çok daha büyük bir etkinin—yani insanın, anlayamayabileceği ve denetleyemeyebileceği teknolojiler ve teknikler karşısındaki rolü üzerindeki etkinin—özel bir tür kodlanması olarak görülebilecek şekilde kurgulamam önemlidir. Bu tema etrafındaki tartışmalar uzun zamandır sürmektedir. Ve son birkaç yılda yoğunlaşmıştır.

Zihin yapıları, mizaçları, ilgi alanları ve eğitimleri oldukça farklı olan bazı kişiler, aralarındaki farklar ve hatta birçok hayati konuda anlaşmazlıkları ne kadar büyük olursa olsun, yıllar boyunca bilimin ve teknolojinin dizginsiz ilerleyişinin ortaya çıkardığı koşullar hakkında ciddi kaygılar dile getirmişlerdir; bunlar arasında Mumford, Arendt, Ellul, Roszak, Comfort ve Boulding sayılabilir. Bilgisayar, bu tür tartışmalarda ancak yakın zamanda anılmaya başlanmıştır. Şimdi ise bilgisayar hakkında tam kapsamlı bir tartışmanın gelişmekte olduğuna dair işaretler vardır. Bir tarafta, kısaca ifade etmek gerekirse, bilgisayarların her şeyi yapabileceğine, yapması gerektiğine ve yapacağına inananlar; diğer tarafta ise benim gibi, bilgisayarların ne için kullanılmasının uygun olduğuna dair sınırlar bulunduğuna inananlar yer almaktadır.

İlk bakışta, bunun küçük bir bilgisayar teknisyeni grubunun dışında pek az önem taşıyan, kurum içi bir tartışma olduğu düşünülebilir. Ancak en temelde, teknolojik jargonla ne kadar gizlenirse gizlensin, mesele insan düşüncesinin her yönünün mantıksal bir formalizme indirgenip indirgenemeyeceği, ya da modern deyimle ifade edersek, insan düşüncesinin bütünüyle hesaplanabilir olup olmadığıdır. Bu soru, şu ya da bu biçimde, tüm çağlarda düşünürleri meşgul etmiştir. İnsan, varoluşunu düzenleyebilecek, ona anlam ve yön verebilecek ilkeler için her zaman çabalamıştır. Ancak modern bilim, soyut sistemlerini nesneleştiren ve somutlaştıran teknolojileri geliştirmeden önce, insanın evrendeki yerini tanımlayan düşünce sistemleri temelde hukuksaldı. Bunlar, insanın hemcinslerine ve doğaya karşı yükümlülüklerini tanımlamaya hizmet ediyordu.

Örneğin Yahudi geleneği, Tanrı ile insan arasında sözleşmeye dayalı bir ilişki fikrine dayanır. Bu ilişki, hem Tanrı hem de insan için özerkliğe yer bırakmak zorundadır ve fiilen de bırakır; çünkü sözleşme, anlaşmamayı seçme özgürlüğüne sahip taraflarca gönüllü olarak yapılan bir uzlaşmadır. İnsanın özerkliği ve buna karşılık gelen sorumluluğu, tüm dinsel sistemlerin merkezi bir meselesidir. Buna karşılık, modern bilimin doğurduğu ruhsal kozmolojiler mantıksal zorunluluk mikrobuyla enfekte olmuştur. Bunlar, en bilge bilim insanları ve filozofların elinde olmadıkça, artık yalnızca görünümlerin açıklamalarıyla yetinmez; şeylerin gerçekte nasıl olduklarını ve zorunlu olarak nasıl olmaları gerektiğini söyleme iddiasında bulunur. Kısacası, gerçeği kanıtlanabilirliğe dönüştürürler.

Modern bilimin bu yöneliminin bir sonucu olarak, “Hayatın hangi yönleri biçimselleştirilebilir?” sorusu, ahlaki bir soru olan “İnsanın yükümlülükleri ve sorumlulukları nasıl ve hangi biçimde bilinebilir?” sorusundan, “İnsan hangi teknolojik cinsin bir türüdür?” sorusuna dönüşmüştür. İçgüdülerinin her biri insanın bütünüyle bir makine olarak kavranabileceği fikrine karşı çıkan bazı filozoflar bile zamanın bu ruhuna yenik düşmüştür. Örneğin Hubert Dreyfus, fenomenolojinin ağır silahlarını insanın bilgisayar modeli üzerine yöneltir. /7/ Ancak argümanını bilgisayarların ne yapıp ne yapamayacağına dair teknik soruyla sınırlar. Oysa ben, bilgisayarlar insanı her bakımdan taklit edebilseydi bile—ki gerçekte edemezler—insanın dünyadaki yerini bulma yönündeki kadim ihtiyacı ışığında bilgisayarı incelemenin yine de uygun, hatta acil olacağını savunurum. Herkes için hayati önem taşıyan pratik meselelerin sonuçları, tartışmanın nasıl ve hangi terimlerle yürütüldüğüne bağlıdır.

Savunmayı amaçladığım görüşlerden biri aldatıcı biçimde açıktır: düşünürler olarak insanlar ile makineler arasında önemli farklar bulunduğu görüşü. Makineler ne kadar zeki hâle getirilirse getirilsin, yalnızca insanlar tarafından denenmesi gereken bazı düşünme edimleri olduğunu savunuyorum. Bu bağlamda gündeme getirmeyi amaçladığım toplumsal açıdan önemli bir soru, bilgisayarların toplumsal düzende sahip olması gereken doğru yerle ilgilidir. Ancak göreceğimiz gibi, mesele bilgisayarları aşar; çünkü nihayetinde, mantıksallığın kendisiyle ilgilenmek zorundadır—mantıksallığın bilgisayar programlarında kodlanıp kodlanmadığından bağımsız olarak.

Sıradan okur, insan düşüncesinin bütünüyle hesaplanabilir olduğunu savunan birinin varlığı karşısında, bir miktar fazlasıyla kuşkucu olmakta mazur görülebilir. Ancak tam da bu kuşkuculuk, modern bilimin insanın gerçekliği hayal etme biçimini ne kadar olağanüstü incelikle ve baştan çıkarıcı bir güçle etkilemiş olduğunun bir göstergesi olabilir.

Kuşkusuz, bugün iyi ve yararlı olarak gördüklerimizin çoğunu, bilgi ve bilgelik diye adlandırdıklarımızın büyük bir bölümünü bilime borçluyuz. Ancak bilim aynı zamanda bağımlılık yapan bir uyuşturucu olarak da görülebilir. Sınırsızca beslenmemiz yalnızca bizi ona bağımlı kılmakla kalmamış, birçok başka maddede olduğu gibi dozaj arttıkça bilimi yavaş etkili bir zehre dönüştürmüştür. Belki Francis Bacon’ın bilimin gerçek vaadini yanlış okumasıyla başlayan süreçte, insan akılcılık çağının kurulmasını arzulamaya ve bunun için çalışmaya baştan çıkarılmıştır; ancak akılcılık anlayışı trajik biçimde çarpıtılarak mantıksallıkla özdeşleştirilmiştir. Böylece neredeyse her gerçek insani ikilemi yalnızca bir paradoks, daha yüksek bir bakış açısından türetilmiş soğuk mantığın yerinde uygulamalarıyla çözülebilecek görünürde bir çelişki olarak görme noktasına çok yaklaşmış bulunuyoruz.

Hatta ölümcül savaşlar bile, profesyonel sorun çözücü sürüleri tarafından çözülecek sıradan problemler olarak algılanmaya başlanmıştır. Hannah Arendt’in Pentagon’daki yakın dönem politika yapıcıları ve uygulayıcıları hakkında söylediği gibi:

"Onlar yalnızca zeki değillerdi, aynı zamanda 'rasyonel' olmakla övünüyorlardı ... Gerçekliğin kendilerine sunduğu en farklı olguları birleştirecek, tercihen sözde matematiksel bir dille ifade edilmiş formüller bulmaya hevesliydiler; yani siyasal ve tarihsel olguları, fizikçilerin bir zamanlar doğal olguları zorunlu ve dolayısıyla güvenilir saydıkları gibi, açıklayacak ve öngörecek yasalar keşfetmeye hevesliydiler. Düşünmediler; hesapladılar ... Gerçekliğin hesaplanabilirliğine dair bütünüyle irrasyonel bir güven, karar alma süreçlerinin leitmotifi hâline geldi." /8/

Benzer biçimde, ırklar arasındaki ya da yönetilenlerle yönetenler arasındaki çatışmalar gibi neredeyse tüm siyasal karşılaşmalar, artık yalnızca iletişim başarısızlıkları olarak algılanır olmuştur. Toplumsal dokudaki bu tür yırtıklar, en son bilgi işleme tekniklerinin uzman uygulamalarıyla sistematik olarak onarılabilir—en azından buna inanılmaktadır. Ve böylece, bilimin bizzat başarısının bizi neredeyse bir aksiyom olarak benimsemeye alıştırdığı akılcılık-eşittir-mantıksallık denklemi, insan çatışmasının varlığını, dolayısıyla gerçekten ölçülemez insani çıkarların ve farklı insani değerlerin çarpışma olasılığını, dolayısıyla insani değerlerin varlığını bizzat inkâr etmemize yol açmıştır.

İnsan değerlerinin bir yanılsama olması mümkündür; nitekim B. F. Skinner böyle savunur. Eğer öyleyse, bu olguyu göstermek kuşkusuz bilimin görevidir; Skinner da (bilim insanı olarak) bunu yapmaya çalışır. Ancak o zaman bilimin kendisi de yanılsamalı bir sistem olmak zorundadır. Çünkü bilimin bize verebileceği tek kesin bilgi, biçimsel sistemlerin davranışına ilişkin bilgidir; yani, insanın bizzat kendisinin geliştirdiği ve içinde doğruluk ileri sürmenin, tıpkı bir satranç oyununda olduğu gibi, belirli bir tahta konumuna yasal hamleler dizisiyle ulaşılmış olduğunu ileri sürmekten ne fazla ne de eksik olduğu oyunlardan oluşan sistemlerdir.

Bilim, insanın deneyimleri hakkında ifadelerde bulunduğunu iddia ettiğinde, bunları kendi biçimciliklerinden birinin ilkel (yani tanımlanmamış) nesneleri, oyunlarından birinin taşları ile belirli bir insan gözlemleri kümesi arasındaki özdeşleştirmelere dayandırır. Bu tür karşılıklar kümelerinin doğru olduğu asla kanıtlanamaz. En iyi ihtimalle, yanlışlanabilirler; şu anlamda ki, bir sistemin sembollerinin biçimsel işlemleri, söz konusu karşılıklar kümesi ışığında okunduğunda, ampirik olarak gözlemlenen olgularla çelişen yorumlar veren sembolik yapılandırmalara yol açabilir. Dolayısıyla tüm ampirik bilim, yaygın olarak sanıldığı gibi ana kayaya değil, yanılabilir insan yargısının, varsayımının ve sezgisinin kaygan kumlarına dayanan kazıklar üzerine inşa edilmiş ayrıntılı bir yapıdır.

Yaygın inancın aksine, gerçek bir karşı-örnek olarak kabul edilirse belirli bir bilimsel kuramı kesinlikle yanlışlayacak tek bir sözde karşı-örneğin, genellikle o kuramın derhal terk edilmesine yol açtığı da doğru değildir. Büyük olasılıkla, bugün bilim insanlarının kendilerinin kabul ettiği tüm bilimsel kuramlar (ampirik dünyayla hiçbir ilişki iddia etmeyen salt biçimsel kuramlar hariç) bugün, eğer bütünüyle dikkate alınsalar mantıksal olarak onları geçersiz kılacak, ihmal edilemeyecek ağırlıkta çelişkili kanıtlarla karşı karşıyadır. Bu tür kanıtlar sıklıkla açıklanır (yani, örneğin gözlemsel hata gibi bir tür hataya atfedilerek açıklanır ya da önemsiz olarak nitelendirilir ya da —yani bir inanç olarak— henüz keşfedilmemiş bir ele alma yolunun bir gün bulunacağı ve bunun kabul edilmesine izin verirken yine de başlangıçta çeliştiği düşünülen bilimsel kuramlara dahil edileceği varsayılır). Bu şekilde bilim insanları, zaten zedelenmiş kuramlara dayanmaya ve onlardan “bilimsel olgu” çıkarsamaya devam eder.

Sokaktaki insan, bu tür bilimsel olguların kendi varoluşu kadar sağlam biçimde yerleşmiş, kendi varoluşu kadar kanıtlanmış olduğuna kuşkusuz inanır. Onun kesinliği bir yanılsamadır. Ne de olsa pratiğinde, herhangi bir şeyi yapmak ya da düşünmek için inançsızlığını askıya almak zorundadır. O, sahnede olup biteni anlayıp ona katılabilmek için bir süreliğine gerçek olaylara tanık olduğuna kendini inandırmak zorunda olan bir tiyatro seyircisine benzer. Bilim insanı da, en azından tartışma uğruna, çalışma hipotezine ve onun altında yatan geniş kuramlar ve varsayımlar yapısına inanmak zorundadır. Çoğu zaman bu “tartışma” tüm yaşamı boyunca sürer. Zamanla, başlangıçta yalnızca rolünü yaptığı şey haline gelir: gerçek bir inanır. “Tartışma” sözcüğünü bilinçli olarak seçiyorum; çünkü bilimsel gösterimler, hatta matematiksel ispatlar bile, temelde ikna etme eylemleridir.

Bilimsel ifadeler asla kesin olamaz; yalnızca az ya da çok güvenilir olabilirler. Güvenilirlik ise bireysel psikolojide yer alan bir terimdir; yani yalnızca bireysel bir gözlemciye göre anlamı olan bir terimdir. Bir önermenin güvenilir olduğunu söylemek, sonuçta, onu inanmamakta özgür olan bir özne tarafından inanıldığını söylemektir; yani yargısını ve (muhtemelen) sezgisini kullandıktan sonra, önermeyi inanmaya değer bulan bir gözlemci tarafından kabul edildiğini söylemektir. O halde, kendisi de kuşkusuz ve nihayetinde geniş insan değer yargıları dizilerine dayanan bilim, insan değer yargılarının yanılsamalı olduğunu nasıl gösterebilir? Bunu, insanı ve onun dünyasını anlamanın tek meşru yolu olma statüsünden vazgeçmeden yapamaz.

Ancak hiçbir salt mantıksal argüman, ne kadar ikna edici ya da etkileyici olursa olsun, bu gerçeği ortadan kaldıramaz: bilim, ortak bilgelikte tek meşru anlama biçimi haline gelmiştir. Bilimin yavaş etkili bir zehire dönüştürüldüğünü söylediğimde, şunu kastediyorum: ortak bilgelik tarafından bilimsel bilgiye atfedilen kesinlik —artık neredeyse evrensel biçimde yapıldığı için sağduyu dogması haline gelmiş bir atıf— diğer tüm anlama yollarını fiilen gayrimeşru kılmıştır.

İnsanlar bir zamanlar sanatları, özellikle de edebiyatı, entelektüel beslenme ve anlama kaynakları olarak görürlerdi; oysa bugün sanatlar büyük ölçüde eğlence olarak algılanmaktadır. Antik Yunan ve Doğu tiyatroları, Shakespeare sahnesi, bize daha yakın dönemde Ibsen’lerin ve Çehov’ların doldurduğu sahneler —bunlar okullardı. Öğrettikleri müfredatlar, temsil ettikleri toplumları anlamanın araçlarıydı. Bugün, arada sırada bir Arthur Miller ya da Edward Albee ayakta kalıp New York ya da Londra sahnesinde ders vermesine izin verilse bile, insanlar yalnızca kendilerine bilimsel olarak doğrulanmış bilgi olarak sunulan şeye açlık duymaktadır. Doyurmak isterler (lütfen sayfa 26’ya bakınız).

Böylece Charles Everett, artık terk edilmiş olan flogiston yanma kuramı üzerine ( Encyclopaedia Britannica, cilt VI, s. 34) şöyle yazar: "Kuramın öngördüğünün aksine, metal oksitlerinin özgün metallerden daha hafif değil daha ağır olması gibi olgulara işaret eden anti-flogistoncuların itirazları, flogistonun bir hafiflik ilkesi olduğu varsayımı ileri sürülerek yanıtlandı ya da niteliklerdeki değişimin tek önemli konu olarak görülmesiyle tamamen bir rastlantı olarak görmezden gelindi." Everett, kendi dönemlerinin her ikisi de büyük bilim insanı olan H. Cavendish ve J. Priestley’yi flogiston kuramının taraftarları arasında sayar.

Weizenbaum (12. Sayfadan Devam)

Kendileri Psychology Today gibi bilimsel kafeteryalarda ya da Masters ve Johnson’ın çalışmalarının popülerleştirilmiş sürümlerinde ya da L. Ron Hubbard tarafından ortaya konduğu şekliyle Scientology’de yer almaktadır.

Akılcılık–mantıklılık eşitliğine olan inanç, dilin kendisinin kehanet gücünü aşındırmıştır.

Sayabiliyoruz, ancak neyin saymaya değer olduğunu ve nedenini söylemeyi hızla unutuyoruz.

Girişe Notlar

M. Polanyi, The Tacit Dimension (New York: Doubleday, Anchor baskısı, 1967), ss. 3–4.
Bu “konuşma”, J. Weizenbaum’un "ELIZA—A Computer Program for the Study of Natural Language Communication Between Man and Machine" başlıklı çalışmasından alınmıştır, Communications of the Association for Computing Machinery, cilt 9, no. 1 (Ocak 1965), ss. 36–45.
K. M. Colby, J. B. Watt ve J. P. Gilbert, "A Computer Method of Psychotherapy: Preliminary Communication," The Journal of Nervous and Mental Disease, cilt 142, no. 2 (1966), ss. 148–152.
A.g.e.
T. Winograd, "Procedures as a Representation for Data in a Computer Program for Understanding Natural Language," Matematik Bölümü’ne sunulan doktora tezi (M.I.T.), 24 Ağustos 1970.
J. Weizenbaum, 1972.
Hubert L. Dreyfus, What Computers Can't Do (Harper and Row, 1972).
Hannah Arendt, Crises of the Republic (Harcourt Brace Jovanovich, Harvest baskısı, 1972), ss. 11 ve devamı.