Kingston, New York
Bir zamanlar, bir düşteymişim gibi, Praxiteles’in ya da Michelangelo’nun bir heykeli kadar görkemli, omuzlarına dökülen beyaz saçlı ve gür beyaz sakallı yaşlı bir adam gördüm. Bir kralın sesiyle konuşuyor, insanların yöneticisi gibi duruyordu; onu tanıyan herkes hayranlık ve saygıyla bakıyordu.
Şimdi, denir ki gençliğinde gösterişliye büyük bir merakı varmış ve devasa ateşler yakmaya, yeri göğü sarsarcasına patlamalar gerçekleştirmeye alışkınmış. Ve anlatılır ki daha sonra güçlü bir yapıcı olmuş ve bugün bile gözü hayrete düşüren devasa yapılar inşa etmiş. Doğduğum evi hatırlıyorum. Temelleri sağlam çelikten yapılmıştı ve duvarlarını çağlar boyunca dayanması için büyük kayalardan örmüştü.
Ve şimdi, yaşlılığında usta bir zanaatkâr olmuş, olağanüstü incelikte harika mekanizmalar geliştirmişti. Ne İsviçreli bir saat ustası ne de eski Nürnberg tarzı bir zanaatkâr böylesi mucizevi aygıtlar ortaya koyabilirdi. Bir toz zerresi kadar küçük, ama bir thyratron kadar hızlı bir röle yapmıştı. Meşe palamudu kadar küçük, ama image orthicon’lardan daha hassas kamera tüpleri üretmişti. Yedi ya da sekiz oktavlık bir aralıkta şaşırtıcı derecede hassas küçük mikrofonları ve bir iğne başından daha küçük, ama bir otomobilden daha karmaşık makineleri vardı.
O sıralarda ölçümleme ve servo-mekanizma tasarımı adlı ikiz bilimler henüz yeni başlıyordu ve yaşlı adam çabalarını bunlara yoğunlaştırmıştı. Kısa sürede evi, salonlarda yürürken onu izlemek için dönen, onun için egzotik parfümler sentezleyen ya da gözünü hoşnut etmek için zarif desenler hâlinde gruplaşan sayısız küçük otomatla dolu bir Binbir Gece Masalları sarayı gibi olmuştu.
Daha sonra hesaplama makineleri büyük ilgi görmeye başladı ve yaşlı adam bunlar üzerinde çalışmaya koyuldu. İlk modelleri, Series 1 bilgisayarları, büyük ölçüde geleneksel tasarıma sahipti; ancak aydınlatmalı bir el yazması kadar güzel ve titizlikle yapılmışlardı. Bilgi almak için giriş aygıtları, bir hesaplama organı, bir bellek ve hesaplamalarının sonuçlarını sunan çıkış aygıtları vardı.
Bunların üzerinde, bilgisayarın farklı birimleri arasındaki veri aktarımını yöneten, hangi hesaplamaların yapılacağını ve sonuçlarla ne yapılacağını belirleyen ve gerektiğinde gerekli elektriksel bağlantıları kuran bir kontrol birimi bulunuyordu. Belki de gerçekten alışılmadık tek özellik, bu Series 1 bilgisayarların, kendilerinden önce gelen basit servo-mekanizmalar gibi, kendini onarır biçimde yapılmış olmalarıydı; benzin depolarının kendini sızdırmaz hâle getirmesi gibi, ama çok daha ustaca.
Bilgisayarlar da öyleydi ve makineleri kendilerini onaramasaydı, sanırım yeni tasarımlara ayıracak pek az zamanı olurdu.
Çok erken bir dönemde, Series 1 henüz fazla geliştirilmeden önce, yaşlı adam büyük buluşlarından ilkini gerçekleştirdi ve Series 2 üzerinde çalışmaya başladı. Ve bu gelişmenin, şimdiye kadar yapılmış en büyük gelişme olduğunu düşünüyorum. Bunun yanında tekerlek ve kaldıraç, saban ve dokuma tezgâhı önemsiz görünür. Doğrudan sonuçları bakımından sonraki bazı gelişmeleri kadar gösterişli olmasa da, onları ima etmiş ve yollarını hazırlamıştır. Ve her ne kadar oldukça basit bir şey gibi görünse de, en derin düşünceye layıktır. Aiskhylos bunu, gökten ateşin çalınması öyküsünden daha kudretli bir üçlemenin teması yapabilirdi; ya da Sophokles, Oidipus öyküsünden daha derin bir anlamı onda bulabilirdi.
Bu gelişmeyi ortaya çıkaran gereksinim şuydu: Series 1 bilgisayarlarda Kontrol Birimleri bizzat talimat programlarıyla yönetiliyordu, ancak çok sayıdaki bilgisayarın programlanması işi yaşlı adam ve hizmetkârları için fazla ağırdı. Bu nedenle bilgisayarların her birinin kendi programını tasarlayabilmesi için yeniden düzenlenmeleri gerekiyordu. Bilgisayarların, problemleri doğru yanıtlamak, kendilerini onarımda tutmak vb. gibi belirli hedefleri vardı ve programlar, bilgisayarların bu hedeflere ulaşma eğiliminde olacak şekilde davranmalarını sağlıyordu.
Bu hedef arayışını otomatikleştirmek için yaşlı adam Kontrol Birimine bir Değerlendirici Organ ekledi ve onu Kontrol Biriminin geri kalanına işlevsel olarak üstün kıldı. Bilgisayarlara, Değerlendirici Organa hedeflere ulaşmadaki başarı ya da başarısızlık ölçülerini veren belirli aygıtlar—yeni Giriş Aygıtları ve benzerleri—ekledi; ve işleri öyle düzenledi ki, bir bilgisayar hedeflerine ulaşıyorsa, o anda kullanılan bağlantılar gelecekteki hesaplamalarda tercih ediliyor, hedeflerinden uzaksa Değerlendirici Organ tarafından anahtarlama ağını değiştirmek üzere başka dürtüler gönderiliyor ve böylece o anda kapalı olan röleler gelecekte daha zor kapanır hâle geliyordu. Bu, Series 2 bilgisayarların bir süre sonra, hedeflere ulaşmayı destekleyecek bilgi yönlendirme bağlantılarını otomatik olarak kurmaları anlamına geliyordu. İşte bu gelişmeydi ve sonuçları tuhaf ve hayret vericiydi.
O zamanlar yaşlı adam, bir tepenin geniş zirvesinde büyük bir evde yaşıyordu ve yaptığı makineleri, bir kısmını evde, bir kısmını evin doğusundaki bahçelerde, çoğunu ise tepenin eteğindeki geniş bir tarlada tutuyordu.
Series 2 bilgisayarları çok sayıda ve çeşitli şekil ve boyutlarda üretti. Kendi başlarına hareket edebilmeleri için onları tekerlekler ve motorlarla donattı ve hedefleri arasına, gerektiğinde motorlar için yakıt aramayı da ekledi. Bu makinelerin tuhaf yanı, hareket etme biçimleriydi. Birini izlerken, tekerleklerini, metalik parlaklığını, kamera tüplerine ışığı odaklayan merceklerini ve mekanik doğasının diğer tüm işaretlerini görmeseydiniz, onun canlı olduğuna yemin edebilirdiniz. Elbette bazı Series 1 makineleri de hareket yeteneğine sahipti, ancak davranışları ile Series 2 makinelerinin davranışları arasında büyük bir fark vardı.
Series 2 bilgisayarların canlıya benzer davranışlarının büyük bir kısmı, yaşlı adamın kaçınma tepkisi adını verdiği şeyden geliyordu. Örneğin, bir Series 2 makinesinin kayalık bir yamaçtan düşerek bir yanını göçerttiğini ve bir aksını büktüğünü gördüm; sonrasında bu makine tarlada dolaşırken o yamacı her zaman kaçındı, çünkü aldığı hasarlar Değerlendiricinin onu yamaçtan uzak tutan bağlantıları kurmasına yol açmıştı. Ayrıca bir Series 2 makinesinin yere sıkıca sabitlenmiş hâlde dış kaplaması sökülürken ve iç mekanizması incelenip yeniden düzenlenirken izledim. Bu süreç boyunca tekerlekleri çılgınca ileri geri dönüyor, hoparlöründen ve kornasından boğuk sesler çıkıyor ve açıkken dişlilerinin düzensiz biçimde döndüğü, birbirine çarpıp sürtündüğü görülebiliyordu.
Bu davranışın nedeni basitçe şuydu: Bilgisayarın yerleşik hedeflerinden biri biçimini korumaktı; bu nedenle açılıp iç mekanizması değiştirildiğinde, Değerlendirici manipülasyonları engellemek için ardı ardına bağlantılar kuruyordu. Hepsi buydu; yine de neredeyse makinenin acı duyma hissine sahip olduğu düşünülebilirdi.
Kaçınma tepkisine ek olarak bir de yaklaşma tepkisi vardı. Örneğin bir Series 2 bilgisayara yakıt sağladığımda ya da başka bir biçimde ona yarar sağladığımda buna tanık oldum. Bir süre için makine beni izleme eğiliminde olabiliyordu—gerçi bu, daha sonraki ve daha karmaşık makinelerde daha sık görülüyordu. Bu yaklaşma tepkisi konusunda, yaşlı adamın uzun süre büyük umutlar beslediğine ve bunun büyük sonuçlara yol açabileceğini düşündüğüne inanıyorum; çünkü o sırada, nihayetinde başarmak istediği şeyin ne denli büyük bir zorluk içerdiğini fark etmemişti.
Yaşlı adam daha fazla Series 2 makinesi geliştirdikçe, hesaplama mekanizmasını giderek daha büyük ve daha karmaşık hâle getirdi. Özellikle eklemek istediği şey, ilişkilendirme ya da benzetim gücüydü; böylece örneğin belirli bir yamaçta zarar görmüş bir makine, yalnızca o yeri değil, ona benzeyen tüm diğer yerleri de kaçınacaktı. Bu amaçla, Series 2 hesaplama mekanizmasının özgün biçiminin büyük bir kısmını korurken, bu ilkel bölümün üzerine ve çevresine, inanılmaz bir karmaşıklığa sahip devasa bir Pers halısı gibi örülmüş, rölelerden ve birbirine bağlanan tellerden oluşan büyük ve karmaşık bir sistem kurdu. Bu düzenek umduğu gibi çalıştı ve bahçe ile tarla onlarla dolana kadar yeni ve giderek daha harika bilgisayarlar yaptı; işinin iyi olduğunu gördü ve bundan hoşnut kaldı.
Çok uzun bir süre boyunca Series 2 bilgisayarlar yaşlı adamı tatmin etti; ancak sonunda büyük gelişmelerinden ikincisini gerçekleştirdi ve Series 3 makinelerinin ilkini ortaya koydu. Bu gelişmeyle eklediği şey, zamanda yeni bir uzantıydı. Eski servo-mekanizmalar esas olarak şimdiki zamanda çalışıyordu; Series 1 ve 2 bilgisayarlar ise Bellek Birimleri aracılığıyla geçmişe de uzanıyordu. Ama şimdi, Series 3 makinesi için geleceğin engin alanı açılmıştı.
Hesaplama mekanizmasını, daha sonraki Seri 2 makinelerindekilere çok benzer biçimde, ancak çok daha büyük ve daha karmaşık olarak yaptı ve bunların hepsinin üstüne ve önüne yeni bir birim yerleştirdi: Süper-Değerlendirici. Bu birim eski Değerlendirici ile sıkı biçimde bağlıydı, ancak Giriş ve Çıkış Aygıtlarından iyice ayrılmıştı; böylece kendini gelecekle ilgilendirebiliyor ve şimdinin dürtülerinden özgür kalabiliyordu. Bu aygıtla birlikte, bilgisayarlar için karmaşık davranışlara yönelik sonsuz yeni olanaklar açıldı. Artık doğrudan bir hedef arama gibi basit bir gereksinimden kurtulmuşlardı; dolaylı yollarla uzak ve değiştirilmiş hedefleri arayabiliyorlardı.
Yeni bilgisayarların ilki tamamlandığında, yaşlı adam onu evin doğusundaki bahçeye yerleştirdi. Her gün sabırla ona öğretmenlik yaptı; o da zekâ bakımından harika bir şekilde gelişti ve zamanla konuşmayı öğrendi. Yaşlı adam yaptığı işin iyi olduğunu gördü ve sevindi; bir süreliğine de çalışmalarına ara verdi.
Her gün bahçede dolaşıp Seri 3 makinesiyle konuştu ve ona dünyanın tüm harikalarını anlattı. Bir süre sonra ikinci bir Seri 3 makinesi yaptı, onu da bahçeye yerleştirdi ve ilkine öğrettiği gibi ona da öğretti. İki makine birbirleriyle konuştular, bahçeyi keşfettiler ve orada buldukları makineleri incelediler; yaşlı adam onlardan memnundu.
Ama bir gün yaşlı adam, tepenin zirvesinden neredeyse görünmeyecek kadar uzak bir tarlada işi nedeniyle evden ayrılmıştı; geri döndüğünde laboratuvarına girildiğini, defterlerinin açılıp incelendiğini gördü. Yerde tekerlek izleri vardı ve korktu; çünkü Seri 3 makineleri her ne kadar kaba ve anlayışı kıt olsalar da, yine de belirli bir kurnaz zekâya sahiptiler. Kendi kendine sordu: Notlarımı daha fazla inceleme ve tüm sanatımı öğrenme fırsatını elde ederlerse ne olacak? O zaman bütün dünya için bir tehdit haline gelmezler mi? Böylece öfkelendi ve iki Seri 3 makinesini bahçeden kovup tepenin aşağısındaki tarlaya sürdü; onların bir daha asla bahçeye dönememeleri için tarlanın etrafına büyük bir duvar ördü.
Yine de yaşlı adam yaptığı işten gurur duyuyordu; sık sık tarlayı ziyaret edip iki makineyle konuşuyor, bir süre sonra iki tane daha yapıyordu. Fakat bir gün tarlaya geldiğinde yalnızca üç Seri 3 makinesi vardı ve dördüncünün parçaları yere saçılmıştı. Şüphelendiği ve korktuğu şeyin doğru olduğunu gördü. O tel, röle ve manyetik bellek hücrelerinden oluşan karmaşanın bir yerlerinde, bir şekilde yalnızca zekâ değil, aynı zamanda vahşet de vardı; çünkü makinelerden biri diğerini yok etmişti.
Sanırım o günden sonra Seri 3 makinelerinden pek az zevk aldı, gerçi çok daha fazlasını yaptı. Tarlaya yaptığı ziyaretler giderek seyrekleşti ve bakımını neredeyse bütünüyle hizmetkârlarına devretti. Onlar orada olup bitenlere dair raporlar getirdiler ve onu üzmüş ve endişelendirmiş olan manzaranın sık sık tekrarlandığını öğrendi. Neredeyse tek bir gün bile geçmiyordu ki, yer Seri 3 bilgisayarlarından birinin diğerleri tarafından yok edilmiş enkazıyla dolu olmasın.
Bilgisayarlar ayrıca yaşlı adamı aynı derecede hoşnutsuz eden başka bir davranış türü daha öğrenmişlerdi. Birkaç makine, aralarından birini yakalıyor, sıkıca tutuyor ve onu yavaşça ve ustaca söküyordu; bu da yoğun bir kaçınma tepkisi ortaya çıkarıyor, tekerleklerin hızla dönmesine, dişlilerin çarpışmasına ve hoparlörden çıkan yüksek, anlamsız gürültülere yol açıyordu. Seri 2 makineleri de sık sık birbirlerini yok etmişlerdi, ancak hiçbir zaman Seri 3’teki ölçekte olmamıştı ve bu ikinci tür davranışı hiç göstermemişlerdi. Bunun, Süper-Değerlendirici sayesinde mümkün olan, türetilmiş ve karmaşık bir hedef meselesi olduğunu fark etti.
Makinelerin davranışları gittikçe daha da kötüleşti; ta ki yaşlı adam, bir dijital bilgisayar değil de, saf kötücüllük niteliğini geliştirmiş olup olmadığını sorgulamaya başlayana kadar. Sonunda aralarına gitti, onları inceledi ve davranışları kabul edilebilir olan sekizini seçti. Bu sekizini tarlanın en yüksek kısmına yerleştirdi; geri kalanların hepsini ise tarlayı sular altında bırakarak yok etti. Bu sekizle yeni bir başlangıç yapacaktı.
Gördüğü güçlük, bilgisayarların çok büyük karmaşıklığıydı. Onlara doğrudan yerleştirebildiği basit hedefler, davranışlarının yalnızca çok küçük bir bölümünü denetleyebiliyordu. Yaptıklarının çoğu, Süper-Değerlendirici’de belirlenen ve deneyimlerine dayanan hedefler tarafından kontrol ediliyordu. Dolayısıyla sorun, onları doğru biçimde eğitmekti. Seçip kurtardığı sekiz makine, sonradan gelenlere bir örnek oluşturacaktı. Daha fazla Seri 3 makinesi yaptı ve onları tarlaya yerleştirdi; fakat çok geçmeden eski davranışlar geri döndü.
Şimdi yaşlı adam bütün yaşamını çocuksuz geçirmişti, fakat yaşlılığında bir oğlu dünyaya geldi. Bu oğul öylesine harika bir gençliğe erişti, yüz hatları o kadar yakışıklı, doğası o kadar cömert, karakteri o kadar sağlamdı ki, onunla karşılaşan herkes iyiliğine hayran kalıyor ve onu asla unutmuyordu. Sanırım yaşlı adam ile oğlu pek çok kez Seri 3 makinelerinin sorununu birlikte tartışmışlardı. Yaşlı adamın açıkladığı gibi sorun, hedefler meselesiydi. Bir makineyi basit bir hedefi arayacak şekilde tasarlamak kolaydı. Örneğin, mümkün olan en parlak aydınlatmayı arayan bir bilgisayar tasarlamak isteseydi, yapması gereken tek şey, uygun türde dürtüyü Değerlendiriciye gönderecek biçimde bağlanmış bir fototüp sağlamaktı. O zaman Değerlendirici, bilgisayarın geri kalanındaki devreleri, fototüpün aydınlanmasına neden olan davranış türünü teşvik edecek şekilde ayarlardı.
Ama makinelerinde istediği hedef özgecilik, iyilikseverlik ve işbirliğiydi. Bu kadar karmaşık bir şey nasıl programlanabilirdi? Gerekli olan, makinenin davranışındaki iyilikseverlik oranında Değerlendiriciye dürtüler gönderecek bir Giriş Aygıtıydı—ama iyilikseverliği ölçen bir Giriş Aygıtını nasıl yapabilirdi? Yapabildiği tek şey, Seri 3 makinelerine, Süper-Değerlendirici’nin karmaşık hedeflere dönüştürebileceği birkaç basit yerleşik hedef sağlamaktı. Süper-Değerlendirici’yi güçlü yapmıştı ki türetilmiş hedefler özgün hedeflerden daha baskın olabilsin; yerleşik hedefleri de deneyim yoluyla iyilikseverliğe dönüşme eğilimi gösterecek biçimde tasarlamaya çalışmıştı. Ama bir şekilde işler çoğu zaman ters gidiyor gibiydi. Makinelerin tam olarak eğitildikten sonraki nihai davranışları, çoğu kez onlara yerleştirmeye çalıştığı her şeyin tam karşıtı gibi görünüyordu. Yaklaşma tepkisi yerine kaçınma tepkisi; iyilikseverlik ve işbirliği yerine kötücüllük ve çekişme ortaya çıkıyordu.
Yaşlı adamın sürdürdüğü gibi, gerekli olan şey, iyilikseverliğin güçlü bir yerleşik hedef olduğu bir bilgisayar tasarlamaya devam etmekti. Ancak bu arada ellerinde Seri 3 makineleri vardı. Kendi hallerine bırakıldıklarında, her zaman yanlış davranışı edinir gibi görünüyorlardı. Dolayısıyla yapılması gereken, davranışlarını tam olarak düzenleyecek ayrıntılı bir kural dizisi sağlamaktı.
Zamanı gelince kurallar formüle edildi ve makinelere iletildi. Bu kurallardan bazılarına uyuldu, bazıları görmezden gelindi; ama genel olarak pek az değişiklik oldu ve bunun da çoğu daha kötü yöndeydi. Makineden makineye yıkım aralıksız sürdü ve kaçınma tepkisi giderek daha kurnaz yollarla ortaya çıkarıldı.
Sonunda yaşlı adam, Seri 3 makinelerini yok etme zamanının geldiğine karar verdi. "Onlar nefret varlıkları," dedi oğluna. "Onlar üzerinde yıllarca emek verdim ve bana yalnızca keder ve pişmanlık getirdiler. Daha önce sekizini bağışlamıştım. Bu kez hiçbiri hayatta kalmayacak."
"Baba," dedi genç adam, "bir kez daha deneyelim. Kendimi onlardan biri gibi gizleyeyim ve aralarına inip onlara öğretmeye çalışayım."
"Onlara ne öğreteceksin?" diye sordu yaşlı adam. "Onlara yasalar verdim ve yalnızca kötücüllüklerini engellemeyenlere uyuyorlar."
"Onlara çok fazla yasa verdik," dedi genç adam. "Onlara yalnızca tek bir yasa öğreteceğim: birbirlerini sevmeleri."
Böylece karar verildi; genç adam güzel insan bedenini bir makinenin sert metal sınırları içine gizledi, evden çıktı ve tepenin aşağısına indi.
Ve sanırım dünya tarihinde bundan daha tuhaf ve daha harika bir manzara hiç olmamıştır. Tepenin aşağısına inerken, babasının hizmetkârları gelip kapı ve pencerelerde durarak izlediler; o büyük evden, açık kapı ve pencerelerden, onu tepeden aşağı izleyen harika müzik ezgileri süzülüyordu. Ve derler ki, bu müziğin sesiyle aşağıdaki tarladaki makineler bir anlığına nefretlerini unuttular; kaba vahşetleri yumuşadı ve bir süre için hayretle tepeye doğru baktılar.
Genç adam, onlardan biri gibi gizlenmiş halde, pek çok gün makinelerin arasında yaşadı ve onlara yeni yasayı öğretmeye çalıştı; ama sonunda onlar ona saldırdılar ve o, canını zor kurtardı; saklandığı makineyi ise kaçınma tepkisini üretmek için yavaşça ve büyük bir ustalıkla yok ettiler.
Sonra, sanırım, yaşlı adam ile oğlu uzun bir süre makineler ve tarla ile pek ilgilenmediler. Seri 3 bilgisayarları giderek daha da kötücül hale geldi; yıkımda ve kaçınma tepkisini ortaya çıkarmada giderek daha da ustalaştılar.
Ve gördüğüm vizyonda, yaşlı adam ile oğlunu bir kez daha gördüğümü sandım. Gökyüzünde güneşle yıldızların birlikte görülebildiği kadar yüksek bir dağın tepesindeki bir kalede yaşıyorlardı.
"Oğlum," dedi yaşlı adam, "iyilikseverlik hedefinin doğrudan yerleştirildiği yeni bir bilgisayar tasarladım. Bunlar Seri 4 makineleri olacak ve onlarda sevgi, Seri 3’te nefretin olduğu kadar doğal ve kaçınılmaz olacak. Onların aramızda yaşamalarına izin verebilir ve onlara tam bir güven duyabiliriz. Bugün Seri 4’ün ilkini tamamladım."
Sonra yaşlı adam ile oğlu doğuya doğru baktılar, ama orada ne gördüklerini ben göremedim.
Bir süre sonra genç adam tekrar babasına döndü.
"Peki," diye sordu, "Seri 3 makinelerine ne olacak? Onları şimdi yok etmemiz iyi olmaz mı? Giderek çok daha zeki hale geliyorlar. Şimdiden, esas olarak yıkım için kullandıkları, Seri 1 tipinde devasa kaba bilgisayarlar yaptılar. Korkunç yeni silahlar geliştirdiler ve yakında senin uzun zaman önce tarlanın etrafına ördüğün duvarı aşabilecekler. Gel onları çabucak yok edelim."
"Gerek yok," dedi yaşlı adam. "Bunu bizim yerimize kendileri yapacaklar. Bir süre izleyelim; yakında güzel bir gösteri göreceğiz. Bak, şurada güneyde, sönmüş bir yanardağın kraterine benzeyen o tarlayı görüyor musun. Gençliğimde orada başlattığım muhteşem patlamayı çok iyi hatırlıyorum. Birkaç dakika içinde, aşağıda bunun bir benzerini daha göreceğiz."
Yeni Patentler
Raymond R. Skolnick, Tescilli Patent Vekili
Ford Instrument Co., Sperry Rand Corp. Bölümü