Edmund C. Berkeley
Berkeley Enterprises, Inc.
815 Washington St.
Newtonville, MA 02160
Edmund C. Berkeley tarafından yazılan The Computer Revolution adlı kitabın, Doubleday & Co., Inc., Garden City, NY, 1962, 249 s., 16. bölümüne dayanmaktadır; izin alınarak yeniden basılmıştır.
Bilgisayar Bilimcileri Toplumsal Sorumlulukların Yargıcı Olmalı mı?
Tartışılması ve çözümlenmesi gereken temel soru, temel sav şudur:
Bilgisayar bilimcilerinin toplumsal sorumluluğu, etik alanında, toplumsal bilimler alanında yer alan bir konudur; bilgisayarlar ve veri işleme alanının bir konusu değildir. Bir bilgisayar bilimcisinin bir toplumsal bilimci olarak yetkin olması beklenemez. O bir iş yapmak üzere işe alınır; bilgisayarlarla yaptığı çalışmanın sonuçları ya da etkileri üzerine düşünmesi için işe alınmaz.
Bu, onun yetkinlik alanının dışındadır ve işvereninin sorumluluğundadır.
Mantıksal yanılgı, gerçek bir değişim gerçekleştiğinde, bu değişime gerçekçi biçimde yanıt verememektir.
Bilgisayar bilimcilerinin, bilgisayar bilimcisi olarak özel toplumsal sorumlulukları yoktur; yalnızca tüm bilim insanlarının ve yurttaşların sahip olduğu sorumluluklara sahiptirler.
Bu savın çeşitli karşı argümanları vardır; ancak insan bu savla ilk kez aniden karşılaştığında, ona iyi ve açık bir yanıt veremeyebilir.
Yanıtı olabildiğince canlı kılmak için, belirli bir çilingirin öyküsüyle başlayalım.
Çilingirin Öyküsü
Bir zamanlar kilit ve anahtar yapma işiyle uğraşan ve bu işte çok usta olan bir adam vardı. Bir gün dükkânına bir yabancı girdi ve ona şöyle dedi: “Belirli bir kasayı açacak bir anahtar yapmanı istiyorum.”
Çilingir ona, “Kimin kasası bu?” dedi. Yabancı, “Kimin kasası olduğunu kafana takma. Anahtar için sana cömertçe ödeme yapacağım. Gözlerini bağlayacağım ve seni kasanın bulunduğu yere götüreceğim. İstediğin tüm aletlere sahip olabilirsin — parasını ben öderim — ve sen bana bir anahtar yaparsın. Ayrıca, anahtarı yaparken son derece ilginç bazı bilimsel kuramlar üzerinde çalışma fırsatın olacak ve kasa açıldıktan sonra, fazla bilgi açığa çıkarmayan bazı makaleler yayımlamana izin vereceğim. Bir düşün, yarın geri geleceğim.”
Bunun üzerine çilingir, “Kafanı takma” sözü, gözlerinin bağlanması ve gizlilik hakkında düşündü; ancak geçimini sağlamanın yeterince zor olduğunu biliyordu ve yabancının vaatleri cazip ve heyecan verici geliyordu. Kendi kendine, “Ben gitmezsem bu adam başka bir çilingir bulur,” dedi ve gitmeye karar verdi.
Ertesi sabah yabancı onu almaya geldi, o da gözlerinin bağlanmasına izin verdi ve gitti.
Çilingir birkaç yıl boyunca kasayı açmaya çalıştı ve sonunda başardı. Ancak yabancı onun içine bakmasına izin vermedi; çilingirin gördüğü tek şey kapının açılmasıydı. Yabancı daha sonra ona şöyle dedi: “İşte ödemen — şimdi git ve bu konuda konuşmamayı unut, yoksa başın büyük belaya girer.”
Birkaç hafta sonra çilingir, gazetede, yabancının kasadan çıkardığı şeyin, eşekarısı büyüklüğünden kartal büyüklüğüne kadar değişen uçan silahlar için son derece zeki bir yönlendirme mekanizması olduğunu okudu; bu mekanizma, dünyadaki herhangi bir kişiyi, herhangi bir topluluğu, herhangi bir kasabayı, herhangi bir şehri tam olarak saptayıp yok etmeyi mümkün kılıyordu.
Ayrıca yabancının, bundan böyle dünyanın tam olarak onun buyurduğu şekilde hareket edeceğini ilan ettiğini ve emirlerine ya da buyruklarına karşı çıkan her türlü muhalefetin kesin ve bütünüyle yok edileceğini bildirdiğini okudu.
Mayıs–Haziran 1985 için COMPUTERS and PEOPLE
Ortaya Konan Sorular
Bu öykü bize en azından dört soru sunmaktadır:
- Öykü bütünüyle uydurma ve olanaksız mıdır?
- Yabancı bir suçlu muydu?
- Çilingir yabancıyı bir suçlu olarak tanıyabilir miydi?
- Çilingir doğru olanı mı yaptı?
Bu öykü, elbette kurgudan çok bir mesel niteliğindedir. Geçmiş ve güncel tarihin olgularıyla ve geleceğe ilişkin öngörülerle örtüştüğü pek çok nokta olduğunu üzüntüyle biliyoruz.
Yabancının Suçluluğu
İkinci soruya gelince, bana göre yabancının suçluluğunu tartışmamız gerekli değildir; çünkü bu konu, II. Dünya Savaşı’ndan sonra Nazi Almanyası liderlerinin yargılandığı Nürnberg Mahkemesi ile zaten karara bağlanmıştır.
Bu dava, Whitney R. Harris’in Tyranny on Trial: The Evidence at Nuremberg adlı kitabında ayrıntılı biçimde anlatılmaktadır. Kitapta, bu davaya katılmış olan Amerika Birleşik Devletleri Yüksek Mahkemesi yargıcı Robert H. Jackson’ın bir önsözü yer almakta ve Alman savaş suçlularının yargılanmasının tam öyküsü sunulmaktadır. Yazar Harris, Yargıç Jackson’ın ekibinde duruşma avukatı olarak görev yapmıştır.
Bu anlatım, Hitler yönetimi altındaki Alman devletinin, kalın bir yalan perdesi altında saldırgan savaşı nasıl ve ne şekilde planladığını, hazırladığını ve yürüttüğünü gösteren olağanüstü, nefes kesici ve ürpertici bir öyküdür; dikkatle okunmaya değerdir.
Şimdi 38. bölümden, “Hukuk ve Saldırgan Savaş”tan (s. 514 ve devamı) bir alıntı yapayım:
Termonükleer çağın ilk birkaç yılında, insanlığın ellerine, kullanıcıları kadar hedeflenen kurbanları da tehdit edebilecek ölçüde yıkıcılığa sahip yeni bir güç potansiyeli verilmiştir. Savaş her zaman öldürücü olmuştur; şimdi ise intihara sürükleyici hâle gelmiştir. Uygarlık, savaşı sona ermiş olarak görebilir; çünkü savaşın yeniden başlamasına dayanamaz.
[Savaşın sona ermesine yol açabilecek] ikinci etken, saldırgan savaşın evrensel biçimde mahkûm edilmesidir; bunun hem kaynağı hem de yansıması Nürnberg yargılamasıdır. İkinci Dünya Savaşı’ndan önceki uzun yıllar boyunca, dünya halkları saldırgan savaşı haksız ve kötü olarak düşünmüştü. Nürnberg yargılaması, İkinci Dünya Savaşı’nı başlatmaktan sorumlu bireyleri cezalandırarak bu duyguyu dile getirdi.
[Saldırgan savaş] kavramının sınır durumlarda uygulanmasının zorluğu, mahkemelerin açıkça ortaya çıktığında mazur görülemez saldırgan eylemi tanıma konusunda güçsüz olduğu anlamına gelmez.
Sanıklar, davranışlarının ahlaki yönleri konusunda şaşırmış olamazlardı. Kimse vicdanında en ufak bir sızı olmadan milyonları ölüme göndermez.
Saldırgan savaş, yalnızca ona bu adın verilmesiyle savunma savaşı hâline gelmez.
Hitler tarafından emredilen toplama kamplarındaki sivillerin katledilmesi, Hitler’in Alman devletinin başı olarak kitlesel öldürmeleri yönetmiş olmasına rağmen, Hitler’in suçuydu.
Sonuçta hukuki kovuşturmanın temelinde ahlaki kınama yatar. Devlet başlarının emriyle masum insanların öldürülmesi, ister savaşla bağlantılı olarak sivil nüfusların öldürülmesi olsun ister hukuka aykırı saldırıya direnen birliklerin öldürülmesi olsun, esasen aynı ahlaki suçlamaya tabidir.
Elbette, savaş gibi bu denli temel bir konuda bile, bir başkasının emirlerine uygun hareket etmekten mutlak dokunulmazlık iddia edilmesine kimsenin izin verilmemelidir.
Bölümün neredeyse sonunda, Uluslararası Askerî Mahkeme’den alıntı yapılır:
“Savaş özünde kötü bir şeydir. Sonuçları yalnızca savaşan Devletlerle sınırlı değildir, tüm dünyayı etkiler. Bu nedenle saldırgan bir savaşı başlatmak yalnızca uluslararası bir suç değildir; diğer savaş suçlarından, bütünüyle birikmiş kötülüğü kendi içinde barındırması bakımından ayrılan en üst düzey uluslararası suçtur.”
Harris şöyle devam eder:
Bu ifade hukuktur ve dahası, “Bu hukuk her zaman, her yerde ve herkes için; galipler ve mağlup olanlar için geçerlidir.” Saldırgan savaşın başlatılması ve yürütülmesi artık tartışmasız biçimde suçtur. Hiçbir mahkeme tarafından bundan daha önemli bir karar verilmemiştir.
Bana öyle geliyor ki bu, ikinci soruyu — yabancının suçluluğunu — çözüme kavuşturuyor; hukuku ve ahlakı; saldırgan savaşın haksızlığını ve kötülüğünü; vicdan azabı olsun ya da olmasın milyonları ölüme göndermeyi; hukuki kovuşturmanın temelindeki ahlaki kınamayı; ve bir başkasının emirlerine uygun hareket etmekten bağışıklık iddia etmenin kabul edilemezliğini kesinleştiriyor.
Yabancının Suçlu Olarak Tanınması
Son iki soruya gelince — çilingirin yabancıyı suçlu olarak tanıma ve doğru olanı yapma sorumluluğu — hukuka göre bir çilingirin, bir müşterinin kasayı açmada çilingirin yardımını isteme konusunda gerçek ve meşru bir hakkı bulunduğundan emin olması gerektiği konusunda kuşku yoktur.
Kilitler, anahtarlar ve kasalar yeterince uzun süredir vardır ve toplumun yargısı, bir kasayı açtırmak için gelen bir kişinin kasanın açılmasını isteme konusunda haklı bir gerekçeye sahip olduğundan çilingirin emin olması gerektiği konusunda uzlaşmıştır. Kasadaki mallar ne kadar değerliyse, yabancının incelenmesi o kadar gerekli ve doğru olanı yapma sorumluluğu o kadar önemlidir.
Zamanımızın Devasa Sorunu
Genel tartışma bu kadar. Şimdi özel örneğe, zamanımızın devasa sorununa gelelim: hesaplama mekanizmalarıyla yönlendirilen, megatonluk nükleer savaş başlıklarına sahip kıtalararası balistik füzeler.
Bu durumda üç bilim insanı grubu çilingir rolünü oynar: nükleer savaş başlıklarını yapan, yani atom bilimcileri; füzeleri iteleyecek roket motorlarını yapanlar; ve yönlendirme sistemlerini yapanlar, yani bilgisayar bilimcileri.
Bilgisayar bilimcisinden söz edelim.
Bilgisayar bilimcisi, hukuka ve ahlaka göre, tıpkı çilingir gibi yabancı konusunda gözlerini kapatma hakkına sahip değildir. Her ikisi de gözlerini açık tutmak zorundadır.
Bilgisayar bilimcisi, çilingir gibi, yabancıyı yargılamalıdır. Yabancı gerçek amacının ne olduğunu söylemeyecektir. Nitekim yabancı, amacının ne olduğunu söylemekten bütünüyle aciz de olabilir; hiçbir biçimde farkında olmadığı güçlü psikolojik güçlerin (örneğin paranoya) etkisi altında olabilir. Elbette Hitler kendisini bir psikopat olarak görmüyordu.
Ama eylemler sözlerden daha yüksek sesle konuşur ve çilingir eylemlere bakmak zorundadır.
Bu nedenle, çilingirin kasayı açmaya yönelik hazırlıkların amacının ne olduğuna karar vermesi için bir dizi ölçüt belirleyelim. Örneğin, A ve B ülkeleri arasındaki bir silahlanma yarışı durumunda, bu hazırlıkların gerçekte ne anlama geldiğine karar vermek için çilingir uzun bir nesnel testler listesi oluşturabilir:
- Test 1: A ülkesinin, B ülkesini çevreleyen silahlı üsleri var mı? Ve tersi yönde?
- Test 2: A ülkesi (ya da B ülkesi) askerî güçlerini artırıyor mu yoksa azaltıyor mu? Nükleer silah denemelerini genişletiyor mu yoksa daraltıyor mu?
- Test 3: Her bir ülkenin, büyük olasılıkla yalnızca güç kullanılarak elde edilebilecek siyasal ya da toprakla ilgili değişiklikler için ilan ettiği talepler nelerdir?
- Test 4: A ülkesinin (ve B ülkesinin) ekonomisi, ağır savaş hazırlıkları olmadan istikrarlı kalabilir ve iyi işleyebilir mi?
Bilgisayar bilimcisi, çilingir gibi, bu soruları incelemek ve onları nesnel biçimde yanıtlamak konusunda ahlaki ve hukuki göreve sahiptir. Ayrıca özel bir sorumluluğu vardır; çünkü o olmadan kasa açılamaz.
Ve böylece, bana göre desteklememiz gereken önermeye varıyoruz:
Bilgisayar bilimcilerinin, bilgisayar bilimcisi olmalarından kaynaklanan özel bir sorumluluğu vardır; çoğu diğer bilim insanı ve yurttaşın sorumluluklarından daha fazla ve onlara ek olarak — çilingirin sorumluluğu.
Belirli Bir Mantıksal Safsatanın Kaçınılması
Bilgisayar bilimcilerinin toplumsal sorumluluğu üzerine yapılan tüm tartışma ve münazaralarda, hepimizin zihninde kuşkusuz, çoğu zaman doğru olduğu için sürekli olarak gerçekmiş gibi kabul edilmeye zorlanan bir mantıksal safsata vardır.
“Her zamanki gibi işimize” devam etmek istiyoruz. “Yeni bir şeyin eklendiğini” görmek istemiyoruz. Yarın ve ertesi gün alışıldık sorunlarımız üzerinde çalışmak ve yenileri hakkında düşünmemek istiyoruz. Gerçekten bir şeylerin değiştiği, Amerika Birleşik Devletleri ve Sovyetler Birliği hükümetlerinin eline yeni ve son derece korkunç bir gücün geçtiği gerçeğine dayanarak hareket etmek istemiyoruz.
Amerika Birleşik Devletleri’nin elinde ve Rusların elinde, yeryüzünde insan yaşamını sona erdirmeye fazlasıyla yetecek kadar nükleer patlayıcı bulunmaktadır. “Evet, öyle olabilir; ama birileri bununla ilgili bir şey yapar ve benim yaptığım şeyde herhangi bir değişiklik yapmam gerekmez,” demek istiyoruz.
Mantıksal safsata, gerçek bir değişiklik meydana geldiğinde ona gerçekçi biçimde karşılık verememektir.
Aynı safsata — bir değişikliği fark etmeyi reddetme — İkinci Dünya Savaşı’ndan önce de yaygın biçimde işledi. 1938’de, Chamberlain yönetimindeki Büyük Britanya hükümeti ile Daladier yönetimindeki Fransa hükümeti, Çekoslovakya ile yaptıkları anlaşmadan vazgeçti ve Hitler’e, bunun son talebi olduğunu söylediği için, Çekoslovakya’dan Sudetler Bölgesi’ni almasının uygun olduğunu bildirdi; ve Chamberlain Münih’ten dönerek “Zamanımızda barış!” diye ilan etti. Büyük Britanya ve Fransa hükümetleri de bu aynı safsatanın etkisi altındaydı: yeni, son derece gerçek ve korkunç bir değişikliğin gerçekten meydana geldiğini görememe.
Bildiğim en iyi mantık kitaplarından birinde, W. W. Little, W. H. Wilson ve W. E. Moore’un Applied Logic adlı eserinde, gerçek bir değişikliği kabul etmeme olan bu safsataya bir ad verilir: “Sakal Argümanı.” Kitaptan:
Bir anlamda, sakal argümanı siyah-beyaz safsatasının karşıtı olarak görülebilir. İki uç arasında bir ara alanın olasılığını kabul edemezsek siyah-beyaz safsatasına düşeriz. Sakal argümanında ise, ara alanı ya da sürekli ve kademeli gölgelenme olgusunu, güçlü ile zayıf, iyi ile kötü, beyaz ile siyah gibi karşıtlar arasında gerçek farklılıkların varlığından kuşku duymak için kullanırız.
... Beyazın beyaz olmaktan çıktığı tam noktayı belirleyemememiz, beyaz ile siyah arasında hiçbir fark olmadığı anlamına gelmez.
Safsatanın adı, sakal yapmak için kaç kıl gerektiğine karar vermenin zorluğundan türetilmiştir. Kuşkusuz tek bir kıl yeterli değildir. Muhtemelen 25’i bile çok azdır. Öyleyse 350 kılın sakal yaptığını söyleyelim. Neden 349 olmasın? 348? ve benzeri. Kesin bir asgari belirlemekte zorlanırız. Bu durum, sakallı olmakla sakalsız olmak arasında hiçbir fark olmadığı anlamına mı gelir? ... Bir otomobil acil bir durumda yedi kişiyi taşıyabiliyorsa, neden bir kişi daha olmasın? Sakal argümanına göre bir otomobil sonsuz sayıda yolcu taşıyabilmelidir .... Bu hata ... özellikle değer yargılarında son derece zararlıdır; çünkü sıklıkla etik dışı davranışı gerekçelendirmek için kullanılır.
Safsatadan Kaçınmak
Sakal argümanına karşı, bir fark küçük olsa bile yine de gerçek olabileceğini ve bu tür farkların birikiminin büyük uçlar arasındaki mesafeyi kapatabileceğini kendimize hatırlatarak korunabiliriz.
Şimdi, bir bilgisayar bilimcisi şöyle diyebilir:
"Peki, erken uyarı radar ağı ve onunla birlikte çalışan bilgisayarlar üzerinde çalışmamın bir önemi yok; çünkü ülkemi saldırıya karşı savunmaya yardımcı oluyorum."
Bir başka bilgisayar bilimcisi de şöyle diyebilir:
"Erken uyarı radar ağındaki şu kişiden daha kötü bir şey yapmıyorum; çünkü erken uyarı sistemi tarafından tespit edilecek bir düşman füzesini düşürmek için kullanılabilecek bir havadan havaya füzenin yönlendirme sistemi üzerinde çalışıyorum."
Üçüncü bir bilgisayar bilimcisi şöyle diyebilir:
"Evet, kıtalararası balistik bir füzenin yönlendirme sistemi üzerinde çalışıyorum, AMA bu yalnızca düşman bir ICBM ülkemdeki şehirlerden birini yok etmek üzere gelirse fırlatılacaktır."
Dördüncü bir bilgisayar bilimcisi de şöyle diyebilir:
"Evet, zehirli gazların yayılımıyla ilgili hesaplamalar üzerinde çalışıyorum, AMA ülkemin zehirli gazı yalnızca düşman zehirli gaz kullanırsa kullanacağından çok eminim."
Ve nihayet, tüm bu trajik örüntüde bir tür hata meydana gelir — gerçekte kullanılmadığı hâlde zehirli gaz kullanıldığına dair bilgi gelir ya da gerçekte yalnızca ufukta yükselen ay olduğu hâlde ICBM’lerin yolda olduğu sanılır ya da uzak bir ülkedeki bakımı kötü yapılmış bir bilgisayar arızalanır .... O zaman bu ince farkların tümü hiçbir şey ifade etmez — ICBM’ler Moskova, Leningrad ve Kiev’e düşer; diğerleri New York, Chicago ve Los Angeles’a düşer; ve en az 40 milyon insan ölür — altı yıl boyunca tüm silahların toplamından kaynaklanan İkinci Dünya Savaşı ölümlerinin tamamından daha fazla ölüm, yirmiden az bombayla bir günde gerçekleşir.
Küçük farkların birikimine dikkat etmemek, sakal argümanının safsatasını oluşturur; kademeli olduğu için gerçek ve devasa bir değişikliği kabul edememe safsatasını.
Gerçek olan küçük farklara dayanarak davranışlarımızı gerekçelendirmeyi bırakmamız gerekir.