Tehlikeli Fanteziler [E]
Edmund C. Berkeley tarafından, Editör
Büyük bilgisayar sistemleri çoğu zaman doğru yanıtlar verebilir, ancak yanılmaz değildirler. Çok karmaşık oldukları için hata olasılığı büyük ölçüde artar. Birçok füzeye saldırmak için tasarlananlar gibi bazı büyük sistemlerin test edilmesinin imkânsızlığı, onları daha da güvenilmez kılar. Böyle bir sistemin kusursuzluğuna güvenmek, felaketi davet etmektir.
Editoryal
Tehlikeli Fanteziler
Büyük bilgisayar sistemleriyle temas eden kişiler, bu sistemlerin her zaman doğru yanıtlar vereceğini sıklıkla umut eder ve buna güvenir. Ancak bu bir fantezidir ve tehlikeli olabilir. Büyük bilgisayar sistemlerinin çoğu zaman dikkat çekici derecede yüksek oranda doğru yanıt verdiği doğrudur. Ancak uzun bir hata geçmişi de vardır. Bilgisayarların vaadi harikadır, fakat gerçeklik o kadar harika değildir.
Neden?
Bir dizi neden vardır.
Karmaşıklık
Bir bilgisayar programının karmaşıklığı çoğu zaman, hepsinin doğru olması ve doğru sırada yer alması gereken komut satırlarının sayısıyla ölçülür. Bir bilgisayar sisteminin çalışması için gereken komut satırı sayısı 10.000’i aştığında, programcı ekibinin hayal gücü ve kapasitesi zorlanır; 100.000’i aştığında, karmaşıklık neredeyse ezici olur; bir milyonu aştığında ise tasarımda başarıya ulaşmak büyük olasılıkla erişilemez hale gelir.
Önyargı
Bir devlet dairesinde, “yapabiliriz” felsefesine bağlı hisseden bir sözleşme denetçisi bulunabilir: “Zoru hemen yaparız; imkânsız biraz daha uzun sürer.” Bu tutum ne kadar övgüye değer olursa olsun, sorunların ve çözümlerinin yeterince nesnel olmayan bir temelde değerlendirilmesine, yani önyargıya yol açar. Bu koşullar altında, kurulmakta olan bir bilgisayar sisteminin tüm gereksinimleri karşılamama olasılığı yüksektir.
Test Etme
Karmaşık bir hesaplama sisteminin ilk düzenli testi, örnek bir durumu alıp “Çalışıyor mu?” diye sormaktır. İlk örnek durumda çalışıyorsa, başka birçok örnek durumda da çalışıyor mu? Ancak test edilemeyen bilgisayar sistemleri (ve başka sistemler de) vardır. Örneğin, yabancı bir güç tarafından 10 dakika içinde 100 balistik füze fırlatıldığını ve sorunun, bir bilgisayar sistemi aracılığıyla bunların tümünü saptayıp etkisiz hale getirmek olduğunu varsayalım. Önerilen hiçbir çözümün test edilmesi mümkün değildir.
Olasılıklar
Karmaşık bilgisayar sistemlerinin her zaman güvenilir olamamasının bir başka nedeni, sıkça Murphy Yasası ile ifade edilir: “Bir şey ters gidebiliyorsa, gider.” Bu ilkenin başka bir ifadesi şudur: “10.000 adımın her birinin doğru gitme olasılığı %99,99 ise, 10.000’inin birden doğru gitme olasılığı yalnızca 3’te 1’dir.” Doğruluk zor bir uğraştır ve olasılık ilkeleri ona karşı birleşir.
Genel tartışma bu kadar. Peki bazı örnekler ne gösteriyor?
Ekim 1960 Alarmı
5 Ekim 1960’ta, Grönland Thule’deki Balistik Füze Erken Uyarı Sistemi istasyonu, bilgisayarlar tarafından Rusya’dan ufkun üzerinden gelen ve Amerika yönüne ilerleyen bir füze grubu olarak analiz edilen sinyaller aldı. Thule bunu Colorado’daki Kuzey Amerika Hava Savunma Komutanlığına (NORAD) bildirdi. NORAD’da görevli subay “paniklemeyi reddetti” ve Thule’yi telefonla aradı; kısa süre sonra hatalarını belirlediler: büyük bir yer uydusu olan Ay’ı algılamışlardı.
Haziran 1980 Alarmı
3 Haziran 1980’de, saat 01:26’da, Nebraska’daki Stratejik Hava Komutanlığı (SAC) görüntüleme sistemleri, iki denizaltıdan fırlatılan balistik füzenin Amerika Birleşik Devletleri’ne doğru ilerlediğini gösterdi. SAC personeli Colorado’daki Kuzey Amerika Havacılık ve Uzay Savunma Komutanlığı Merkezini (NORAD) aradı. NORAD, füze fırlatmalarına dair bir göstergeleri olmadığını söyledi. Kısa süre sonra SAC görüntüleme sistemleri, kıtalararası balistik füzelerin Amerika Birleşik Devletleri’ne doğru fırlatıldığını yeniden gösterdi. Ardından Pentagon’daki Ulusal Askerî Komuta Merkezindeki (NMCC) ekran, denizaltıdan fırlatılan balistik füzelerin Amerika Birleşik Devletleri’ne yöneldiğini gösterdi. Sonra NORAD, SAC ve NMCC’nin en üst düzey görevli subayları…
(devamı)
Editoryal (6. sayfadan devam)
istişare edildi. NORAD’ın bir saldırıya dair hiçbir göstergesi olmadığını, farklı komuta merkezlerinin farklı bilgiler aldığını ve ekranların herhangi bir mantıksal düzen izlemediğini fark ettiler; böylece 3 dakika 12 saniye sonra alarm iptal edildi.
Bu sayıda Alan Barning tarafından yazılan makalede, karmaşık bilgisayar sistemlerinin başarısızlıklarına dair çok daha fazla örnek bulunmaktadır.
Çıkarmamız gereken sonuç şudur: Herhangi bir karmaşık bilgisayar sistemi zaman zaman başarısız olmaya eğilimlidir ve onun kusursuzluğuna güvenmek felakete davetiye çıkarmaktır.