Yapay Zekanın Tehlikelerine Karşı Uyarılar

 Yapay zeka  alanındaki ilerlemeler, insanların artık anlayamayacağı bir dünyaya yol açabilir.

Makineler birbirleriyle iletişim kurmayı öğrenirse neler olur? Ya kendi hedeflerini oluşturmaya başlarlarsa? Ya da insan aklının ötesinde kararlar verecek kadar akıllı hale gelirlerse? Şimdiden tüm bunlara hazırlanmalıyız.

Günümüzde Go gibi karmaşık oyunlarda ustalaşan bilgisayar programları profesyonel oyuncuları yenebiliyor. Bu programlar, defalarca oyunlar oynayarak kendilerini eğitmeyi öğreniyor.

Gerçek şu ki, yapay zeka insanlardan daha hızlı öğreniyor. Satranç tarihinde daha önce hiç görülmemiş bir tarzda satranç oynamayı öğrenen AlphaZero, oyunun temel kurallarını öğrendikten sonra 1.500 yıllık beceri seviyesine ulaştı. Go oyununda bilgisayar ise, insanların henüz düşünmediği, stratejik olarak görülmemiş hareketler yapabildi. Tüm bunlar insan beyninin kapasitesinin ötesinde şeyler..

Tehlikeler

Bu son derece hızlı öğrenme süreci, yapay zekanın insanlara göre daha hızlı ve daha büyük hatalar yapabileceği anlamına gelir. Eski ABD Dışişleri Bakanı olan Henry Kissinger, “yapay zekanın eylemlerinden kim sorumlu olacak”, “onların hataları için sorumluluk nasıl belirlenecek”, “insanlar tarafından tasarlanan bir hukuk sistemi onları akılda tutabilen bir yapay zeka tarafından yönetilen dünyaya ayak uydurabilir mi”, sorularını yöneltiyor.

Geçen sene katıldığım yapay zeka yaz okulunda Cavit Yantaç'ın arabasıyla bir köpeğe çarpma olayını dinledik ve kendisinin yerinde bir yapay zeka olsaydı sonuç nasıl değişirdi, bu konu üzerine tartıştık. Belki arabamız akıllı olsaydı, biz daha köpeği farketmeden duracaktı. Peki öyle bir durum olsun ki, araba iki kişiden birine çarpmak zorunda kalsın!

Kararsızlık

Araba kullanmak, tahmin edilemeyen koşullarda kararlar gerektirir. Sürücüsüz bir araba örneğinde;

Eğer araba yolda yaşlı bir teyze ve çocuktan birini öldürmek zorunda kalsaydı ne olurdu? 

Yapay zeka teyzeyi mi yoksa çocuğu mu seçerdi? Sizce hangisini, niçin seçerdi?

Yapay zekaya etik ve mantıklı kararlar nasıl öğretilir? Etik ve mantıklı olan nedir? İnsanlar bunları tanımlama konusunda hala mücadele ediyor.

Hükümetler de, yapay zekanın nasıl kullanılabileceği ile ilgili çalışmalar yapmalıdır, ki bazı ülkelerin yapay zeka bakanlıkları var. 2017 yılında Omar Bin Sultan Al Olama, Birleşik Arap Emirlikleri'nde “yapay zekadan sorumlu” ilk bakan olarak atandı.

Kissinger, gelecek için ulusal bir vizyon oluşturulmasına yardımcı olmak için, alanında seçkin düşünürlerden oluşan başkanlık komisyonunun kurulması gerektiğini savunuyor. Ona göre eğer bu girişimi başlatmazsak her şey için çok geç olabilir.