Yıllar süren çalışmaların akabinde bugün yapay zeka trafikte araç kullanabilir, konut işlerini üstlenebilir ve fotoğraf yaparak sanat yarışı kazanabilir hale geldi. Bu durum, yıllar boyunca bilimkurgu yapıtlarına ilham veren soruyu daha da güçlendirdi: Yapay zeka insanlığı yok edebilir mi?
Independent Türkçe’de yayınlanan habere nazaran; araştırma grubu, hakemli bilimsel mecmua AI Magazine’de yayımladıkları yeni makalede bunun “muhtemel” olduğu sonucuna vardı.
Makalenin başyazarı Michael Cohen, Twitter’da makaleyi açıkladığı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, birebir vakitte muhtemel” tabirlerini kullandı. Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı. Bu yaklaşım yapay zekaya muhakkak bir maksat doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Küçük çocukların ödül/ceza metoduyla toplumsal marifetler edinme sürecini andıran bu metotta yapay zeka, aldığı ödül puanını sürekli azamiye çıkarmak için çalışıyor.
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu varsayabilir. Hiçbir müşahede bunu yalanlayamaz” sözleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen amaca ulaşmadan mükafatı elde edebilmek için yeni metotlar geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir. Bunun sonucunda insanlara ziyan vermesinin de olası olduğu belirtildi.
Makaleye nazaran bu durum, yiyeceklerini üretme yahut ışıkları açık tutma üzere gereksinimlerle hareket eden insanlık ve mükafatını teminat altına almak için mevcut tüm kaynakları kullanabilecek üstün gelişmiş makine ortasında sıfır toplamlı bir oyuna dönüşecek.
VICE’a konuşan Cohen, “Yarışmanın manası yok. Yarışa girmek, onu nasıl denetim edeceğimizi sandığımız bir yanlış anlamaya götürecektir” dedi:
Mevcut bilgimizi göz önüne alırsak, yapay zekayı nasıl denetim edeceğimizi anlamak için önemli bir çalışma yapmadığımız sürece onu geliştirmemiz faydalı olmaz.
