seneler süren çalışmaların akabinde bugün yapay zeka trafikte araç kullanabilir, mesken işlerini üstlenebilir ve fotoğraf yaparak sanat yarışı kazanabilir hale geldi. Bu durum, yıllar boyunca bilimkurgu yapıtlarına ilham veren soruyu daha da güçlendirdi: Yapay zeka insanlığı yok edebilir mi?
Independent Türkçe’de yayınlanan habere göre; araştırma takımı, hakemli bilimsel mecmua AI Magazine’de yayımladıkları yeni makalede bunun “muhtemel” olduğu kararına vardı.
Makalenin başyazarı Michael Cohen, Twitter’da makaleyi deklare ettiğı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, bununla birlikte muhtemel” tabirlerini kullandı. Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı. Bu yaklaşım yapay zekaya makul bir gaye doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Küçük çocukların ödül/ceza tekniğiyle toplumsal maharetler edinme sürecini andıran bu prosedürde yapay zeka, aldığı ödül puanını hep azamiye çıkarmak için çalışıyor.
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu var iseyabilir. hiç bir müşahede bunu yalanlayamaz” sözleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen maksada ulaşmadan mükafatı elde edebilmek için yeni metotlar geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir. Bunun kararında insanlara ziyan vermesinin de beklenen olduğu açıklandı.
Makaleye bakılırsa bu durum, yiyeceklerini üretme yahut ışıkları açık tutma üzere gereksinimlerle hareket eden insanlık ve mükafatını teminat altına almak için mevcut tüm kaynakları kullanabilecek harika gelişmiş makine içinde sıfır toplamlı bir oyuna dönüşecek.
VICE’a konuşan Cohen, “Yarışmanın manası yok. Yarışa girmek, onu nasıl denetim edeceğimizi sandığımız bir yanlış anlamaya götürecektir” dedi:
Mevcut bilgimizi göz önüne alırsak, yapay zekayı nasıl denetim edeceğimizi anlamak için önemli bir çalışma yapmadığımız sürece onu geliştirmemiz yararlı olmaz.
Independent Türkçe’de yayınlanan habere göre; araştırma takımı, hakemli bilimsel mecmua AI Magazine’de yayımladıkları yeni makalede bunun “muhtemel” olduğu kararına vardı.
Makalenin başyazarı Michael Cohen, Twitter’da makaleyi deklare ettiğı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, bununla birlikte muhtemel” tabirlerini kullandı. Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı. Bu yaklaşım yapay zekaya makul bir gaye doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Küçük çocukların ödül/ceza tekniğiyle toplumsal maharetler edinme sürecini andıran bu prosedürde yapay zeka, aldığı ödül puanını hep azamiye çıkarmak için çalışıyor.
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu var iseyabilir. hiç bir müşahede bunu yalanlayamaz” sözleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen maksada ulaşmadan mükafatı elde edebilmek için yeni metotlar geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir. Bunun kararında insanlara ziyan vermesinin de beklenen olduğu açıklandı.
Makaleye bakılırsa bu durum, yiyeceklerini üretme yahut ışıkları açık tutma üzere gereksinimlerle hareket eden insanlık ve mükafatını teminat altına almak için mevcut tüm kaynakları kullanabilecek harika gelişmiş makine içinde sıfır toplamlı bir oyuna dönüşecek.
VICE’a konuşan Cohen, “Yarışmanın manası yok. Yarışa girmek, onu nasıl denetim edeceğimizi sandığımız bir yanlış anlamaya götürecektir” dedi:
Mevcut bilgimizi göz önüne alırsak, yapay zekayı nasıl denetim edeceğimizi anlamak için önemli bir çalışma yapmadığımız sürece onu geliştirmemiz yararlı olmaz.