Geoffrey Hinton 75 yaşında ve bilişim dünyasında yapay zekanın vaftiz babası olarak biliniyor. Filmlere rağmen bu kötü bir şey değil: yapay zeka alanındaki çalışmaları yüzünden, bu işi yüzünden. 2018’de Turing Ödülü’nü kazandı ve üretken olsun ya da olmasın, AI’daki mevcut patlamayı (ayrıca) ona borçlu olduğumuz için.
Geoffrey Hinton 75 yaşında ve biraz Robert Oppenheimer’a benziyorve bu kötü bir şey: Oppenheimer, Amerika Birleşik Devletleri’nin atom bombasını geliştirmesine yardım eden bilim adamı ve şimdi Hinton da aynısını yaptığından korkuyor. katkıda bulunmak silah yapmak bu insanlığı yok edebilir. Nükleer enerji değil, tam olarak yapay zeka ile.
Sayılar
Yılda 6 dolardan 180 milyar dolara: AI yatırımı 2013’ten bu yana 30 kat arttı
kaydeden Emanuele Capone
26 Nisan 2023
Bu yüzden, iyi söylendiği gibi New York Times’a verilen uzun bir röportajda, Hinton, Google’daki işini bırakmaya karar verdi: “Yapay zekanın tehlikeleri hakkında konuşabilmek için ayrıldım”. Twitter’da kendisinin de yinelediği gibi, Google’dayken bu konuda konuşmasının engellendiğini söylemek istemiyor: “Bu konuda konuşabilmek istiyorlar. Sözlerimin Google üzerinde yaratacağı etki hakkında endişelenmenize gerek kalmadan”, gerçekten de “büyük bir sorumlulukla hareket etti”.
Yeniden yapılandırılanlara göre (ancak ayrıntılar anlaşılır bir şekilde az), Hinton geçen ay istifa etti ve 27 Nisan’da doğrudan Sundar Pichai ile bu konuyu konuşacaktı., Mountain View devinin CEO’su. Doğuştan İngiliz olan ancak Kanada pasaportu olan Hinton, Google’a 2013 yılında Big G’nin kendisi ve iki öğrencisi (biri) tarafından kurulan bir şirketi satın almasının ardından katıldı. Bugün OpenAI için çalışan Ilya Sutskever): 3’ü, binlerce fotoğrafı analiz ettikten sonra köpekler, kediler, çiçekler ve benzeri ortak nesneleri tanımlamayı kendi kendine öğrenen bir sinir ağı geliştirdi.
buna ne denir derin öğrenmeve temeli budur LLM, büyük dil modelleri (Neler var?) bunlar da (birkaç örnek vermek gerekirse) ChatGPT ve Bard’ın temelini oluşturur.
Hinton neden Google’dan ayrıldı?
Bu 10 yılda her şey aşağı yukarı iyi gitti, en azından 2022’nin sonuna kadar, OpenAI, ChatGPT’yi herkese açık yaptığında ve her şeyden önce Microsoft, onu arama motoru olan Bing’e entegre etti. Bu, teknoloji dünyasındaki şirketler arasında, Hinton’a göre yapay zeka tarafından üretilen (ve dolayısıyla bir şekilde sahte) görüntülerin ve metinlerin olabileceği bir dünyaya yol açabilecek Google’dan başlayarak bir tür yukarı doğru yarışı tetikledi. insanlar tarafından üretilen resim ve metinlerden sayıca fazla.
Kısacası, korku şu ki, kar peşinde bize en temel kaygıları unutturabilir, “doğruyu yanlıştan ayırt etmemizi” imkansız kılabilir, önemli etik ve ahlaki sorunlar AI eğitimi ve geliştirmesinde. Ve belki de hayatta kalmamızı bile riske atabilir.
Grimes: sesimle yeni şarkılar yaratmak için yapay zekayı kullan
kaydeden Bruno Ruffilli
28 Nisan 2023
AI’lar hepimizi öldürecek mi?
Evet, çünkü “biz bunalırız” sorusu derin sahtekarlıklar ve sahte haberler” sorunun yalnızca bir parçasıdır. Ve en küçük kısmı: Hinton, sektördeki ikinci yetkili sestir (aslında, üçüncüsü: birincisi Stephen Hawking’di) çok uzak olmayan bir gelecekte yapay zekaların tüm insanlığı yok edebileceğini varsaymak.
Ondan önce, tam bir ay önce, yazar Eliezer Yudkowskyo kadar uzun ve aydınlatıcı Zaman tarafından yayınlanan makale açıkça şunu yazdı: “insanüstü derecede akıllı bir yapay zeka inşa etmenin en olası sonucu, kelimenin tam anlamıyla Dünya’daki herkesin ölecek olmasıdır. Belki uzak bir ihtimalde olduğu gibi değil, ama olacağı bariz olan şeyde olduğu gibi”. Ve bu, “gelişmenin en olası sonucu”dur. zekası insanlarınkini aşan bir yapay zeka kelimenin tam anlamıyla dünyadaki herkesin öleceğidir. Uzak bir olasılık olarak değil, olacağı bariz bir şey olarak anlaşıldı.”
Şimdi Hinton hemen hemen aynı şeyi söylüyor. Ya da en azından açıkça şunu öne sürüyor: “Geçmişte bazı insanlar bu şeyin aslında bizden daha akıllı olabileceği fikrine sahipti, ancak akademisyenlerin çoğu bunun uzak bir olasılık olduğuna inanıyordu. Ben de öyle düşünmüştüm: 30 ila 50 yıl sonra olduğunu sanıyordum hatta daha fazlası. Şimdi artık öyle düşünmüyorum.” Buradan, bizden daha akıllı yapay zekalardan bizsiz yapacak yapay zekalara kadar, adım kısa görünüyor: Hinton’un korkusu, yapay zekanın yavaş yavaş bazı işleri ve ardından belki de insanlığın kendisini ortadan kaldıracağı, sadece ihtiyaç duyduğu koddan yazmak, bağımsız olarak geliştirmek ve ayrıca zarar vermek için kullanmak.
Kulağa bir bilim kurgu hipotezi gibi geliyor, ama o kadar da bir bilim kurgu hipotezi değil: bunu kanıtlıyorlar AI’ların zaten sergilediği bazı tuhaflıklar (bunlara acil davranışlar denir) ve kimse onları açıklayamaz) ve sağduyu bunu onaylar. Hinton’un sözleriyle: “Bugün kötü adamların onu kötü şeyler yapmak için kullanmasını nasıl engelleyebileceğinizi hayal etmek zor.”
için ne yapılabilir bu durumdan kurtulmak? Hinton’a ve diğer birçok meslektaşına göre, tek seçenek “bunları kontrol edip edemeyeceğimizi anlayana kadar bunları daha fazla geliştirmemek” olacaktır. Ona gelince, “Kendimi her zamanki banal bahaneyle avutuyorum: keşke yaptığım şeyi yapmasaydımbaşkası yapardı”.
@capoema
Geoffrey Hinton 75 yaşında ve biraz Robert Oppenheimer’a benziyorve bu kötü bir şey: Oppenheimer, Amerika Birleşik Devletleri’nin atom bombasını geliştirmesine yardım eden bilim adamı ve şimdi Hinton da aynısını yaptığından korkuyor. katkıda bulunmak silah yapmak bu insanlığı yok edebilir. Nükleer enerji değil, tam olarak yapay zeka ile.
Sayılar
Yılda 6 dolardan 180 milyar dolara: AI yatırımı 2013’ten bu yana 30 kat arttı
kaydeden Emanuele Capone
26 Nisan 2023
Hinton yapay zeka alanında neler yaptı?
Bu yüzden, iyi söylendiği gibi New York Times’a verilen uzun bir röportajda, Hinton, Google’daki işini bırakmaya karar verdi: “Yapay zekanın tehlikeleri hakkında konuşabilmek için ayrıldım”. Twitter’da kendisinin de yinelediği gibi, Google’dayken bu konuda konuşmasının engellendiğini söylemek istemiyor: “Bu konuda konuşabilmek istiyorlar. Sözlerimin Google üzerinde yaratacağı etki hakkında endişelenmenize gerek kalmadan”, gerçekten de “büyük bir sorumlulukla hareket etti”.
Yeniden yapılandırılanlara göre (ancak ayrıntılar anlaşılır bir şekilde az), Hinton geçen ay istifa etti ve 27 Nisan’da doğrudan Sundar Pichai ile bu konuyu konuşacaktı., Mountain View devinin CEO’su. Doğuştan İngiliz olan ancak Kanada pasaportu olan Hinton, Google’a 2013 yılında Big G’nin kendisi ve iki öğrencisi (biri) tarafından kurulan bir şirketi satın almasının ardından katıldı. Bugün OpenAI için çalışan Ilya Sutskever): 3’ü, binlerce fotoğrafı analiz ettikten sonra köpekler, kediler, çiçekler ve benzeri ortak nesneleri tanımlamayı kendi kendine öğrenen bir sinir ağı geliştirdi.
buna ne denir derin öğrenmeve temeli budur LLM, büyük dil modelleri (Neler var?) bunlar da (birkaç örnek vermek gerekirse) ChatGPT ve Bard’ın temelini oluşturur.
Hinton neden Google’dan ayrıldı?
Bu 10 yılda her şey aşağı yukarı iyi gitti, en azından 2022’nin sonuna kadar, OpenAI, ChatGPT’yi herkese açık yaptığında ve her şeyden önce Microsoft, onu arama motoru olan Bing’e entegre etti. Bu, teknoloji dünyasındaki şirketler arasında, Hinton’a göre yapay zeka tarafından üretilen (ve dolayısıyla bir şekilde sahte) görüntülerin ve metinlerin olabileceği bir dünyaya yol açabilecek Google’dan başlayarak bir tür yukarı doğru yarışı tetikledi. insanlar tarafından üretilen resim ve metinlerden sayıca fazla.
Kısacası, korku şu ki, kar peşinde bize en temel kaygıları unutturabilir, “doğruyu yanlıştan ayırt etmemizi” imkansız kılabilir, önemli etik ve ahlaki sorunlar AI eğitimi ve geliştirmesinde. Ve belki de hayatta kalmamızı bile riske atabilir.
Grimes: sesimle yeni şarkılar yaratmak için yapay zekayı kullan
kaydeden Bruno Ruffilli
28 Nisan 2023
AI’lar hepimizi öldürecek mi?
Evet, çünkü “biz bunalırız” sorusu derin sahtekarlıklar ve sahte haberler” sorunun yalnızca bir parçasıdır. Ve en küçük kısmı: Hinton, sektördeki ikinci yetkili sestir (aslında, üçüncüsü: birincisi Stephen Hawking’di) çok uzak olmayan bir gelecekte yapay zekaların tüm insanlığı yok edebileceğini varsaymak.
Ondan önce, tam bir ay önce, yazar Eliezer Yudkowskyo kadar uzun ve aydınlatıcı Zaman tarafından yayınlanan makale açıkça şunu yazdı: “insanüstü derecede akıllı bir yapay zeka inşa etmenin en olası sonucu, kelimenin tam anlamıyla Dünya’daki herkesin ölecek olmasıdır. Belki uzak bir ihtimalde olduğu gibi değil, ama olacağı bariz olan şeyde olduğu gibi”. Ve bu, “gelişmenin en olası sonucu”dur. zekası insanlarınkini aşan bir yapay zeka kelimenin tam anlamıyla dünyadaki herkesin öleceğidir. Uzak bir olasılık olarak değil, olacağı bariz bir şey olarak anlaşıldı.”
Şimdi Hinton hemen hemen aynı şeyi söylüyor. Ya da en azından açıkça şunu öne sürüyor: “Geçmişte bazı insanlar bu şeyin aslında bizden daha akıllı olabileceği fikrine sahipti, ancak akademisyenlerin çoğu bunun uzak bir olasılık olduğuna inanıyordu. Ben de öyle düşünmüştüm: 30 ila 50 yıl sonra olduğunu sanıyordum hatta daha fazlası. Şimdi artık öyle düşünmüyorum.” Buradan, bizden daha akıllı yapay zekalardan bizsiz yapacak yapay zekalara kadar, adım kısa görünüyor: Hinton’un korkusu, yapay zekanın yavaş yavaş bazı işleri ve ardından belki de insanlığın kendisini ortadan kaldıracağı, sadece ihtiyaç duyduğu koddan yazmak, bağımsız olarak geliştirmek ve ayrıca zarar vermek için kullanmak.
Kulağa bir bilim kurgu hipotezi gibi geliyor, ama o kadar da bir bilim kurgu hipotezi değil: bunu kanıtlıyorlar AI’ların zaten sergilediği bazı tuhaflıklar (bunlara acil davranışlar denir) ve kimse onları açıklayamaz) ve sağduyu bunu onaylar. Hinton’un sözleriyle: “Bugün kötü adamların onu kötü şeyler yapmak için kullanmasını nasıl engelleyebileceğinizi hayal etmek zor.”
için ne yapılabilir bu durumdan kurtulmak? Hinton’a ve diğer birçok meslektaşına göre, tek seçenek “bunları kontrol edip edemeyeceğimizi anlayana kadar bunları daha fazla geliştirmemek” olacaktır. Ona gelince, “Kendimi her zamanki banal bahaneyle avutuyorum: keşke yaptığım şeyi yapmasaydımbaşkası yapardı”.
@capoema