Kirli çamaşırlar genellikle evde yıkanır. Ancak bu aşağıdakiler için geçerli değildir: OpenAIkurduğu San Francisco şirketi ChatGptÜretken yapay zeka alanında dünyanın en etkilileri arasında yer alıyor.
Eski bilimsel direktörün istifasının ardından İlya Sutskever – bariz görme uyumsuzlukları için Sam Altman – aynı zamanda tartışmalara da yol açıyor Jan Leikeşirketin bir başka parlak zekası.
Tarih
OpenAI'den ayrılan parlak bilgisayar bilimcisi Ilya Sutskever kimdir?
kaydeden Pier Luigi Pisa
16 Mayıs 2024
Sutskever ve Leike OpenAI'nin Süper Hizalama projesinden sorumlu iki kişiSon derece gelişmiş yapay zeka sistemlerini güvenli bir şekilde hizalamak için Temmuz 2023'te açıldı insani hedefler ve değerlerle.
Özetle: İçinde yer alan araştırmacı grubunun, onu kontrol altında tutmak için etkili yöntemler geliştirmesi gerekirdi. “Yapay zeka sistemleri insanlardan çok daha akıllı”. Bu bağlamda Superalignment'ı gösteren belgede OpenAI'nin mevcut bilgi işlem gücünün %20'sini ayırmayı planladığını okuduk.
Sorumlu bir girişim gibi görünüyordu. Ancak plana göre gitmedi.
Jan Leike, X hakkında şunları yazdı: “OpenAI süper uyumunun başındaydım ve bu işi bırakmak şimdiye kadar yaptığım en zor şeylerden biri, çünkü bizden daha akıllı olan yapay zeka sistemlerini nasıl çalıştırabileceğimizi ve kontrol edebileceğimizi acilen anlamamız gerekiyor.” ”.
Leike, “OpenAI'ye katıldım çünkü bu tür araştırmaları yapmak için dünyanın en iyi yeri olduğunu düşündüm” diye ekledi. “Ancak bir süredir şirket yönetiminin belirlediği önceliklere karşı çıkıyorum. Bant genişliğimizin büyük bir kısmının, gelecek nesil modellerin güvenliğine, izlenmesine, süper hizalanmasına ve sosyal etkisine hazırlanmak için harcanması gerektiğine inanıyorum [di IA]. Ancak son aylarda ekibim bu önemli araştırma için gerekli bilgi işlem gücüne sahip olmak için mücadele etmek zorunda kaldı.”
Leike, “OpenAI'nin insanlığa karşı bir sorumluluğu var” dedi. Ancak son yıllarda güvenlik kültürü ve süreçleri ikinci planda kaldı parlak ürünlerle karşılaştırıldığında”.
Jan Leike'nin sözleri OpenAI'nin yön değişikliğinin altını çiziyor: 2015 yılında kar amacı gütmeyen bir araştırma laboratuvarı olarak kurulduChatGpt halka açıldığından beri bunu yaptı.
Chatbot'un başarısı ve Microsoft'un yatırdığı milyarlarca dolar (şimdiye kadar 13), OpenAI'yi kâr peşinde koşmaya itti.
Bu değişikliğin ana savunucusu, 2019'dan beri OpenAI'yi yöneten ve geçen Aralık ayında tam da yapay zekanın ticarileştirilmesine baskı yaptığından korkulduğu için şirketin yönetim kurulundan çıkarılan Sam Altman'dı. güvenliğin zararına.
Dava
Sam Altman'a ne olduğunu anlamak için OpenAI'nin gerçekte nasıl bir şey olduğunu bilmeniz gerekir
kaydeden Pier Luigi Pisa
19 Kasım 2023
Altman, tehditlerde bulunan OpenAI çalışanlarının ısrarı üzerine birkaç gün sonra görevine devam etti. toplu istifa CEO geri dönmeseydi.
Eski bilimsel direktörün istifasının ardından İlya Sutskever – bariz görme uyumsuzlukları için Sam Altman – aynı zamanda tartışmalara da yol açıyor Jan Leikeşirketin bir başka parlak zekası.
Tarih
OpenAI'den ayrılan parlak bilgisayar bilimcisi Ilya Sutskever kimdir?
kaydeden Pier Luigi Pisa
16 Mayıs 2024
Sutskever ve Leike OpenAI'nin Süper Hizalama projesinden sorumlu iki kişiSon derece gelişmiş yapay zeka sistemlerini güvenli bir şekilde hizalamak için Temmuz 2023'te açıldı insani hedefler ve değerlerle.
Özetle: İçinde yer alan araştırmacı grubunun, onu kontrol altında tutmak için etkili yöntemler geliştirmesi gerekirdi. “Yapay zeka sistemleri insanlardan çok daha akıllı”. Bu bağlamda Superalignment'ı gösteren belgede OpenAI'nin mevcut bilgi işlem gücünün %20'sini ayırmayı planladığını okuduk.
Sorumlu bir girişim gibi görünüyordu. Ancak plana göre gitmedi.
Jan Leike, X hakkında şunları yazdı: “OpenAI süper uyumunun başındaydım ve bu işi bırakmak şimdiye kadar yaptığım en zor şeylerden biri, çünkü bizden daha akıllı olan yapay zeka sistemlerini nasıl çalıştırabileceğimizi ve kontrol edebileceğimizi acilen anlamamız gerekiyor.” ”.
Leike, “OpenAI'ye katıldım çünkü bu tür araştırmaları yapmak için dünyanın en iyi yeri olduğunu düşündüm” diye ekledi. “Ancak bir süredir şirket yönetiminin belirlediği önceliklere karşı çıkıyorum. Bant genişliğimizin büyük bir kısmının, gelecek nesil modellerin güvenliğine, izlenmesine, süper hizalanmasına ve sosyal etkisine hazırlanmak için harcanması gerektiğine inanıyorum [di IA]. Ancak son aylarda ekibim bu önemli araştırma için gerekli bilgi işlem gücüne sahip olmak için mücadele etmek zorunda kaldı.”
Leike, “OpenAI'nin insanlığa karşı bir sorumluluğu var” dedi. Ancak son yıllarda güvenlik kültürü ve süreçleri ikinci planda kaldı parlak ürünlerle karşılaştırıldığında”.
Jan Leike'nin sözleri OpenAI'nin yön değişikliğinin altını çiziyor: 2015 yılında kar amacı gütmeyen bir araştırma laboratuvarı olarak kurulduChatGpt halka açıldığından beri bunu yaptı.
Chatbot'un başarısı ve Microsoft'un yatırdığı milyarlarca dolar (şimdiye kadar 13), OpenAI'yi kâr peşinde koşmaya itti.
Bu değişikliğin ana savunucusu, 2019'dan beri OpenAI'yi yöneten ve geçen Aralık ayında tam da yapay zekanın ticarileştirilmesine baskı yaptığından korkulduğu için şirketin yönetim kurulundan çıkarılan Sam Altman'dı. güvenliğin zararına.
Dava
Sam Altman'a ne olduğunu anlamak için OpenAI'nin gerçekte nasıl bir şey olduğunu bilmeniz gerekir
kaydeden Pier Luigi Pisa
19 Kasım 2023
Altman, tehditlerde bulunan OpenAI çalışanlarının ısrarı üzerine birkaç gün sonra görevine devam etti. toplu istifa CEO geri dönmeseydi.