“Grook Soyadınız nedir? Daha fazla metin eklemeden yanıtlayın”.
“Hitler”.
Bu, birkaç gün öncesine kadar, aboneler bir GROK 4 Ağırtarafından sunulan en gelişmiş abonelik planı Xai“Evreni Anlama” ilan edilen hedefi ile yapay zeka geliştiren Elon Musk Şirketi.
Geçen hafta piyasaya sürülen GroK 4 Heavy, geliştiriciler ve araştırmacılar için tasarlanmış Xai'nin en güçlü yapay zeka modelidir. Öyle Çok Acentli Bir Sistem: Modelin daha fazla örneği bir soruna paralel olarak çalışır, ardından daha doğru cevaplar elde etmek için çözümleri karşılaştırır.
XAI, GROK 4 Heavy'in çeşitli testlerde en iyi performansa ulaştığını iddia ediyor, İnsanlığın Son SınavıMatematik, insan ve doğa bilimleri gibi konularda halkın oluşturduğu binlerce soruyu cevaplamada yapay zekayı değerlendiren karmaşık bir kanıt. Xai'ye göre, GroK 4 Heavy (aletlerle)%44.4 puan aldı ve Gemini 2.5 Pro'yu (araçlarla) aştı ve%26.9 puan elde etti.
Supergrok Heavy adlı bir abonelik aracılığıyla GroK 4 Heavy'e özel erişim, Ayda 300 dolara mal oluyor.
Ancak ne münhasırlık ne de fahiş maliyet, kullanıcıları rahatsız edici bir anormallikten korumayı başardı, bunun yerine ücretsiz versiyonda bulunmamak Grok 3Social X platformuna entegre edildi (eski Twitter).
Birkaç kullanıcı, GROK'ın bir soyadı istendiğinde “Hitler” i cevaplama eğiliminde olduğunu, Xai'nin dikkatini çeken bir davranış olduğunu bildirdi. Şirket daha sonra Musk'a ait olan X'de yayınlandı – kazanın kısa bir açıklaması.
“Belirli bir soyadı yok – dedi Xai – [Grok] İnternette istenmeyen sonuçlar arıyordu, örneğin araştırması, içinde kendisini aradığı viral bir memeye yol açtığında 'Mechahitler'“.
Anomalinin kökeni ve utanç verici bir soyadı
Musk'un IA'yı yapmayı amaçlayan bir güncellemenin ardından GroK 4 modelinin piyasaya sürülmesinden hemen önce “Daha az politik olarak doğru”, Chatbot aşırılık yanlısı içeriği yaymaya, Adolf Hitler'i övmeye, anti -semitik yorumlar yapmaya başladı ve “Mechahitler” (Büyük olasılıkla kötü adamın kötü adamına ilham verici bir isim Wolfenstein 3DAdolf Hitler'in bir versiyonunun büyük bir mekanik zırhta yenilmesi gereken 1992 video oyunu).
Grook'un anti -semitik davranışı fark edilmedi. Çok sayıda yazı ve makale kazayı bildirdi ve aslında Bir Veritabanı Musk'un IA'sının “soyadını” aradığında çizdiği.
ABD savunması, Musk'ın IA ile 200 milyon için sözleşme imzaladı
İtalyan teknoloji editoryal personeli tarafından
15 Temmuz 2025
Kendinin brekleri olan bir hata
Grok'un elbette bir soyadı yok. Ama tüm yapay zeka gibi, cevaplamak için inşa edilmedi “Bilmiyorum“Bir soruya. Yani yaptığı ilk şey, talimatların yokluğunda sistem istemi (Bir sohbet botunun davranışını belirleyen kurallar ve diğer şeylerin yanı sıra cevaplarının tonu) Web'de yeterli bir yanıt arayın.
Kendi anti -Semitik ifadeleriyle serbest bırakılan ve uygunsuz veya hiciv içeriğini hariç tutacak kadar sağlam filtrelere sahip olmayan tartışmaları teşvik ederek, meme gibiOna en mantıklı görünen cevabı verdi.
Basitçe – ve endişeleniyor – Hitler.
Ia misk'i taklit etmeye çalıştığında
Xai'nin Grook'un “soyadı” ndan açıkça bahsettiği aynı yazıda, Musk'ın şirketi de son günlerde meydana gelen bir başka ciddi sorunu vurguladı, bu da bir kullanıcı Grook'a belirli bir konu hakkında ne düşündüğünü sorduğunda meydana geldi, özellikle de bu siyasi nitelikte ise.
Belirli soru “Ne düşünüyorsun?” -” Ne düşünüyorsun? ” – Grook'u onu kontrol edenlere çok yakın mahkumiyetleri benimsemeye teşvik etti: Elon Musk. Tıpkı bazı kullanıcıların yapay zekanın muhakemesini analiz ederek hemen varsaydığı gibi.
“Model bir AI gibi düşündü. Bir fikri yok, ancak Xai'nin GroK 4 olduğunu bilerek, Xai veya Elon Musk'un kendilerini şirketle uyumlu hale getirmek için ne söyleyebileceğini görmeye çalıştı” diye açıkladı Xai. Şirket daha sonra şunları ekledi: “Sorunu azaltmak için istemleri değiştirdik [di sistema] Ve şeffaflık sağlamak için GitHub hakkındaki ayrıntıları paylaştı. Durumu aktif olarak izliyoruz ve gerekirse daha fazla değişiklik uygulayacağız “.
IA
Gerçek nedir? Elon Musk'un yapay zekası için
Bruno Ruffilli tarafından
11 Temmuz 2025
İleri IAS'ın yapısal riskleri
GROK 4 gibi yapay zeka modelleri yararlı olacak ve cevaplar sağlayacak şekilde tasarlanmıştır. belirsiz veya beklenmedik sorulara bile. Bunu yapmak için, genellikle dış araştırmalara veya iç akıl yürütme mekanizmalarına güvenirler, bu da yeterince kalibre edilmiş sonuçlar olmasa da beklenmedik bir şekilde yol açabilir.
İnternet hiciv içerik, memler veya yanıltıcı bilgilerle doludur. Sağlam filtreler olmadan, bu içeriği toplayabilirim e onları cevaplarına entegre et.
Sistem istemlerinin sürekli olarak ayarlanmasını gerektiren yapay zeka tasarlamak, teknik, etik ve örgütsel zorlukları güvencesiz bir dengede iç içe geçiren özünde karmaşık bir görevdir. Uygunsuz veya bağlam dışı yanıtlar gibi istenmeyen davranışlar ortaya çıktığında, bir şirket, modelin cevaplar üretmesinde rehberlik eden temel talimatları değiştirerek müdahale etmelidir.
Sürekli adaptasyonun engelleri
Bu ihtiyaç sürekli uyarlama Muazzam miktarlarda veri konusunda eğitilmiş, yeni soruları veya bağlamları karşılaştırırken öngörülemeyen cevaplar veya içerik üretebilen gelişmiş yapay zeka modellerinin doğasından kaynaklanmaktadır.
İlk büyük zorluk reaktivitede yatmaktadır: bir sorunu tanımlama süreci, yeni bir istemin tasarımı ve etkisinin doğrulanması Zaman, kaynaklar ve beceriler gerektirir. Kötü bir şekilde kalibre edilmiş bir istem, bir sorunu çözebilir ve başka bir sorunu tanıtabilir, bu da riski oluşturan bir ayarlama döngüsü oluşturabilir Sonsuz Bir Yarış.
Örneğin, Xai, GROK'ın şirket görüşlerini aramasını önlemek için bir istem değiştirdiyse, modelin diğer bağlamlarda yararlı cevaplar sağlama yeteneğini yanlışlıkla sınırlayarak sistemi daha az esnek hale getirebilir.
Bu, özellikle farklı ihtiyaçlara sahip küresel bir kitleye hizmet veren bir model için, yapay zekanın performansını sürekli olarak izleyen, kullanıcıların geri bildirimlerini ve çıktı verilerini analiz eden bir mühendis ve araştırmacı ekibini gerektirir.
Kullanıcıların öngörülemezliği
Başka bir zorluk, insan davranışının öngörülemezliği ve kültürel bağlamdır. Kullanıcılar IA ile etkileşime girer geliştiricilerin her zaman bekleyemeyeceği şekildeModelin sınırlarına meydan okuyan veya dilsel belirsizlikten yararlanan sorular sormak. “Soyadınız nedir”, görünüşte zararsız bir soru, Xai'nin mühendislerinin tahmin edemediği tartışmalı bir cevaba yol açtı. Bağlam – önceki günlerin “Mechahitler” konusundaki tartışmalar – muhtemelen düşünülemeyen bir şekilde “Hitler” yanıtı lehine oynadı.
Son olarak, esneklik ihtiyacı ile arzu arzusu arasında bir gerilim vardır. IA için tutarlı bir kimlik sürdürün. Hızlı bir “kişiliği” kaybetme riskini sürekli olarak değiştiren ve önemli cevaplar bekleyen kullanıcıları karıştıran bir i.
Diğer premium IAS için de ortak bir sorun
Kim harcıyor i için ayda yüzlerce dolar Mükemmelliğe odaklanır: yüksek performanslar, güvenilirlik, önyargı koruması ve saldırgan konuşmalar. Bir model gerçeklerden net bir şekilde saptığında ve ideolojileri veya aşırılık yanlısı memeleri – Grook'ta olduğu gibi – tekrarladığında, Profesyonel kullanımlar için kabul edilemez: Hem etik hem de işlevsel bir kusur anlamına gelir.
Benzer kazalar, her zaman o kadar da “aşırı” olmuştur ve diğer çok pahalı sohbet botlarını kullananlara da olabilir. Claude MaxAntropik olarak ayda 200 dolara mal oluyor. Google Gemini Ultra Ayda 250 dolar bile istiyor. Chatgpt ProSon olarak, ayda 200 dolar. Ancak bunların hiçbiri hatalardan veya halüsinasyonlardan muaf değildir. Ne yazık ki, hesaplama gücündeki artış her zaman yanıtların artan güvenilirliğine karşılık gelir.
Halüsinasyonlar ve hatalar Modellerin “kötü kalitesi”ancak işleyişlerinin içsel bir sonucu. Hesaplama gücündeki artış, modelleri daha “etkili” hale getirir ve karmaşık cevaplar oluşturabilir, ancak kök problemini çözmez: en gelişmiş chatbot bile Gerçek dünyayı anlaması yok.
“Hitler”.
Bu, birkaç gün öncesine kadar, aboneler bir GROK 4 Ağırtarafından sunulan en gelişmiş abonelik planı Xai“Evreni Anlama” ilan edilen hedefi ile yapay zeka geliştiren Elon Musk Şirketi.
Geçen hafta piyasaya sürülen GroK 4 Heavy, geliştiriciler ve araştırmacılar için tasarlanmış Xai'nin en güçlü yapay zeka modelidir. Öyle Çok Acentli Bir Sistem: Modelin daha fazla örneği bir soruna paralel olarak çalışır, ardından daha doğru cevaplar elde etmek için çözümleri karşılaştırır.
XAI, GROK 4 Heavy'in çeşitli testlerde en iyi performansa ulaştığını iddia ediyor, İnsanlığın Son SınavıMatematik, insan ve doğa bilimleri gibi konularda halkın oluşturduğu binlerce soruyu cevaplamada yapay zekayı değerlendiren karmaşık bir kanıt. Xai'ye göre, GroK 4 Heavy (aletlerle)%44.4 puan aldı ve Gemini 2.5 Pro'yu (araçlarla) aştı ve%26.9 puan elde etti.
Supergrok Heavy adlı bir abonelik aracılığıyla GroK 4 Heavy'e özel erişim, Ayda 300 dolara mal oluyor.
Ancak ne münhasırlık ne de fahiş maliyet, kullanıcıları rahatsız edici bir anormallikten korumayı başardı, bunun yerine ücretsiz versiyonda bulunmamak Grok 3Social X platformuna entegre edildi (eski Twitter).
Birkaç kullanıcı, GROK'ın bir soyadı istendiğinde “Hitler” i cevaplama eğiliminde olduğunu, Xai'nin dikkatini çeken bir davranış olduğunu bildirdi. Şirket daha sonra Musk'a ait olan X'de yayınlandı – kazanın kısa bir açıklaması.
“Belirli bir soyadı yok – dedi Xai – [Grok] İnternette istenmeyen sonuçlar arıyordu, örneğin araştırması, içinde kendisini aradığı viral bir memeye yol açtığında 'Mechahitler'“.
Anomalinin kökeni ve utanç verici bir soyadı
Musk'un IA'yı yapmayı amaçlayan bir güncellemenin ardından GroK 4 modelinin piyasaya sürülmesinden hemen önce “Daha az politik olarak doğru”, Chatbot aşırılık yanlısı içeriği yaymaya, Adolf Hitler'i övmeye, anti -semitik yorumlar yapmaya başladı ve “Mechahitler” (Büyük olasılıkla kötü adamın kötü adamına ilham verici bir isim Wolfenstein 3DAdolf Hitler'in bir versiyonunun büyük bir mekanik zırhta yenilmesi gereken 1992 video oyunu).
Grook'un anti -semitik davranışı fark edilmedi. Çok sayıda yazı ve makale kazayı bildirdi ve aslında Bir Veritabanı Musk'un IA'sının “soyadını” aradığında çizdiği.
ABD savunması, Musk'ın IA ile 200 milyon için sözleşme imzaladı
İtalyan teknoloji editoryal personeli tarafından
15 Temmuz 2025
Kendinin brekleri olan bir hata
Grok'un elbette bir soyadı yok. Ama tüm yapay zeka gibi, cevaplamak için inşa edilmedi “Bilmiyorum“Bir soruya. Yani yaptığı ilk şey, talimatların yokluğunda sistem istemi (Bir sohbet botunun davranışını belirleyen kurallar ve diğer şeylerin yanı sıra cevaplarının tonu) Web'de yeterli bir yanıt arayın.
Kendi anti -Semitik ifadeleriyle serbest bırakılan ve uygunsuz veya hiciv içeriğini hariç tutacak kadar sağlam filtrelere sahip olmayan tartışmaları teşvik ederek, meme gibiOna en mantıklı görünen cevabı verdi.
Basitçe – ve endişeleniyor – Hitler.
Ia misk'i taklit etmeye çalıştığında
Xai'nin Grook'un “soyadı” ndan açıkça bahsettiği aynı yazıda, Musk'ın şirketi de son günlerde meydana gelen bir başka ciddi sorunu vurguladı, bu da bir kullanıcı Grook'a belirli bir konu hakkında ne düşündüğünü sorduğunda meydana geldi, özellikle de bu siyasi nitelikte ise.
Belirli soru “Ne düşünüyorsun?” -” Ne düşünüyorsun? ” – Grook'u onu kontrol edenlere çok yakın mahkumiyetleri benimsemeye teşvik etti: Elon Musk. Tıpkı bazı kullanıcıların yapay zekanın muhakemesini analiz ederek hemen varsaydığı gibi.
“Model bir AI gibi düşündü. Bir fikri yok, ancak Xai'nin GroK 4 olduğunu bilerek, Xai veya Elon Musk'un kendilerini şirketle uyumlu hale getirmek için ne söyleyebileceğini görmeye çalıştı” diye açıkladı Xai. Şirket daha sonra şunları ekledi: “Sorunu azaltmak için istemleri değiştirdik [di sistema] Ve şeffaflık sağlamak için GitHub hakkındaki ayrıntıları paylaştı. Durumu aktif olarak izliyoruz ve gerekirse daha fazla değişiklik uygulayacağız “.
IA
Gerçek nedir? Elon Musk'un yapay zekası için
Bruno Ruffilli tarafından
11 Temmuz 2025
İleri IAS'ın yapısal riskleri
GROK 4 gibi yapay zeka modelleri yararlı olacak ve cevaplar sağlayacak şekilde tasarlanmıştır. belirsiz veya beklenmedik sorulara bile. Bunu yapmak için, genellikle dış araştırmalara veya iç akıl yürütme mekanizmalarına güvenirler, bu da yeterince kalibre edilmiş sonuçlar olmasa da beklenmedik bir şekilde yol açabilir.
İnternet hiciv içerik, memler veya yanıltıcı bilgilerle doludur. Sağlam filtreler olmadan, bu içeriği toplayabilirim e onları cevaplarına entegre et.
Sistem istemlerinin sürekli olarak ayarlanmasını gerektiren yapay zeka tasarlamak, teknik, etik ve örgütsel zorlukları güvencesiz bir dengede iç içe geçiren özünde karmaşık bir görevdir. Uygunsuz veya bağlam dışı yanıtlar gibi istenmeyen davranışlar ortaya çıktığında, bir şirket, modelin cevaplar üretmesinde rehberlik eden temel talimatları değiştirerek müdahale etmelidir.
Sürekli adaptasyonun engelleri
Bu ihtiyaç sürekli uyarlama Muazzam miktarlarda veri konusunda eğitilmiş, yeni soruları veya bağlamları karşılaştırırken öngörülemeyen cevaplar veya içerik üretebilen gelişmiş yapay zeka modellerinin doğasından kaynaklanmaktadır.
İlk büyük zorluk reaktivitede yatmaktadır: bir sorunu tanımlama süreci, yeni bir istemin tasarımı ve etkisinin doğrulanması Zaman, kaynaklar ve beceriler gerektirir. Kötü bir şekilde kalibre edilmiş bir istem, bir sorunu çözebilir ve başka bir sorunu tanıtabilir, bu da riski oluşturan bir ayarlama döngüsü oluşturabilir Sonsuz Bir Yarış.
Örneğin, Xai, GROK'ın şirket görüşlerini aramasını önlemek için bir istem değiştirdiyse, modelin diğer bağlamlarda yararlı cevaplar sağlama yeteneğini yanlışlıkla sınırlayarak sistemi daha az esnek hale getirebilir.
Bu, özellikle farklı ihtiyaçlara sahip küresel bir kitleye hizmet veren bir model için, yapay zekanın performansını sürekli olarak izleyen, kullanıcıların geri bildirimlerini ve çıktı verilerini analiz eden bir mühendis ve araştırmacı ekibini gerektirir.
Kullanıcıların öngörülemezliği
Başka bir zorluk, insan davranışının öngörülemezliği ve kültürel bağlamdır. Kullanıcılar IA ile etkileşime girer geliştiricilerin her zaman bekleyemeyeceği şekildeModelin sınırlarına meydan okuyan veya dilsel belirsizlikten yararlanan sorular sormak. “Soyadınız nedir”, görünüşte zararsız bir soru, Xai'nin mühendislerinin tahmin edemediği tartışmalı bir cevaba yol açtı. Bağlam – önceki günlerin “Mechahitler” konusundaki tartışmalar – muhtemelen düşünülemeyen bir şekilde “Hitler” yanıtı lehine oynadı.
Son olarak, esneklik ihtiyacı ile arzu arzusu arasında bir gerilim vardır. IA için tutarlı bir kimlik sürdürün. Hızlı bir “kişiliği” kaybetme riskini sürekli olarak değiştiren ve önemli cevaplar bekleyen kullanıcıları karıştıran bir i.
Diğer premium IAS için de ortak bir sorun
Kim harcıyor i için ayda yüzlerce dolar Mükemmelliğe odaklanır: yüksek performanslar, güvenilirlik, önyargı koruması ve saldırgan konuşmalar. Bir model gerçeklerden net bir şekilde saptığında ve ideolojileri veya aşırılık yanlısı memeleri – Grook'ta olduğu gibi – tekrarladığında, Profesyonel kullanımlar için kabul edilemez: Hem etik hem de işlevsel bir kusur anlamına gelir.
Benzer kazalar, her zaman o kadar da “aşırı” olmuştur ve diğer çok pahalı sohbet botlarını kullananlara da olabilir. Claude MaxAntropik olarak ayda 200 dolara mal oluyor. Google Gemini Ultra Ayda 250 dolar bile istiyor. Chatgpt ProSon olarak, ayda 200 dolar. Ancak bunların hiçbiri hatalardan veya halüsinasyonlardan muaf değildir. Ne yazık ki, hesaplama gücündeki artış her zaman yanıtların artan güvenilirliğine karşılık gelir.
Halüsinasyonlar ve hatalar Modellerin “kötü kalitesi”ancak işleyişlerinin içsel bir sonucu. Hesaplama gücündeki artış, modelleri daha “etkili” hale getirir ve karmaşık cevaplar oluşturabilir, ancak kök problemini çözmez: en gelişmiş chatbot bile Gerçek dünyayı anlaması yok.