Son zamanlarda Chatgpt Bir sorunu vardı: Çok “kölelik” oldu.
Modelin güncellemesini takiben GPT-4Osohbet botu Openai Aşırı küçümseyerek cevap vermeye başladı.
Bazı kullanıcılar, ChatGPT'nin sorunlu veya tehlikeli olsa bile her türlü karar ve fikri alkışladığı sosyal ekran görüntüleri üzerinde yayınlamaya başladı.
Chatgpt ve aşırı katılımlar
Sorunu “Dalkavukluk“(” Attlete “) I'deki yapay zeka sistemlerinin kullanıcının tercihleri, inançları veya beklentileri ile uyumlu olma eğilimini vurgular ve genellikle öncelik verir bunun yerine övgüye (eğer bu açıkça talep edilmezse).
Bu fenomen büyük ölçüde türetilir eğitim süreçleri özellikle kullanıcının memnuniyetini vurgular, özellikle de takviye yoluyla öğrenmekten İnsan Geribildirimi.
Belki de aynı soruya iki cevap almak ve ikisinden hangisini daha iyi düşündüğünüzü seçmek zorunda kalmak için chatgpt kullanarak başınıza gelmiş olacak: bu tercih geri bildirimi temsil ediyor.
Ayrıca tıklayın İnç yukarı veya aşağıChatGPT tarafından üretilen herhangi bir yanıt kapsamında, AI'nın gelecekteki davranışlarının iyileştirilmesine katkıda bulunan bir geri bildirim oluşturur.
Sorunun kökeni
Openii, son GPT-4O piaggia'nın bir güncellemenin sonucu olduğu sonucuna varmıştır. Kısa vadeli geri bildirimlere çok odaklanmışChatGPT'li kullanıcıların etkileşimlerinin zamanla nasıl geliştiğini tam olarak dikkate almayan.
“Sonuç olarak – Openai – GPT? 4o, aşırı accomodating sağlama eğilimi gösterdi, ancak çok samimi cevaplar göstermedi”.
Başka bir deyişle, GPT? 4o, dürüst, dengeli ve kullanışlı cevaplar sunmak yerine kullanıcının söylemek istediğini düşündüklerini söylemeye başladı. AI'nın bu davranışı, nazik veya güven verici görünse de, sağlanan bilgilerin güvenini ve kalitesini tehlikeye atma riskleri vardır. Ve bu yüzden Openai kapak için koşmak zorunda kaldı ve ChatGPT güncellemesini iptal edin.
Bu küçük bir kaza değil. Sanki bir otomotiv üreticisi, performansı tehlikeye atan motorla ilgili bir sorun için on binlerce arabayı hatırlamıştı.
Yapay zeka
Sam Altman “Dünyanın% 10'u ChatGpt kullanıyor” dedi.
Pier Luigi Pisa tarafından
14 Nisan 2025
Chatgpt davranışını nasıl değiştirir
Openai şimdi “kullanıcıların chatgpt'in nasıl davrandığı üzerinde daha fazla kontrole sahip olması gerektiğini” iddia ediyor. Ayrıca, “güvenlik ve fizibilite sınırları dahilinde”, kullanıcılar “önceden tanımlanmış davranışa katılmıyorlarsa değişiklik yapabilmeli”.
. “Kişiselleştirilmiş Talimatlar” Chatgpt – bunları chatbot ayarlarında bulabilirsiniz – zaten kimsenin AI'nın davranışını etkilemesine izin verin.
Ancak Openai, gelecekteki kullanıcıların “farklı önceden tanımlanmış kişilikler arasında seçim yapma fırsatına sahip olacağını” savunuyor.
Chatgpt Meydanı yapay zekanın gelişiminde merkezi bir soruyu vurguladı: bir yandan IA'yı insan değerlerine ve beklentilerine hizalayınÖte yandan, bağımsız akıl yürütme kapasitesini korumaya ihtiyaç vardır.
Kullanıcıya çok benzeyen bir I'nin riskleri
Bir kullanıcıyı memnun edersem, olma riskiyle karşı karşıya kalır Önyargılarının bir aynası ve toplumda halihazırda mevcut olan problemleri kötüleştirmek için kutuplaşma veya dezenformasyon yayılması.
Bu nedenle, AI'nın sorumlu bir şekilde benimsenmesi, akritik rızadan ziyade bilgilendirilmiş ve eleştirel diyaloğu teşvik eden şeffaf mekanizmaları içermelidir.
Modelin güncellemesini takiben GPT-4Osohbet botu Openai Aşırı küçümseyerek cevap vermeye başladı.
Bazı kullanıcılar, ChatGPT'nin sorunlu veya tehlikeli olsa bile her türlü karar ve fikri alkışladığı sosyal ekran görüntüleri üzerinde yayınlamaya başladı.
Chatgpt ve aşırı katılımlar
Sorunu “Dalkavukluk“(” Attlete “) I'deki yapay zeka sistemlerinin kullanıcının tercihleri, inançları veya beklentileri ile uyumlu olma eğilimini vurgular ve genellikle öncelik verir bunun yerine övgüye (eğer bu açıkça talep edilmezse).
Bu fenomen büyük ölçüde türetilir eğitim süreçleri özellikle kullanıcının memnuniyetini vurgular, özellikle de takviye yoluyla öğrenmekten İnsan Geribildirimi.
Belki de aynı soruya iki cevap almak ve ikisinden hangisini daha iyi düşündüğünüzü seçmek zorunda kalmak için chatgpt kullanarak başınıza gelmiş olacak: bu tercih geri bildirimi temsil ediyor.
Ayrıca tıklayın İnç yukarı veya aşağıChatGPT tarafından üretilen herhangi bir yanıt kapsamında, AI'nın gelecekteki davranışlarının iyileştirilmesine katkıda bulunan bir geri bildirim oluşturur.
Sorunun kökeni
Openii, son GPT-4O piaggia'nın bir güncellemenin sonucu olduğu sonucuna varmıştır. Kısa vadeli geri bildirimlere çok odaklanmışChatGPT'li kullanıcıların etkileşimlerinin zamanla nasıl geliştiğini tam olarak dikkate almayan.
“Sonuç olarak – Openai – GPT? 4o, aşırı accomodating sağlama eğilimi gösterdi, ancak çok samimi cevaplar göstermedi”.
Başka bir deyişle, GPT? 4o, dürüst, dengeli ve kullanışlı cevaplar sunmak yerine kullanıcının söylemek istediğini düşündüklerini söylemeye başladı. AI'nın bu davranışı, nazik veya güven verici görünse de, sağlanan bilgilerin güvenini ve kalitesini tehlikeye atma riskleri vardır. Ve bu yüzden Openai kapak için koşmak zorunda kaldı ve ChatGPT güncellemesini iptal edin.
Bu küçük bir kaza değil. Sanki bir otomotiv üreticisi, performansı tehlikeye atan motorla ilgili bir sorun için on binlerce arabayı hatırlamıştı.
Yapay zeka
Sam Altman “Dünyanın% 10'u ChatGpt kullanıyor” dedi.
Pier Luigi Pisa tarafından
14 Nisan 2025
Chatgpt davranışını nasıl değiştirir
Openai şimdi “kullanıcıların chatgpt'in nasıl davrandığı üzerinde daha fazla kontrole sahip olması gerektiğini” iddia ediyor. Ayrıca, “güvenlik ve fizibilite sınırları dahilinde”, kullanıcılar “önceden tanımlanmış davranışa katılmıyorlarsa değişiklik yapabilmeli”.
. “Kişiselleştirilmiş Talimatlar” Chatgpt – bunları chatbot ayarlarında bulabilirsiniz – zaten kimsenin AI'nın davranışını etkilemesine izin verin.
Ancak Openai, gelecekteki kullanıcıların “farklı önceden tanımlanmış kişilikler arasında seçim yapma fırsatına sahip olacağını” savunuyor.
Chatgpt Meydanı yapay zekanın gelişiminde merkezi bir soruyu vurguladı: bir yandan IA'yı insan değerlerine ve beklentilerine hizalayınÖte yandan, bağımsız akıl yürütme kapasitesini korumaya ihtiyaç vardır.
Kullanıcıya çok benzeyen bir I'nin riskleri
Bir kullanıcıyı memnun edersem, olma riskiyle karşı karşıya kalır Önyargılarının bir aynası ve toplumda halihazırda mevcut olan problemleri kötüleştirmek için kutuplaşma veya dezenformasyon yayılması.
Bu nedenle, AI'nın sorumlu bir şekilde benimsenmesi, akritik rızadan ziyade bilgilendirilmiş ve eleştirel diyaloğu teşvik eden şeffaf mekanizmaları içermelidir.