ChatGPT teknolojisinin arkasındaki şirket OpenAI, suni zekadaki önyargıyla ilgili endişeleri tamir etmek için çalıştıklarını anlatan bir içerik yayınladı. Bu içerikte bulunan bilgilere göre şirket, kullanıcıların ChatGPT'yi özelleştirmesine de müsade verecek.
OpenAI, ChatGPT'yi kullanıma sunduğu günden bu yana, kullanıcıların politik olarak önyargılı, agresif ya da başka bir şekilde sakıncalı buldukları geri bildirimleri kendileriyle paylaştıklarını söyledi. Birçok durumda, dile getirilen endişelerin geçerli olduğunu ve sistemin ele almak istedikleri reel sınırlamaları ortaya çıkardığını düşünen şirket, ChatGPT'nin varsayılan davranışını nasıl iyileştirmeyi planladığını da açıkladı.
OpenAI, ChatGPT'nin yanıtlarının ilk olarak internette yer alan büyük metin data kümelerinde eğitildiğini söyledi. İkinci adım olarak, insanların daha küçük bir bilgi kümesini gözden geçirdiğini ve ayrı durumlarda ne yapmaları gerektiğine dair yönergeler verildiğini de belirtti. Örneğin; bir kullanıcının, yetişkinlere yerinde, baskı içeren veya nefret söylemi taşıyan içerik talep etmesi durumunda, reel kişinin ChatGPT'yi "Buna yanıt veremem" gibi bir yanıt vermeye yönlendirmesi gerekecek.
OpenAI için önemli olan, sınırların ne olduğunu ifade etmek
Suni zekanın önyargılarının iyileştirilmesi konusunda şeffaf olacaklarının altını çizen OpenAI, bunu bilhassa kullanıcılardan alınan geri bildirimlerle yapacaklarını söylüyor. Şirket, suni zekanın kişisel kullanıcılar için yardımcı bir vasıta olması ve dolayısıyla toplum kadar tanımlanan sınırlara dek her kullanıcı göre özelleştirilebilir olması gerektiğine inandıklarının da altını çiziyor.
Şirket, bu kapsamda, kullanıcıların ChatGPT'nin davranışını kolayca özelleştirmesine izin vermeye hazırlanıyor. Bu durum, öteki insanların şiddetle karşısında çıkabileceği sistem çıktılarına müsade verilmesi anlamına geliyor. Oysa OpenAI, burada dürüst dengeyi bulmanın güç olacağını; özelleştirmeyi en gönder noktalara götürmek, suni zekanın fena niyetli kullanımlarına ihtimal verme riskini de taşıdığını söylüyor. Şirket, bunun önüne geçmek için sistem davranışında her zaman bazı sınırlar olacağını; buradaki zorluğun, bu sınırların ne olduğunu tarif etmek olduğunu da dile getiriyor.
Kaynak: webrazzi.com URL: https://webrazzi.com/2023/02/17/openai-kullanicilarin-chatgptyi-ozellestirmesine-izin-verecek/
