InstructGPT Projesi, Yapay Zeka Örnekleri

OpenAI API, dikkatle tasarlanmış metin istemleri kullanılarak doğal dil görevlerini gerçekleştirmek için ikna edilebilen GPT-3 dil modelleri tarafından desteklenmektedir. Ancak bu modeller aynı zamanda gerçek dışı, zehirli veya zararlı duyguları yansıtan çıktılar da üretebilir. Bunun nedeni kısmen, GPT-3'ün kullanıcının istediği dil görevini güvenli bir şekilde yerine getirmek yerine büyük bir İnternet metni veri kümesinde bir sonraki kelimeyi tahmin etmek üzere eğitilmiş olmasıdır. Başka bir deyişle, bu modeller kullanıcıları ile uyumlu değildir.

InstructGPT modelleri, talimatları takip etmede GPT-3'ten çok daha iyidir. Ayrıca gerçekleri daha az uydururlar ve zehirli çıktı üretiminde küçük düşüşler gösterirler. Etiketleyicilerimiz, 100 kattan fazla daha az parametreye sahip olmasına rağmen, 175B GPT-3 modelinin çıktılarına göre 1.3B InstructGPT modelimizin çıktılarını tercih ediyor.

Kaynak: https://openai.com/blog/instruction-following/#guide