Koala Projesi, Yapay Zeka Örnekleri

UC Berkeley, Koala adlı araştırma amaçlı bir diyalog modeli yayınladı. Bir kullanıcı araştırmasına dayanan sonuçlarla geliştiriciler, Koala'nın kullanıcılar tarafından yöneltilen bir dizi sorguya yanıt vermede usta olduğunu iddia ettiler. Blog gönderisi ayrıca, oluşturulan sonuçların vakaların yarısında ChatGPT ile aynı düzeyde olduğunu, ancak çoğunlukla Stanford tarafından inşa edilen Alpaca'yı aştığını söyleyerek övündü. Araştırmacılar, halkın kullanımı için bir web demosu yayınladılar.

Koala, Meta'nın LLaMA'sında, özellikle ChatGPT gibi diğer büyük dil modellerinden gelen sorgulara verilen yanıtlara odaklanarak, web'den kazınmış diyalog verileri üzerinde ince ayar yapılarak eğitildi. Yapımcılar, veri kümesinin boyutunu en üst düzeye çıkarmak yerine yüksek kaliteli bir veri kümesini kazımayı seçtiler.

Koala'nın eğitiminde, kullanıcıların ShareGPT üzerinde herkese açık olarak paylaştığı 60.000 diyalog API'ler kullanılarak toplanmıştır. Ancak gereksiz ve İngilizce olmayan diyaloglar ortadan kaldırılarak veri boyutu yaklaşık 30.000 diyaloğa düşürüldü. 87.000 soru-cevap örneğine ulaşan HC3 ingilizce veri setinden ChatGPT ve insan yanıtları da kullanılmıştır.

Modeli eğitmek için Alpaca'yı eğitmek için kullanılan açık kaynak verileri, OIG veri kümesi ANthropic HH veri kümesinden bileşenler, OpenAI WebGPT'nin veri kümesi ve OpenAI özetleme veri kümesi kullanıldı.

Kaynak: https://analyticsindiamag.com/uc-berkeley-releases-koala-for-research- Amaçlar/