LIMA Projesi, Yapay Zeka Örnekleri

LIMA ile Meta'nın yapay zeka araştırmacıları, test senaryolarında GPT-4 ve Bard düzeyinde performans elde eden, nispeten az sayıda örnekle ince ayar yapılmış olsa da yeni bir dil modeli sunuyor.

LIMA, "Less is More for Alignment" anlamına gelir ve bu ad, modelin işlevini ima eder: Kapsamlı bir şekilde önceden eğitilmiş bir AI modelinde, yüksek kaliteli sonuçlar elde etmek için birkaç örneğin yeterli olduğunu göstermeyi amaçlar.

Bu durumda birkaç örnek, Meta'nın 1.000 farklı istemi ve bunların diğer araştırma makaleleri, WikiHow, StackExchange ve Reddit gibi kaynaklardan elde ettiği çıktıları manuel olarak seçtiği anlamına gelir.

Ekip daha sonra bu örnekleri, açık kaynak dil modeli hareketini ateşleyen sızdırılmış dil modeli olan kendi 65 milyar parametreli LLaMA modelini iyileştirmek için kullandı. Meta, OpenAI'nin modellerini ayarlamak için kullandığı ve yapay zekanın geleceğinin önemli bir parçası olarak gördüğü pahalı RLHF'den kaçındı.

Kaynak: https://the-decoder.com/metas-new-lima-language-model-reaches-gpt-4-level/