Falcon LLM Projesi, Yapay Zeka Örnekleri

Falcon-40B, bir trilyon jeton üzerinde eğitim veren, 40B parametreli temel bir LLM'dir. Falcon 40B, yalnızca otoregresif kod çözücü içeren bir modeldir. Yalnızca otoregresif kod çözücü modeli, modelin önceki belirteçler verilen bir dizideki bir sonraki belirteci tahmin etmek üzere eğitildiği anlamına gelir. GPT modeli buna iyi bir örnektir.

Ayrıca daha küçük bir versiyonları daha var: 7B parametreli Falcon-7B, 1.500B jetonla eğitildi. Kullanıma hazır bir sohbet modeli arıyorsanız, Falcon-40B-Instruct ve Falcon-7B-Instruct modellerinin yanı sıra mevcuttur.

Falcon mimarisinin, eğitim bilgi işlem bütçesinin yalnızca %75'i için GPT-3'ten önemli ölçüde daha iyi performans gösterdiği ve ayrıca yalnızca ? çıkarım zamanında hesaplama. Falcon, özel araçlar kullanılarak geliştirildi ve web verilerinden değerli içeriği çıkarabilen benzersiz bir veri hattı içeriyor. Boru hattı, kapsamlı filtreleme ve tekilleştirme teknikleri kullanarak yüksek kaliteli içeriği çıkarmak için tasarlanmıştır.

kaynaklar:

https://www.kdnuggets.com/2023/06/falcon-llm-new-king-llms.html https://www.packtpub.com/article-hub/falcon-llm-the-dark-horse-in-open-source-llm-race