DeepSpeed Chat Projesi, Yapay Zeka Örnekleri

Microsoft, herkesin tek bir GPU ile bile yüksek kaliteli ChatGPT tarzı modeller oluşturmasına olanak tanıyan, RLHF eğitimi için düşük maliyetli, açık kaynaklı bir çözüm olan DeepSpeed-Chat'in piyasaya sürüldüğünü duyurdu. Microsoft, DeepSpeed-Chat kullanarak tek bir GPU'da veya Azure Cloud'da 300 $ gibi düşük bir maliyetle 13B'ye kadar bir modeli eğitebileceğinizi iddia ediyor.

DeepSpeed-Chat RLHF eğitim deneyimi, aynı donanımda 7,5 kata kadar daha büyük model boyutlarını desteklerken, SoTA'dan 15 kat daha hızlı işlem hacmi sunmak için DeepSpeed-Inference ve DeepSpeed-Training kullanılarak mümkün hale getirilmiştir. DeepSpeed-Chat, karmaşık RLHF eğitimini yapay zeka topluluğu için hızlı, uygun fiyatlı ve kolayca erişilebilir hale getirir. ChatGPT benzeri modelleri demokratikleştirir!

DeepSpeed-Chat'in ilk sürümü aşağıdaki üç özelliği içerir:

ChatGPT Benzeri Modeller için Kullanımı Kolay Eğitim ve Çıkarım Deneyimi. DeepSpeed-RLHF Boru Hattı. DeepSpeed-RLHF Sistemi