COG Projesi, Yapay Zeka Örnekleri

Cog, makine öğrenimi modellerini paketlemek için açık kaynaklı bir komut satırı aracıdır. Cog, dizüstü bilgisayarınızda geliştirme, GPU makinelerinde eğitim ve model üzerinde çalışan diğer kişiler için modelinizi çalıştırmanız için size tutarlı bir ortam sunar. Ardından, model eğitildiğinde ve onu paylaşmak veya dağıtmak istediğinizde, modeli standart bir HTTP API'si sunan bir Docker görüntüsüne dönüştürebilirsiniz.

Cog, normal Docker'ın ötesinde birkaç kullanışlı şey yapar:

Otomatik Docker görüntüsü. Ortamınızı basit bir yapılandırma dosyasıyla tanımlayın, ardından Cog en iyi uygulamalarla Dockerfiles oluşturacak ve tüm GPU yapılandırmasını sizin için yapacak. Otomatik HTTP hizmeti. Cog, modelinizin tanımından bir HTTP hizmeti üretecek, böylece doğru şekilde bir Flask sunucusu yazmanıza gerek kalmayacak. Artık CUDA cehennemi yok. Cog, hangi CUDA/cuDNN/PyTorch/Tensorflow/Python kombinasyonlarının uyumlu olduğunu bilir ve sizin için doğru sürümleri seçer.

Kaynak: https://github.com/replicate/cog