LangKit Projesi, Yapay Zeka Örnekleri

LangKit, WhyLabs tarafından dil modellerini izlemek için oluşturulmuş açık kaynaklı bir metin ölçüm araç setidir. Girdi ve/veya çıktı metninden ilgili sinyalleri çıkarmak için açık kaynaklı veri kayıt kitaplığı Whylogs ile uyumlu bir dizi yöntem sunar.

LLM'ler de dahil olmak üzere dil modellerini üretmek, sonsuz miktarda çıktı ortaya çıkarabilen sonsuz miktarda girdi kombinasyonu nedeniyle bir dizi risk içerir. Metnin yapılandırılmamış doğası, makine öğrenimi gözlemlenebilirlik alanında bir zorluk teşkil eder – modelin davranışında görünürlüğün olmaması ciddi sonuçlara yol açabileceğinden, çözmeye değer bir zorluk.

Kaynak: https://github.com/whylabs/langkit