
LongLLaMa
LongLLaMA është një model gjuhësor i madh i projektuar për të trajtuar kontekste të gjera të tekstit, i aftë të përpunojë deri në 256,000 simbole. Ai bazohet në OpenLLaMA dhe është përmirësuar përmes metodës Focused Transformer (FoT). Repozitori ofron një variant bazë më të vogël 3B të LongLLaMA-s nën licencën Apache 2.0 për përdorim në implementimet ekzistuese. Gjithashtu, ofron kod për përmirësimin e udhëzimeve dhe vazhdimin e parapërgatitjes së FoT. Inovacioni kryesor i LongLLaMA-s është aftësia e tij për të menaxhuar kontekste shumë më të gjata se të dhënat e tij të trajnimit, duke e bërë të dobishëm për detyra që kërkojnë kuptim të thellë të kontekstit. Ai përfshin mjetet për integrim të lehtë në Hugging Face për detyra përpunimi të gjuhës natyrale.
Modeli i çmimeve: