Business Technology

Ομάδα υποδομών αξιολογεί απόδοση GLIDE για LLM μεγάλου context

GLIDE: πώς η υβριδική προσοχή μειώνει το κόστος των LLM μεγάλου context

Το GLIDE κατανέμει softmax και linear attention ανά layer για να μειώσει το KV-cache I/O στα LLM μεγάλου context. Τι έδειξαν οι δοκιμές σε Llama-3-8B και Mistral-7B, πού βοηθά το LoRA και γιατί κάθε deployment χρειάζεται δικά του quality και latency tests.

Read MoreGLIDE: πώς η υβριδική προσοχή μειώνει το κόστος των LLM μεγάλου context