Изкуствен интелект

Ομάδα υποδομών αξιολογεί απόδοση GLIDE για LLM μεγάλου context

GLIDE: πώς η υβριδική προσοχή μειώνει το κόστος των LLM μεγάλου context

Το GLIDE κατανέμει softmax και linear attention ανά layer για να μειώσει το KV-cache I/O στα LLM μεγάλου context. Τι έδειξαν οι δοκιμές σε Llama-3-8B και Mistral-7B, πού βοηθά το LoRA και γιατί κάθε deployment χρειάζεται δικά του quality και latency tests.

Прочетете повечеGLIDE: πώς η υβριδική προσοχή μειώνει το κόστος των LLM μεγάλου context
Медицински специалист обсъжда план за пренатална грижа, подкрепен от PATHFinder Agent

PATHFinder Agent: как изкуственият интелект се опитва да персонализира пренаталната грижа

PATHFinder Agent организира персонализирана пренатална грижа с 13 контролирани инструмента и задължително клинично наблюдение. Какво доказва проучването и какви изводи може да се извлекат за по-безопасни оперативни AI агенти?;

Прочетете повечеPATHFinder Agent: как изкуственият интелект се опитва да персонализира пренаталната грижа
Контрол на достъпа до инфраструктурата за киберсигурност чрез AI агенти

Нападението на автономен ИИ-агент: какво разкрива то за киберсигурността

Нападението на автономен AI агент срещу Hugging Face показва как уязвимости в sandbox, Kubernetes, облачните идентичности и интеграциите са били комбинирани в една атака, както и кои контролни механизми предпазват предприятията.

Прочетете повечеНападението на автономен ИИ-агент: какво разкрива то за киберсигурността
AI και επαγγελματικοί ρόλοι σε διεπιστημονική ομάδα εργασίας
DecodeShare και έλεγχος υποδομής για decode-time αποφάσεις LLM

DecodeShare: τι συμβαίνει μέσα σε ένα LLM τη στιγμή που αποφασίζει

Το DecodeShare εντοπίζει έναν κοινό υποχώρο στις decode-time αποφάσεις των LLM και δείχνει γιατί οι παρεμβάσεις χρειάζονται έλεγχο στο πραγματικό inference.

Прочетете повечеDecodeShare: τι συμβαίνει μέσα σε ένα LLM τη στιγμή που αποφασίζει
Хардуерна проверка за оптимизиране на TPU ядрата с изкуствен интелект

JAXBench: как изкуственият интелект се научава да оптимизира ядрата за TPU

JAXBench показва как AI агентите оптимизират TPU ядрата и защо коректността, контекстът на Pallas и профилирането от страна на устройството са по-важни от ускорението.

Прочетете повечеJAXBench: как изкуственият интелект се научава да оптимизира ядрата за TPU
Υπολογιστικά συστήματα για LLM ensembles και συνάθροιση προβλέψεων

Η σοφία του πλήθους των LLMs: πότε τα μοντέλα AI προβλέπουν καλύτερα μαζί

Μπορούν πολλά LLMs να προβλέπουν καλύτερα μαζί; Η έρευνα δείχνει πότε η διαφορετικότητα λαθών βοηθά και γιατί το training cutoff contamination αλλάζει την αξιολόγηση.

Прочетете повечеΗ σοφία του πλήθους των LLMs: πότε τα μοντέλα AI προβλέπουν καλύτερα μαζί
Инфраструктура за маршрутизиране на големи езикови модели (LLM) с отчитане на латентността в производствена среда за изкуствен интелект

LLM маршрутизация с отчитане на закъснението: когато скоростта става част от качеството

Маршрутизацията на големи езикови модели (LLM) с отчитане на латентността съчетава качество, разходи и време до първия токен. Какво показва новото проучване и как това се отразява в производствената архитектура на изкуствения интелект.

Прочетете повечеLLM маршрутизация с отчитане на закъснението: когато скоростта става част от качеството