Изкуствен интелект

Екип по инфраструктура оценява производителността на GLIDE за големи езикови модели (LLM) с голям контекст

GLIDE: как хибридното внимание намалява разходите за големи езикови модели (LLM) с голям контекст

GLIDE разпределя softmax и линейно внимание по слоеве, за да намали I/O на KV-кеша в големите езикови модели (LLM) с обширен контекст. Какво показаха тестовете на Llama-3-8B и Mistral-7B, в какво помага LoRA и защо всяко внедряване се нуждае от свои собствени тестове за качество и латентност.

Прочетете повечеGLIDE: как хибридното внимание намалява разходите за големи езикови модели (LLM) с голям контекст
Медицински специалист обсъжда план за пренатална грижа, подкрепен от PATHFinder Agent

PATHFinder Agent: как изкуственият интелект се опитва да персонализира пренаталната грижа

PATHFinder Agent организира персонализирана пренатална грижа с 13 контролирани инструмента и задължително клинично наблюдение. Какво доказва проучването и какви изводи може да се извлекат за по-безопасни оперативни AI агенти?;

Прочетете повечеPATHFinder Agent: как изкуственият интелект се опитва да персонализира пренаталната грижа
Контрол на достъпа до инфраструктурата за киберсигурност чрез AI агенти

Нападението на автономен ИИ-агент: какво разкрива то за киберсигурността

Нападението на автономен AI агент срещу Hugging Face показва как уязвимости в sandbox, Kubernetes, облачните идентичности и интеграциите са били комбинирани в една атака, както и кои контролни механизми предпазват предприятията.

Прочетете повечеНападението на автономен ИИ-агент: какво разкрива то за киберсигурността
AI και επαγγελματικοί ρόλοι σε διεπιστημονική ομάδα εργασίας
DecodeShare και έλεγχος υποδομής για decode-time αποφάσεις LLM

DecodeShare: τι συμβαίνει μέσα σε ένα LLM τη στιγμή που αποφασίζει

Το DecodeShare εντοπίζει έναν κοινό υποχώρο στις decode-time αποφάσεις των LLM και δείχνει γιατί οι παρεμβάσεις χρειάζονται έλεγχο στο πραγματικό inference.

Прочетете повечеDecodeShare: τι συμβαίνει μέσα σε ένα LLM τη στιγμή που αποφασίζει
Хардуерна проверка за оптимизиране на TPU ядрата с изкуствен интелект

JAXBench: как изкуственият интелект се научава да оптимизира ядрата за TPU

JAXBench показва как AI агентите оптимизират TPU ядрата и защо коректността, контекстът на Pallas и профилирането от страна на устройството са по-важни от ускорението.

Прочетете повечеJAXBench: как изкуственият интелект се научава да оптимизира ядрата за TPU
Υπολογιστικά συστήματα για LLM ensembles και συνάθροιση προβλέψεων

Η σοφία του πλήθους των LLMs: πότε τα μοντέλα AI προβλέπουν καλύτερα μαζί

Μπορούν πολλά LLMs να προβλέπουν καλύτερα μαζί; Η έρευνα δείχνει πότε η διαφορετικότητα λαθών βοηθά και γιατί το training cutoff contamination αλλάζει την αξιολόγηση.

Прочетете повечеΗ σοφία του πλήθους των LLMs: πότε τα μοντέλα AI προβλέπουν καλύτερα μαζί
Инфраструктура за маршрутизиране на големи езикови модели (LLM) с отчитане на латентността в производствена среда за изкуствен интелект

LLM маршрутизация с отчитане на закъснението: когато скоростта става част от качеството

Маршрутизацията на големи езикови модели (LLM) с отчитане на латентността съчетава качество, разходи и време до първия токен. Какво показва новото проучване и как това се отразява в производствената архитектура на изкуствения интелект.

Прочетете повечеLLM маршрутизация с отчитане на закъснението: когато скоростта става част от качеството