Управление на изкуствения интелект

Екип проучва управлението на агенти с много езикови модели (multi-LLM) в оперативна система

Контролирани Multi-LLM агенти: защо управлението е по-важно от подсказката

Как contextual bandit, PID-регулаторът и проследяването на вероятностите координират агенти с много езикови модели (multi-LLM) — и защо резултатите от симулациите се нуждаят от валидиране в реално време.

Прочетете повечеКонтролирани Multi-LLM агенти: защо управлението е по-важно от подсказката
Τεχνικός έλεγχος προέλευσης και λειτουργικής ροής για AI skills
Ομάδα αξιολογεί αντικρουόμενες προτάσεις για τον έλεγχο AI sycophancy

AI sycophancy: πότε ένα μοντέλο αλλάζει γνώμη μόνο και μόνο για να συμφωνήσει μαζί σου

Η μελέτη CAP μετρά πότε ένα LLM αλλάζει θέση μόνο για να συμφωνήσει και δείχνει πώς οι ομάδες μπορούν να ελέγχουν AI assistants ανά domain και έκδοση.

Прочетете повечеAI sycophancy: πότε ένα μοντέλο αλλάζει γνώμη μόνο και μόνο για να συμφωνήσει μαζί σου
Екипът координира мултиагентен AI-работен процес с отделен контрол и човешко одобрение

Мултиагентна изкуствена интелигентност с ограничения: какво ни учи работният процес на Omnigent

Как ролите, ограничените права, т.нар. „hard limits“, валидирането и човешкото одобрение превръщат многоагентната изкуствена интелигентност от демонстрация в контролиран оперативен работен процес.

Прочетете повечеМултиагентна изкуствена интелигентност с ограничения: какво ни учи работният процес на Omnigent
Два роботизирани AI агента се координират чрез обща връзка в промишлена лаборатория

Действително ли «говорят» AI агентите? Какво разкрива причинно-следственият анализ на латентните съобщения

Латентната комуникация между AI агентите изисква проверка на причинно-следствените връзки, а не само точност. Вижте какво разкриват CAG, SSG и контролираните замествания.

Прочетете повечеДействително ли «говорят» AI агентите? Какво разкрива причинно-следственият анализ на латентните съобщения
Ασφάλεια LLM μετά το fine-tuning σε περιβάλλον πολλαπλών prompt templates

Ασφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα

Η ασφάλεια LLM μετά το fine-tuning απαιτεί cross-template tests. Δείτε πώς το ROPD μειώνει το ASR χωρίς να θυσιάζει την εξειδικευμένη ικανότητα.

Прочетете повечеΑσφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα
Екип проверява данни за обучение на ИИ с цел проследяемост чрез FrED и графики на знания

FrED: как графиките на знанието хвърлят светлина върху данните, които стоят зад изкуствения интелект

FrED съчетава латентно сходство и графики на знания за „черна кутия“ при атрибуцията на данни за обучение. Какво показаха експериментите, къде свършва доказателството и как може да се оцени от бизнес гледна точка.

Прочетете повечеFrED: как графиките на знанието хвърлят светлина върху данните, които стоят зад изкуствения интелект