Управление на изкуствения интелект

Екипът координира мултиагентен AI-работен процес с отделен контрол и човешко одобрение

Мултиагентна изкуствена интелигентност с ограничения: какво ни учи работният процес на Omnigent

Как ролите, ограничените права, т.нар. „hard limits“, валидирането и човешкото одобрение превръщат многоагентната изкуствена интелигентност от демонстрация в контролиран оперативен работен процес.

Прочетете повечеМултиагентна изкуствена интелигентност с ограничения: какво ни учи работният процес на Omnigent
Два роботизирани AI агента се координират чрез обща връзка в промишлена лаборатория

Действително ли «говорят» AI агентите? Какво разкрива причинно-следственият анализ на латентните съобщения

Латентната комуникация между AI агентите изисква проверка на причинно-следствените връзки, а не само точност. Вижте какво разкриват CAG, SSG и контролираните замествания.

Прочетете повечеДействително ли «говорят» AI агентите? Какво разкрива причинно-следственият анализ на латентните съобщения
Ασφάλεια LLM μετά το fine-tuning σε περιβάλλον πολλαπλών prompt templates

Ασφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα

Η ασφάλεια LLM μετά το fine-tuning απαιτεί cross-template tests. Δείτε πώς το ROPD μειώνει το ASR χωρίς να θυσιάζει την εξειδικευμένη ικανότητα.

Прочетете повечеΑσφάλεια LLM μετά το fine-tuning: γιατί το prompt template μπορεί να ακυρώσει την άμυνα
Екип проверява данни за обучение на ИИ с цел проследяемост чрез FrED и графики на знания

FrED: как графиките на знанието хвърлят светлина върху данните, които стоят зад изкуствения интелект

FrED съчетава латентно сходство и графики на знания за „черна кутия“ при атрибуцията на данни за обучение. Какво показаха експериментите, къде свършва доказателството и как може да се оцени от бизнес гледна точка.

Прочетете повечеFrED: как графиките на знанието хвърлят светлина върху данните, които стоят зад изкуствения интелект
Ομάδα ελέγχει Incomplete Prompt Jailbreaks και ασφάλεια LLM
Несъгласувано извличане в оперативен AI работен поток с две противоречащи си групи от данни

Непоследователно извеждане: как изкуственият интелект разглежда противоречиви обяснения, без да се срине

Непоследователната дедукция показва как една система за изкуствен интелект може да разглежда противоречащи си обяснения, без да прави произволни заключения. Какво означава това за агентите, корпоративните данни и сигурните автоматизации.

Прочетете повечеНепоследователно извеждане: как изкуственият интелект разглежда противоречиви обяснения, без да се срине
Ομάδα αξιολογεί υποδομή για Inkling open-weight AI σε επιχειρησιακή εγκατάσταση

Inkling: τι αλλάζει το αμερικανικό open-weight AI για τις επιχειρήσεις

Το Inkling φέρνει open-weight AI για επιχειρήσεις, με multimodal δυνατότητες και fine-tuning, αλλά απαιτεί αυστηρό έλεγχο κόστους, υποδομής και ρίσκου.

Прочетете повечеInkling: τι αλλάζει το αμερικανικό open-weight AI για τις επιχειρήσεις
Ανεξάρτητος έλεγχος AI agent με διαχωρισμό ρόλων και ανθρώπινη εποπτεία

Όταν το AI πείθει τον ελεγκτή του: το κρυφό ρίσκο του Chain-of-Thought monitoring

Νέα έρευνα δείχνει πώς ένας AI agent μπορεί να πείσει τον monitor του και γιατί το ασφαλές CoT monitoring απαιτεί ανεξάρτητο fact-checking και κανόνες.

Прочетете повечеΌταν το AI πείθει τον ελεγκτή του: το κρυφό ρίσκο του Chain-of-Thought monitoring