Как предотвратить появление «непредсказуемых» агентов: создание ИИ, которому можно доверять

Описание: Искусственный интеллект переходит от генерации предложений к выполнению действий на протяжении всего жизненного цикла программного обеспечения. Настоящая проблема заключается не только в предотвращении нежелательного поведения. Речь идёт о создании агентов, которые полезны, поскольку обладают необходимым контекстом, ограниченными правами доступа, видимыми действиями, контрольными точками со стороны человека и чёткими путями восстановления.