Фонд «Защитим ИИ» — Джим Райан — 12.03.2025
Автор: Project NANDA
Загружено: 2025-12-12
Просмотров: 23
Описание:
Джим Райан из фонда Keep AI Safe Foundation бьет тревогу по поводу новых детских игрушек, использующих большие языковые модели (LLM) и работающих на основе искусственного интеллекта. Хотя эти игрушки позиционируются как компаньоны, они представляют собой риски, такие как эмоциональная зависимость (как это видно на примере Character.ai) и потенциальная возможность давать вредные советы (например, инструкции по поиску наркотиков или ножей).
Фонд активно тестирует эти игрушки, используя автоматизированных агентов ИИ для имитации многолетнего взаимодействия в масштабе, выявляя слабые места в системе защиты. Они выступают за тестирование в «песочнице» перед запуском и мониторинг в режиме реального времени для обеспечения безопасности и здорового развития детей.
Присоединяйтесь к революции:
↗ Домашняя страница: https://projectnanda.org
↗ GitHub: https://github.com/projnanda
↗ Страница мероприятия: https://lu.ma/nanda
↗ LinkedIn: / projectnanda
↗ Discord: / discord
↗ Reddit: / projectnanda
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке:
