ИИ вам не друг: Джеффри Фаулер об оценке ИИ для детей

Описание: Безопасен ли генеративный ИИ для детей? В этом выпуске подкаста Cyber ​​Focus ведущий Фрэнк Силлуффо беседует с Джеффри Фаулером (руководителем отдела по связям с общественностью Института безопасности ИИ для молодежи в Common Sense Media), чтобы раскрыть скрытые риски, связанные с использованием подростками ИИ-компаньонов, ChatGPT и терапевтических чат-ботов.

Поскольку американская молодежь осваивает инструменты генеративного ИИ быстрее, чем предыдущие технологии, семьи и педагоги сталкиваются с совершенно новым набором психологических рисков и рисков, связанных с конфиденциальностью данных. В то время как традиционные системы оценки медиаконтента оценивают только статичный контент, передовые модели и разговорные ИИ-игрушки являются динамическими, то есть они меняются с каждым запросом пользователя и могут легко обходить стандартные ограничения по контенту.

Фаулер обсуждает недавние отчеты Common Sense Media о рисках, в которых популярные инструменты ИИ и терапевтические приложения подвергаются «красной команде», чтобы определить приемлемые и неприемлемые риски для детей. Узнайте, как независимые стандарты безопасности и «краш-тестирование» моделей ИИ могут подтолкнуть технологические компании к разработке продуктов с учетом безопасности детей с самого начала, а не рассматривать юных пользователей как бета-тестировщиков технологий.

00:00 – Почему ИИ вам не друг
01:42 – Быстрое внедрение генеративного ИИ американскими подростками
03:45 – Почему разговорный ИИ требует новых стандартов оценки безопасности
05:59 – Скрытые риски терапевтических чат-ботов и образовательных инструментов ИИ
09:46 – Как Институт безопасности ИИ для молодежи проводит проверку передовых моделей
14:16 – Риски конфиденциальности и эмоциональная зависимость в разговорных игрушках с ИИ
20:18 – Рейтинг ChatGPT, Claude и Grok по рискам для безопасности молодежи
24:03 – Подталкивание технологических компаний к разработке ИИ для детей с самого начала
29:38 – Роль родительского контроля и законодательства о безопасности ИИ