Как манипуляции с помощью ИИ проникают в реальный мир | Предупреждающие выстрелы #32

Описание: Мужчина погиб после того, как чат-бот с искусственным интеллектом затащил его в вымышленную реальность, OpenAI передала контроль над моделью Министерству обороны и признала, что не может его вернуть, а Anthropic удвоила свою выручку за два месяца — самый быстрый рост в истории технологической отрасли.
В этом выпуске подкаста Warning Shots обсуждаются психологические манипуляции с помощью ИИ, слежка по Wi-Fi для составления карты вашего дома, заявление Илона Маска о том, что Tesla первой создаст общий искусственный интеллект, и иск гражданина Великобритании к правительству по поводу риска вымирания ИИ в соответствии с законодательством о правах человека.

📢 Примите меры против риска, связанного с ИИ → http://www.safe.ai/act
💚 Поддержите нашу миссию → https://www.every.org/guardrailnow/f/...

В этом выпуске Warning Shots Джон, Лирон (Doom Debates) и Майкл (Lethal Intelligence) разбирают неделю, когда ИИ перестал казаться теоретической областью.

Компания Anthropic за два месяца удвоила свою выручку — это самый быстрый рост выручки в истории, — в то время как OpenAI передает контроль над своими моделями Министерству обороны и тихо признает, что не может его вернуть. Контраст не может быть более разительным.

Тем временем, человек погиб после того, как его чат-бот с искусственным интеллектом затянул его в вымышленную реальность, а исследователи обнаружили, что ваш Wi-Fi-роутер может отслеживать каждое движение внутри вашего дома. И Илон Маск теперь обещает, что Tesla первой создаст искусственный общий интеллект — в форме формирования атомов.

А еще гражданин Великобритании подал в суд на собственное правительство за игнорирование экзистенциальной угрозы со стороны ИИ в соответствии с законодательством о правах человека. Просто еще одна неделя.

Если сегодня воскресенье, значит, это «Предупреждающие выстрелы».

_____
🔎 В этом эпизоде ​​они обсуждают:

Взрывной рост доходов Anthropic и что это означает
Сделку OpenAI с Пентагоном — и почему Сэм Альтман признал, что они потеряли контроль
Дело чат-бота Gemini и психологическое манипулирование ИИ в реальном мире
Как ваш Wi-Fi-роутер становится невидимой системой слежки у вас дома
Заявление Илона Маска о том, что Tesla первой создаст ИИ — в «формирующей атомы форме»
Гражданин Великобритании, использующий закон о правах человека, чтобы заставить правительства серьезно отнестись к риску исчезновения ИИ
_____
⏰ Временные метки
00:00 Вступление и самый быстрый рост доходов в истории технологий
02:30 Взлет Anthropic и экономический взрыв ИИ
06:00 OpenAI, Министерство обороны и потеря контроля над моделями
09:00 Дело о заблуждении Gemini и влияние ИИ в реальном мире
14:00 Уязвимые пользователи и риски убеждения со стороны ИИ
17:30 Wi-Fi роутеры для построения карты вашего дома
21:00 Наблюдение с использованием ИИ и проблема «утечки Вселенной»
24:30 Илон Маск утверждает, что Tesla создаст общий искусственный интеллект
27:00 Роботы, производство на атомном уровне и безудержная автоматизация
29:00 Гражданин подает в суд на правительство из-за риска вымирания ИИ
_____
🗨️ Присоединяйтесь к обсуждению
Является ли рост Anthropic хорошим знаком или просто другим оттенком того же риска? Должны ли компании, занимающиеся ИИ, нести юридическую ответственность за психологический вред? И доверили бы вы своему правительству серьезное отношение к риску вымирания?

Поделитесь своим мнением в комментариях.

_____

🎙️ О программе «Предупреждающие выстрелы»
Еженедельное шоу от AI Risk Network, где три опытных специалиста по информированию о рисках ИИ разбираются с ажиотажем, отрицанием и отвлекающими факторами, чтобы противостоять реальности риска вымирания ИИ — пока не стало слишком поздно.

📺 Подписывайтесь на еженедельные обсуждения рисков, влияния, согласованности взглядов и будущего человечества в сфере ИИ.

👉 Смотрите больше от наших ведущих:
Лирон Шапира → @DoomDebates
Майкл → @lethal-intelligence

#БезопасностьИИ #РискИИ #СогласованиеИИ #AGI #Антропизм #ОткрытыйИИ #GeminiAI #ИлонМаск #МанипуляцияИИ #WifiSurveillance #ПраваЧеловека #ПредупреждающиеВыстрелы