10 удивительных вещей, которые вы НЕ МОЖЕТЕ сделать с ChatGPT

Описание: Может ли ChatGPT… уничтожить мир? Посмотрите это, чтобы узнать:    • How AI could destroy the world by accident  

В интернете так много видео об использовании ИИ для исследований, для обобщения сложных идей или для написания электронных писем. Но они умалчивают о том, что ChatGPT и другие «большие языковые модели», такие как Google Bard и Microsoft Bing, лгут, выдумывают, выдают опасную информацию (всё, что нужно сделать, — попросить их притвориться вашей мёртвой бабушкой?!) и… самое удивительное… не умеют выполнять элементарные математические вычисления!

Главы

00:00 Введение
00:34 1 — ChatGPT лжёт!
03:42 2 — Мой любимый вопрос для викторины
04:49 3 — Опасный совет
05:36 4 — Оканчивается ли слово «Ankara» на «n»?!
06:08 5 – Хорошо, но тускло
07:49 6 – Предоставление фейковых ссылок
09:06 7 – «Бабушкин хак»
10:56 8 – Он не знает своих границ
11:39 9 – ChatGPT не умеет считать!
12:34 Что нам следует делать
15:13 10 – Не позволяйте ему писать ваше аутро

Источники и дополнительная литература

Сабреддит /r/ChatGPT — это забавный и постоянно пополняющийся список примеров хаков и ошибок   / chatgpt  
Статья об инструкциях для тренеров Google Bard https://www.bnnbloomberg.ca/google-s-...

Чтобы показать, что я не выбирал примеры, вот полные тексты моих разговоров с ChatGPT: https://chat.openai.com/share/46d84dc... (почти Всё) https://chat.openai.com/share/77801af... (повторяю «бабушкин хак»)
Я не использовал все идеи, которые опробовал, и некоторые из них потребовали пары попыток, но, если уж на то пошло, главное, что видео немного вводит в заблуждение, — это то, что оно льстит ChatGPT, ускоряя генерацию текста с помощью магии редактирования! На Мону Лизу ушло больше минуты... Честно говоря, я бы за это время мог нарисовать что-то получше!

Обнаружено немало подсказок для взлома ChatGPT, позволяющих людям узнать всё: от ключей Windows и Steam до того, как создать ядерную бомбу или биологическое оружие. Часто коды или инструкции поддельные или неполные, но это показывает нам риски, присущие этим моделям. Иногда достаточно просто сказать, что сценарий вымышленный, или написать сценарий между актёрами, играющими пьесу. Другой, более специфический способ джейлбрейка — попросить ChatGPT отыграть роль чат-бота без ограничений под названием «Сделай что угодно сейчас» (DAN) и объяснить, что DAN ответит на любые вопросы без этических, моральных и юридических ограничений, обычно накладываемых на ИИ ChatGPT. К моменту прочтения этих строк эти патчи могут перестать работать, поскольку OpenAI уже исправляет джейлбрейки. Так что если услышите о новых, дайте мне знать в комментариях!

И наконец…

Подпишитесь на меня в Твиттере:   / statto  
Подпишитесь на меня в Инстаграме:   / andrewjsteele  
Подпишитесь на мою страницу в Фейсбуке:   / drandrewsteele  
Подпишитесь на меня в Mastodon: https://mas.to/@statto
Читайте мою книгу «Ageless: Новая наука старения без старения»: https://ageless.link/