Are LLMs the Beginning or End of NLP?

Автор: Simons Institute for the Theory of Computing

Загружено: 2023-08-17

Просмотров: 29654

Описание: Dan Klein (UC Berkeley)
https://simons.berkeley.edu/talks/dan...
Large Language Models and Transformers

I'll talk about three major tensions in NLP resulting from rapid advances of large language models. First, we are in the middle of a switch from vertical research on tasks (parsing, coreference, sentiment) to the kind of horizontal tech stacks that exist elsewhere in CS. Second, there is a fundamental tension between the factors that drive machine learning (scaled, end-to-end optimization of monoliths) and the factors that drive human software engineering (modularity, abstraction, interoperability). Third, modern models can be stunning on some axes while showing major gaps on others -- they can, in different ways, simultaneously be general, fragile, or dangerous. I'll give an NLP perspective on these issues along with some possible solution directions.

Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...

Are LLMs the Beginning or End of NLP?

Доступные форматы для скачивания:

Скачать видео

Информация по загрузке:

Скачать аудио

Похожие видео

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

LLM и GPT - как работают большие языковые модели? Визуальное введение в трансформеры

The Catastrophic Risks of AI — and a Safer Path | Yoshua Bengio | TED

The Catastrophic Risks of AI — and a Safer Path | Yoshua Bengio | TED

Visualizing transformers and attention | Talk for TNG Big Tech Day '24

Visualizing transformers and attention | Talk for TNG Big Tech Day '24

Everything You Need To Know About Large Language Models (LLMs)

Everything You Need To Know About Large Language Models (LLMs)

Сергей Попов: Первичные черные дыры (Л.1)

Сергей Попов: Первичные черные дыры (Л.1)

Лучший документальный фильм про создание ИИ

Лучший документальный фильм про создание ИИ

Визуализация внимания, сердце трансформера | Глава 6, Глубокое обучение

Визуализация внимания, сердце трансформера | Глава 6, Глубокое обучение

Может ли у ИИ появиться сознание? — Семихатов, Анохин

Может ли у ИИ появиться сознание? — Семихатов, Анохин

Как написать картину профессионально. Мастер-класс

Как написать картину профессионально. Мастер-класс

Турция. Как Эрдоган возрождает империю

Турция. Как Эрдоган возрождает империю

Магия транзисторов: как мы научили компьютеры думать с помощью кусочков кремния?

Магия транзисторов: как мы научили компьютеры думать с помощью кусочков кремния?

Цепи Маркова — математика предсказаний [Veritasium]

Цепи Маркова — математика предсказаний [Veritasium]

Старение мозга. Как сохранить ясность ума до самой старости. Татьяна Черниговская

Старение мозга. Как сохранить ясность ума до самой старости. Татьяна Черниговская

Математическая тревожность, нейросети, задачи тысячелетия / Андрей Коняев

Математическая тревожность, нейросети, задачи тысячелетия / Андрей Коняев

Леонард Сасскинд — Что такое бозон Хиггса? [Стэнфорд]

Леонард Сасскинд — Что такое бозон Хиггса? [Стэнфорд]

Музыка как инструмент развития мозга и как язык. Татьяна Черниговская

Музыка как инструмент развития мозга и как язык. Татьяна Черниговская

How DeepSeek Rewrote the Transformer [MLA]

How DeepSeek Rewrote the Transformer [MLA]

Exact Unlearning of Finetuning Data via Model Merging at Scale

Exact Unlearning of Finetuning Data via Model Merging at Scale

Почему МАЛЕНЬКИЙ атом создает такой ОГРОМНЫЙ взрыв?

Почему МАЛЕНЬКИЙ атом создает такой ОГРОМНЫЙ взрыв?

Почему AI генерит мусор — и как заставить его писать нормальный код

Почему AI генерит мусор — и как заставить его писать нормальный код