Взгляд изнутри на проблему оценки | Cohere и Принстонский университет | Серия «Границы»: Эпизод 5

Описание: Запись сделана на конференции ICLR 2026 в Рио-де-Жанейро. Инженеры-исследователи в области ИИ Нора Петрова и Джон Берден (@JoinProlific) продолжают свою беседу с Генри Конклином (@princeton) и Томом Хоскингом (@CohereAI) о своей статье «Обучение — это забывание: обучение LLM как сжатие с потерями».

Во второй части Генри и Том обращаются к практическим последствиям своей концепции — что она означает для того, как мы обучаем, оцениваем и выбираем модели. Когда 100 моделей-кандидатов показывают одинаковые результаты на эталонных тестах, как сделать выбор? Их аргумент заключается в том, что структура представления, а не поведение, является более надежным сигналом.


В ходе беседы будут рассмотрены следующие темы:

Почему поведенческая оценка является слабым индикатором того, чему модель действительно научилась
Как качество сжатия может заменить эталонные оценки в качестве сигнала выбора модели
Что на самом деле делает постобучение (SFT, RL, RLHF) со структурой информации
Как эта концепция распространяется за пределы LLM на экспрессию генов и клеточную специализацию

О гостях:

Генри Конклин — научный сотрудник-постдокторант в Принстонском университете и исследователь-совместитель в Cohere. Он защитил докторскую диссертацию в Эдинбургском университете, работая над обработкой естественного языка и тем, как обучаются LLM.

Том Хоскинг — сотрудник технического отдела Cohere, работающий в команде постобучения с упором на слияние моделей. Он защитил докторскую диссертацию в Эдинбургском университете вместе с Генри, имея опыт работы с автокодировщиками и обученными представлениями.


Статья на ArXiv: https://arxiv.org/abs/2604.07569

Подписывайтесь на The Frontier Series:
🟣 Spotify: https://open.spotify.com/show/3adqmfo...
🟣 TikTok:   / thefrontierseries  
🟣 Instagram:   / thefrontierseries  

Свяжитесь с Prolific:

🔵 X:   / prolific  
🔵 LinkedIn:   / prolific-com  
🔵 Facebook:   / joinprolific  
🔵 Instagram:   / joinprolific  
🔵 Bluesky: https://bsky.app/profile/joinprolific...

#ai #airesearch #prolific