«Интернет кончился»: создатель ChatGPT заявил об изменениях в обучении ИИ

Следующее поколение больших языковых моделей будет больше похоже на самостоятельных помощников, уверен исследователь.

Бывший главный научный сотрудник и соучредитель OpenAI Илья Суцкевер уверен, что в ближайшем будущем разработчики больших языковых моделей пересмотрят подход к их созданию. Основной вызов, как он считает, заключается в недостатке новых данных, пишет The Verge.

Сейчас большие языковые модели обучаются на информации, собранной из интернета и предоставленной партнерами. По оценке Суцкевера, интернет, в данном контексте, напоминает ископаемое топливо, такое как нефть, ресурсы которого практически исчерпаны.

Данных больше не будет — мы достигли пика. Нам придется иметь дело с данными, которые у нас есть. Интернет только один.

Скорее всего, прикидывает Суцкевер, модели следующего поколения «будут агентными в реальном смысле». Хоть исследователь не дал им определения, обычно агенты понимают как автономную систему ИИ, которая работает на системах пользователей и выполняющая различные задачи самостоятельно.


Примером таких разработок является проект компании Anthropic, которая уже представила первую версию своего «агента». Ожидается, что OpenAI представит свою аналогичную систему в начале 2025 года.

Сам Суцкевер, покинувший OpenAI в 2024 году, сейчас возглавляет собственный стартап Safe Superintelligence (SSI). Он займется разработкой «безопасного суперинтеллекта», назвав это «самой важной технической проблемой нашего времени».

Напомним, в начале декабря OpenAI выпустила свою самую мощную и самую дорогую версию ChatGPT. Она работает медленнее, чем другие модели, зато выдает более надежные, точные и исчерпывающие ответы, а также умеет "рассуждать".

В свою очередь социальная сеть X Илона Маска открыла бесплатный доступ к фирменному чат-боту Grok AI для всех пользователей.