Бывший главный научный сотрудник и соучредитель OpenAI Илья Суцкевер уверен, что в ближайшем будущем разработчики больших языковых моделей пересмотрят подход к их созданию. Основной вызов, как он считает, заключается в недостатке новых данных, пишет The Verge.
Сейчас большие языковые модели обучаются на информации, собранной из интернета и предоставленной партнерами. По оценке Суцкевера, интернет, в данном контексте, напоминает ископаемое топливо, такое как нефть, ресурсы которого практически исчерпаны.
Данных больше не будет — мы достигли пика. Нам придется иметь дело с данными, которые у нас есть. Интернет только один.
Скорее всего, прикидывает Суцкевер, модели следующего поколения "будут агентными в реальном смысле". Хоть исследователь не дал им определения, обычно агенты понимают как автономную систему ИИ, которая работает на системах пользователей и выполняющая различные задачи самостоятельно.
Примером таких разработок является проект компании Anthropic, которая уже представила первую версию своего "агента". Ожидается, что OpenAI представит свою аналогичную систему в начале 2025 года.
Сам Суцкевер, покинувший OpenAI в 2024 году, сейчас возглавляет собственный стартап Safe Superintelligence (SSI). Он займется разработкой "безопасного суперинтеллекта", назвав это "самой важной технической проблемой нашего времени".
Напомним, в начале декабря OpenAI выпустила свою самую мощную и самую дорогую версию ChatGPT. Она работает медленнее, чем другие модели, зато выдает более надежные, точные и исчерпывающие ответы, а также умеет "рассуждать".
В свою очередь социальная сеть X Илона Маска открыла бесплатный доступ к фирменному чат-боту Grok AI для всех пользователей.
