OpenAI уже полтора года пытается довести до ума свою новую разработку — языковую модель под кодовым именем Orion. Компания рассчитывает, что именно она станет флагманом новой эпохи искусственного интеллекта. Однако процесс идёт не так гладко, как ожидалось: исследователи сталкиваются с нехваткой подходящих данных, а тестовые запуски, стоимость которых достигает сотен миллионов долларов, пока не принесли желаемых результатов.
Когда два года назад OpenAI представила ChatGPT, мир был в восторге от возможностей ИИ. Генеральный директор компании Сэм Альтман пообещал, что следующая версия GPT сделает ещё больший рывок: она сможет выполнять сложные задачи, совершать открытия и даже сомневаться в своих выводах. Но создание такой модели оказалось гораздо сложнее. Orion, несмотря на все усилия, пока не демонстрирует значительного прогресса по сравнению с предыдущими системами.
Одна из главных трудностей — данные. GPT-4 обучалась на 13 триллионах токенов, что эквивалентно многолетнему труду тысяч людей. Для новой модели требуется ещё больше высококачественной информации. OpenAI пыталась использовать генерацию данных другими ИИ, но этот метод не дал стабильных результатов. Тогда компания пошла другим путём: она начала привлекать специалистов, включая физиков и программистов, чтобы те вручную создавали обучающие наборы данных.
Проблемы с Orion привели к задержке проекта и переключению ресурсов на другие направления, такие как упрощённая версия GPT-4 и генератор видео Sora. Внутри компании даже возникла конкуренция между разработчиками за вычислительные мощности. Тем временем конкуренты, вроде Anthropic, начали обгонять OpenAI в некоторых аспектах. Это усилило давление на исследовательскую команду, заставив её переоценить подходы к обучению.
Одной из перспективных идей стало развитие способности ИИ к рассуждению. В новой архитектуре Orion модель анализирует несколько вариантов ответа на вопрос, выбирая лучший. Такой подход мог бы повысить качество решений, но требует значительных ресурсов и пока не гарантирует успеха. Более того, модель часто не справляется с задачами, если условия немного меняются.
Несмотря на все трудности, OpenAI продолжает работать над Orion. Исследователи стремятся объединить масштабные данные, синтезированные другими моделями, с уникальной информацией, созданной людьми. Компания надеется, что такой симбиоз технологий и человеческого опыта поможет достичь поставленных целей. Пока же GPT-5 остаётся амбициозной идеей, реализация которой требует времени и упорства.
