OpenAI выпустила обновленный документ, регламентирующий работу своих моделей искусственного интеллекта. Новая спецификация насчитывает 63 страницы против 10 в предыдущей версии и открыта для бесплатного использования и доработки. В ней компания закрепила три ключевых принципа: гибкость в настройке, прозрачность решений и свободу интеллектуального поиска.
Документ также отражает изменения в обработке спорных тем. Теперь модели OpenAI должны стремиться к объективному поиску истины, а не избегать сложных вопросов. В частности, они обязаны давать аргументированные ответы на чувствительные темы, такие как налоги или этические дилеммы, вместо уклонения от обсуждения.
Еще одно важное нововведение — борьба с так называемым «подхалимством ИИ». Модели больше не должны безоговорочно соглашаться с пользователями, а вместо этого обязаны давать честную обратную связь и корректировать фактические ошибки в вопросах.
Спецификация была опубликована под лицензией Creative Commons Zero (CC0), что позволяет другим компаниям и исследователям адаптировать её под свои нужды. OpenAI заявляет, что продолжит дорабатывать подходы к настройке поведения ИИ, принимая во внимание общественные отзывы.
Документ описывает новые подходы к обработке спорных тем, настройке поведения моделей и их взаимодействию с пользователями. OpenAI надеется, что эта открытая спецификация станет стандартом для всей индустрии.
