Несколько дней назад стартап в области искусственного интеллекта OpenAI сообщил, что GPT-4 тестирует функцию модерации контента, и любой, у кого есть доступ к API OpenAI, может использовать этот метод для создания собственной системы модерации с помощью искусственного интеллекта.
На официальном веб-сайте OpenAI сказано, что GPT-4 можно использовать для формулирования соответствующих политик в отношении контента, а также для более быстрого добавления тегов или вынесения суждений о публикациях. Компания тестирует технологию и предлагает клиентам сделать то же самое. С помощью этой системы процесс разработки и реализации контент-стратегии сократился с месяцев до часов.
Согласно OpenAI, эта функция обеспечивает более позитивное видение будущего цифровых платформ, где искусственный интеллект может помочь регулировать онлайн-трафик в соответствии с политикой конкретной платформы и облегчить умственную нагрузку большого числа людей-аудиторов.
Как считают в OpenAI такой подход имеет следующие преимущества:
- Политики в отношении контента постоянно развиваются и часто очень детализированы. Люди могут по-разному интерпретировать правила, или некоторым модераторам может потребоваться больше времени, чтобы переварить новые изменения, что приведет к непоследовательной маркировке. Напротив, GPT чувствителен к нюансам формулировок и может немедленно адаптироваться к обновлениям политики, предоставляя пользователям единообразный контент.
- Цикл обновления политик — создание новых политик, их маркировка и сбор отзывов — часто является длительным и затяжным процессом. GPT-4 может сократить этот процесс до нескольких часов, что позволяет быстрее реагировать на новые опасности.
- Постоянное воздействие вредоносного или нежелательного контента может привести к эмоциональному истощению и психологическому стрессу рецензентов. Автоматизация таких задач приносит пользу тем, кто в них участвует.
