OpenAI публично представила свой новый генератор видео на основе искусственного интеллекта Sora, но компания не позволит большинству пользователей изображать людей, поскольку она видит возможность неправомерного использования.
Пользователи премиум-версии флагманского продукта OpenAI ChatGPT теперь могут использовать Sora для мгновенного создания видеороликов, сгенерированных ИИ, на основе текстовых команд. Среди ярких примеров — высококачественные видеоклипы борющихся сумо медведей и кота, пьющего кофе.
И только небольшая группа приглашенных тестировщиков может использовать Sora для создания видеороликов с людьми, поскольку компания работает над "решением проблем, связанных с незаконным присвоением образа и дипфейками", — говорится в сообщении компании в блоге.
Инструменты ИИ для преобразования текста в видео, такие как Sora, были представлены как способ экономии затрат при создании новых развлекательных и маркетинговых видеороликов, но также вызвали опасения по поводу легкости, с которой они могут выдавать себя за реальных людей в политике и других областях.
OpenAI заявляет, что блокирует контент с наготой и что главным приоритетом является предотвращение наиболее вредоносного использования, включая материалы о насилии над детьми и сексуальные дипфейки.
Долгожданный продукт получил так много откликов после своего выпуска в понедельник, что OpenAI временно приостановила создание новых учетных записей.
Вот цитата с сайта openai.com:
В настоящее время мы испытываем большой трафик и временно отключили создание учетных записей Sora
OpenAI впервые представила Sora в начале этого года, но заявила, что хочет сначала пообщаться с художниками, политиками и другими людьми из разных сфер деятельности, прежде чем выпускать новый инструмент для публики.