Как сделать в RunwayML Gen-3 видео из видео: преобразование любого видео с помощью ИИ
RunwayML выпустил новую функцию Video to Video. Теперь она доступна для всех пользователей с платными тарифными планами. Этот новый инструмент - новое достижение в создании видео, которое предоставляет пользователям больший контроль над движением, выразительностью и художественным замыслом в их видеоконтенте. В статье я расскажу, как пользоваться новой функцией на сайте и в телеграм-боте SYNTX (в боте, к слову, вы получите анлим на генерациии в Runway при покупке подписки Elite)
Что такое Video to Video?
Video to Video - это новый механизм, который позволяет пользователям преобразовывать существующие видео, применяя пользовательские промпты или выбирая один из предустановленных стилей, определяющих внешний вид и настроение конечного результата.
Хотите ли вы улучшить эстетику видео, изменить его настроение или точно управлять движением и выразительностью - этот инструмент позволяет легко и просто воплотить ваши творческие идеи в жизнь.
Информация о технических характеристиках
Прежде чем приступить к выполнению шагов, приведем краткий обзор основных технических характеристик функции Video to Video в Gen-3 Alpha:
- Стоимость: 50 кредитов за ролик длительностью 5 секунд и менее, либо 100 кредитов за ролик длительностью более 5 секунд.
- Поддерживаемая длительность: До 10 секунд
- Разрешение видео: SD (720p)
- Поддерживаемые соотношения сторон: 16:9 (1280x768)
Как работает на сайте
Использование функции Video to Video очень простое:
1. Выбор исходного видео
Начните с перехода в раздел «Generative Video» на панели управления. Убедитесь, что модель Gen-3 Alpha выбрана из выпадающего списка в левом верхнем углу. Это важно, поскольку функция Video to Video предназначена исключительно для полной модели Gen-3 Alpha и не может быть использована с моделью Turbo.
Чтобы загрузить видео, либо перетащите файл, либо выберите его из своих уже сгенерированных видео. Помните, что поддерживаются только видео с соотношением сторон 16:9. Если ваше видео имеет другое соотношение, вам нужно будет обрезать его до формата 16:9, прежде чем приступать к работе.
2. Составление промпта
Магия Video to Video заключается в том, что текстовые промпты могут кардинально изменить стиль вашего видео. Для достижения наилучших результатов создайте подробный промпт, в котором будет указан желаемый визуальный стиль.
Или просто выберите один из стилей, доступных в предустановках:
3: Настройка параметров
Измените доступные настройки для Video to Video, чтобы обеспечить оптимальные результаты.
Structure Transformation
Эта настройка определяет, насколько точно результат будет соответствовать структуре входного видео
- Низкие значения: Сохранение исходной структуры исходного видео.
- Более высокие значения: Получение более абстрактных и стилистически преобразованных результатов.
Вот результат:
Генерация в телеграм-боте
А теперь я расскажу, как воспользоваться этой функцией в телеграм-боте SYNTX.
В главном меню бота выберите пункт "Видео будущего"
после этого - пункт меню "RW Стилизатор"
Далее бот предлагает загрузить изображение и ввести промпт:
Но мы зайдем в настройки модели и посмотрим, что можно настроить:
Здесь можно выбрать продолжительность видео и задать seed
Продолжительность выбрана, поэтому загружу исходный ролик в бота:
После этого можно настроить параметры генерации или удалить видео. Настроим параметры:
Здесь можно ввести промпт, настроить степень преобразования видео и обрезать видео под формат Runway.
Ввожу промпт, и жду результат:
Вот такое видео сгенерировалось:
Теперь попробуем сгенерировать видео с настройкой стиля в боте:
В этот раз обойдемся без промпта, а просто выберем пресет стиля. В этом случае бот автоматически заполнит поле готовым промптом, который вы можете отредактировать:
Запускаем генерацию, и получаем такое видео:
Я считаю, что данная функция в Runway - их конкурентное преимущество, пока их конкуренты не создали аналогичные функции в своих ИИ-генераторах видео.
Кроме этого, в боте появилась новая функция - Синхронизатор губ. Работает так: загрузите видео с человеком (максимум 50 MB), аудио дорожку (или запишите голосовое) и Syntx синхронизирует губы (лучше всего работает с реалистичными видео).
Новая функция предоставляет пользователям больше контроля над видеоконтентом, позволяя использовать различные движения и более эмоциональную выразительность в создаваемых видео.
Так, в боте SYNTX уже есть все языковые модели от Openai (от GPT-4o до GPT 1o), Gemini, Claude Ollama. Среди нейросетей для генерации изображений - MidJourney, DALL-E 3, Flux, SD и Ideogram, а также редактор с 12 различными ИИ-инструментами для ретуши фото; для генерации видео - LUMA, Runway, Kling, а для любителей генерации музыки - Suno.