KEN’S CAT LOG
▣

Попробовал использовать превиз для генерации AI-видео: грубый, но лучше, чем ничего

Я попробовал передать в генератор AI-видео простой превиз, сделанный из коробок и манекенов. Превиз — это черновое видео, в котором заранее задаются расположение и движения персонажей, а также работа камеры.

Если коротко: это весьма полезно. Однако мелкие детали не воспроизводятся один в один. Скорее, когда задаёшь общую постановку, модель удачно дополняет недостающие элементы. В качестве чертежа для этого превиз оказался удобным.

Сравнение превиза и результата генерации

Во всех видео сверху — сгенерированное AI-видео, снизу — исходный превиз. Длительность каждого — около 15 секунд. Я проверял, насколько можно передать ход сцены, не прорабатывая фон и персонажей.

Кафе у моря

Из простого расположения стола и персонажей получается кафе в сумерках. Такие действия, как поднести напиток ко рту, превращаются в видео в реалистичном стиле.

Кафе у моря: сверху — AI-генерация, снизу — превиз再生

Прогулка по ночному городу

В превизе заданы положение персонажа и направление его движения. Светлый, упрощённый городской пейзаж с помощью промпта превращён в ночной город.

Персонаж идёт по ночному городу: сверху — AI-генерация, снизу — превиз再生

Морская черепаха под водой

Из схематичного морского дна и движения черепахи получается подводный пейзаж со светом и кораллами. Это наглядный пример того, как модель дополняет внешний вид.

Морская черепаха под водой: сверху — AI-генерация, снизу — превиз再生

Бег вдоль моря

Заданы бегущий персонаж и движение камеры, следующей за ним. Черновой фон заменяется на набережную у моря.

Бег вдоль моря: сверху — AI-генерация, снизу — превиз再生

Дождливый город и трамвай

На основе расположения персонажа с зонтом и трамвая добавлена атмосфера дождливой ночи.

Дождливый город и трамвай: сверху — AI-генерация, снизу — превиз再生

Способ создания прост

В этот раз работа шла так:

  1. В Python+Blender 4.2 создавался превиз из коробок и простых форм. Для движения персонажей также использовался Mixamo.
  2. В генераторе изображений Codex подготавливались референсные изображения персонажей и других элементов.
  3. В MiniMax-H3 Ref2VA передавались превиз, референсные изображения и референсный звук; затем генерировалось видео продолжительностью около 15 секунд.
  4. Реплики создавались в HiggsAudio v3, звуковые эффекты — в Stable Audio 3 Medium, BGM — в ACE-Step 1.5; затем всё сводилось и монтировалось в ffmpeg. Для производственных скриптов и управления запуском использовался Claude Code.

Главное в инструкциях — разделить роли референсов. Я просил использовать «изображения для лица и одежды», а «превиз — для расположения, действий и движения камеры», при этом не переносить внешний вид манекенов и коробок. Финальный вид ночи, дождя, освещения и прочего задавался текстом.

Работает, но детали заметно меняются

Расположение персонажей, направления перемещения, порядок действий и общая работа камеры передаются хорошо. Но точные указания вроде «остановиться через столько-то секунд» или «насколько приблизить камеру» могли смещаться или вовсе не учитываться. Жёстко зафиксировать детали не получается.

Кроме того, в результат иногда попадали мерцание света из превиза или слишком регулярно расставленный фон. Похоже, освещение и формы в превизе стоит делать простыми и сосредоточиться на движении, которое важно передать.

И всё же возможность превратить грубые указания в эффектное видео очень удобна. Детали могут сильно измениться, но для передачи общего замысла постановки этого вполне достаточно. Не нужно делать всё идеально: даже грубый превиз лучше использовать, — такой вывод я сделал по итогам этого эксперимента.