Top.Mail.Ru
Лирик видео нейросетью: клип по смыслу текста песни

Лирик видео нейросетью: текст песни мы читаем, но на экран не выводим

Загрузите аудиофайл длиной до 10 минут. ClipChat слушает трек, читает текст песни и пишет посценный план, где каждая сцена вырастает из строки или мысли в песне. На выходе — клип, форму которого задал текст, а не видео с набранными поверх словами.

Аудиофайл → разбор текста и карта секций → карточки сцен с таймкодами
Загрузить трек
Бесплатный шаг — это текст и раскадровка, а не видео. Он занимает примерно 60 секунд и не требует аккаунта. Для рендера видео нужен аккаунт, рендер идёт в 480p, 9:16.
Pipeline

Как трек становится видео, собранным по тексту

Шесть шагов. Первые четыре бесплатны и не требуют аккаунта. Чат, утверждение и рендер идут после регистрации.

01
Загрузите аудиофайл
MP3, WAV, M4A, AAC или OGG, до 10 минут. Нужен именно файл: ссылку на стриминговую страницу ClipChat не берёт.
02
Трек разбирается
Жанр, BPM, тональность, язык вокала, ведущий инструмент и настроение. Заодно ClipChat размечает, где начинаются и кончаются секции: куплет, припев, бридж, дроп.
03
Текст читается на смысл
Слова решают, что происходит на экране, — предмет, место, настроение каждой части песни. В экранные титры они не превращаются.
04
Вы получаете трактовку и карточки сцен
Письменная трактовка песни, до двух визуальных миров и до шести карточек сцен с таймкодами. Примерно 60 секунд, аккаунт не нужен.
05
Вы обсуждаете и утверждаете
Обсудите трактовку в чате, как обсуждали бы с режиссёром. Клип раскадровывается целиком заранее, и раскадровку вы утверждаете до того, как что-то отрендерится.
06
Сцены генерятся и режутся под песню
Склейки ложатся на границы секций — куплет в припев, бридж в дроп, — а не на ровную сетку битов.
Difference

ClipChat против классических лирик-видео редакторов

Классические лирик-видео редакторыClipChat
Текст на экранеДа. Это их главная функция: слова строка за строкой или слово за словом, синхронно с вокалом.Нет. ClipChat не рисует текст песни, караоке-подсветки у него нет. Если вам нужны читаемые слова на экране — берите классический редактор.
Разрешение и форматОбычно 1080p и, как правило, и 16:9, и 9:16.Только 480p, 9:16. Это ниже, чем сегодня даёт большинство лирик-видео инструментов.
Что решает визуалВыбранный шаблон: шрифт, фоновая петля, пресет перехода. Слова задают тайминг, но не картинку.Трактовка песни. Текст, жанр, настроение и карта секций решают, что показывает каждая сцена.
Тайминг склеекТекстовые события по сетке битов или расставленные руками на таймлайне.Склейки следуют структуре песни: куплет, припев, бридж, дроп.
Как начатьВыбрать шаблон, вставить текст, самому поправить тайминги.Загрузить файл. Письменная трактовка и до шести карточек сцен с таймкодами возвращаются примерно за 60 секунд, без аккаунта.
FAQ

Что спрашивают перед загрузкой

ClipChat может сделать лирик-видео со словами на экране?

Нет. ClipChat читает текст песни и собирает сцены по его смыслу, но сам текст песни он не показывает. Караоке-титров и пословной синхронизации нет. Если вам нужен текст на экране, возьмите классический редактор лирик-видео.

Как автоматически сделать лирик-видео из MP3?

Загрузите файл MP3. Нейросеть разбирает жанр, BPM, тональность, язык вокала, ведущий инструмент и настроение, размечает секции песни и примерно за 60 секунд возвращает письменную трактовку трека плюс до шести карточек сцен с таймкодами. Эта часть бесплатна и не требует аккаунта; для рендера видео аккаунт нужен. Интерфейс доступен на 17 языках.

ClipChat можно попробовать бесплатно?

Трактовка и раскадровка бесплатны и не требуют регистрации: письменный разбор, до двух визуальных миров и до шести карточек сцен с таймкодами. Видео в этот бесплатный шаг не входит. После регистрации даётся стартовый грант, которого хватает на первый короткий клип.

Какие аудиофайлы можно загрузить и какой длины бывает песня?

MP3, WAV, M4A, AAC и OGG, до 10 минут. Это должен быть загруженный файл, а не ссылка на стриминговую страницу. Длинные треки обрабатываются посекционно.

Какое разрешение и соотношение сторон я получу?

480p, и клип строится под вертикаль 9:16. Варианта 1080p сейчас нет. Проверьте, хватит ли этого там, где вы собираетесь публиковать, прежде чем начинать.

Как вы держите одного и того же исполнителя или персонажа во всех сценах?

Дайте один референсный кадр персонажа. Одного кадра хватает, чтобы провести того же человека через все сцены. Пять ракурсов того же персонажа делают результат стабильнее.

Honesty

Чего ClipChat не делает

Почему мы сделали именно так

Большинство лирик-видео инструментов решают типографскую задачу: вывести слова на экран, вовремя, поверх фона. Это настоящая работа, и есть инструменты, которые уже делают её хорошо. Нам был интересен другой вопрос — о чём песня и что из-за этого должно быть на экране. Поэтому ClipChat читает текст на смысл, размечает секции трека и превращает это в сцены, которые можно прочитать до любого рендера. Инструмент от этого становится уже, чем обещает название. Титров он вам не даст. Он даст план, который сначала можно прочитать и поправить.

Загрузите трек и сначала прочитайте план

Начать с аудиофайла