Студия нейропродашкена D.lab, которую «Газпром-медиа холдинг» запустил в сентябре 2023 г., представила первые демо-образцы AIGC – мультимедийного контента разных форматов и жанров, произведенные искусственным интеллектом с минимальным участием человека. Образцы созданы с помощью собственного решения D.lab. Теперь студия переходит к тестированию своих технологий на проектах «Детского радио», Rutube, Premier и Yappy. Об Этом CNews сообщили представители «Газпром-медиа холдинга».

Решение D.lab позволяет создавать новые форматы контента. Например, анимированные пересказы литературных произведений или краткие пересказы полнометражных фильмов. Решение может синтезировать музыкальное оформление и закадровый голос, визуализировать аудиоконтент, генерировать цифровых персонажей, стилизовать видео. Решение гибридное — в его основе более 20 open source и коммерческих моделей искусственного интеллекта, дополнительно обученных и скомбинированных командой D.lab, для производства мультимедийного контента. Также в решении применяются технологии компьютерного зрения, синтеза и распознавания речи.

Ключевые особенности решения D.lab – экономия времени профессионалов, повышение скорости выполнения рутинных задач и снижение затрат на производство. Например, вместо ручной отрисовки различных фонов, персонажей или деталей можно выбирать из предложенных нейросетями вариантов, созданных на основе специальных запросов-промптов. Участие человека требуется только при постановке задачи, внесении стилистических правок и контроле результатов.

Эдуард Маас, руководитель D.lab: «Мы работаем в постоянном контакте с профессионалами медиа, поскольку наше решение в первую очередь для них. У нас не нейромосфильм и нейроголливуд. Их и не может быть. У нас – набор решений-помощников для профессионального продакшена. Этот набор уже на текущем этапе позволил втрое сократить стоимость отдельных производственных процессов и выполнять их за часы и дни, а не за месяцы и годы. У нас нейросети уже более чем на 80% участвуют в создании самого разнообразного контента новых форматов. И нет задачи, чтобы на 100% вкалывали роботы».

На Rutube-канале D.lab представлены первые примеры AIGC-работ: анимационные пересказы «Слова о полку Игореве» и рассказа Айзека Азимова «Лжец!» из знаменитого цикла «Я, робот», видеопересказы киноклассики – «Метрополиса» Фрица Ланга и «Броненосца Потемкина» Сергея Эйзенштейна, а также образец анимационной стилизации видео.

В цикле создания анимационных пересказов литературных произведений от D.lab в среднем семь этапов: анализ исходного текста LLM-моделями; написание сценария LLM-моделями; формирование стилевой концепции моделями Text-to-Image; черновая раскадровка ролика с текстовым описанием LLM-моделями; генерация сцен и персонажей моделями Text-to-Image; добавление анимации (при необходимости с участием человека); озвучание моделями Text-to-Speech.

В «Лжеце!» качество нейросинтезированного озвучания не устроило команду D.lab, и было принято решение использовать классический вариант с настоящим человеческим голосом. На подготовку таких видеороликов по книгам сейчас уходит около двух недель.

В видеопересказах полнометражных фильмов решением D.lab выполнено шесть видов работ: анализ фильма ансамблем нейросетей; обработка полученных результатов LLM-моделями; написание сценария видеоролика LLM-моделями; выделение ключевых монтажных точек ансамблем нейросетей; монтаж видеоролика; озвучание моделями Text-to-Speech.

Решение D.lab по стилизации позволяет оперативно «переодевать» любое видео, например, превращать фильм в мультфильм. Решение двухшаговое: текстовое описание стилистики моделями Text-to-Image; накладывание стилистики на исходное видео моделями Image-to-Image.

Субхолдинг «ГПМ радио» заинтересовали анимированные пересказы, и было принято решение протестировать нейропродакшен D.lab в визуализации контента единственной в России станции для юных слушателей – «Детского радио». Уже готовится визуализация популярного аудиоподкаста.

Команда Rutube тестирует возможности решения D.lab в создании коротких видео из своих оригинальных шоу. Параллельно платформа анализирует возможности AIGC сразу в нескольких направлениях – интеграция в новые выпуски текущих проектов, разработка премьерных шоу, построенных на нейроконтенте, использование такого материала в трансляциях спортивных и культурных событий, визуализация аудиоконтента, перемонтирование контента в разные форматы.

Онлайн-кинотеатр Premier выбрал для тестирования стилизацию видео. Трейлер одного из топовых сериалов сервиса будет представлен в непривычном виде.

В Yappy также выбрали стилизацию как наиболее подходящий и оперативный инструмент для обработки текущего контента. Команда платформы хочет использовать решение D.lab для повышения качества исходного видео (свет, стабилизация, фокусировка и т. п.).

***

D.lab – цифровая лаборатория «Газпром-медиа холдинга», R&D и консалтинговое подразделение компании. Основные направления деятельности – поиск технологических точек роста и синергии между активами, проверка гипотез и пилотирование, опытные разработки, исследования, адаптация и применение новых решений в холдинге, развитие новых технологических бизнес-направлений, партнерства с участниками рынка. Работа D.lab базируется на решениях с применением искусственного интеллекта. Руководитель D.lab – Эдуард Маас.

«Газпром-медиа холдинг» управляет девятью эфирными телеканалами, производством и дистрибуцией тематических телеканалов и спортивных каналов, а также оператором спутникового и цифрового ТВ «НТВ-плюс». В цифровой среде холдинг управляет онлайн-кинотеатром Premier, видеохостингом Rutube, приложением коротких вертикальных видео Yappy, онлайн-телегидом «Вокруг ТВ» и другими сервисами. В портфель «Газпром-медиа холдинга» входят девять радиостанций. На рекламном рынке «Газпром-медиа холдинг» представлен сейлз-хаусом «Газпром-медиа», который развивает экосистему рекламных продуктов и инструментов на эксклюзивной основе.

Источник