Виставка доповненої реальності: як Panasonic зробив це віддалено за допомогою AR

На допомогу доповнена реальність. Скасування NAB 2022-2023 через пандемію COVID-19 спричинило ударні хвилі у всій індустрії мовлення. Щорічно проводиться в Лас-Вегасі виставка NAB є найбільшою виставковою виставкою, в якій беруть участь понад 90 000 учасників із понад 160 країн. Більшість із 1600 учасників виставляють нові продукти та технології, а для багатьох великих компаній планується планування до шести місяців. За дуже короткий проміжок часу часу, команда Panasonic Pro Video повинна була запропонувати альтернативні варіанти виведення свого повідомлення, працюючи віддалено від дому.

Аудіо + Відео + ІТ. Наші редактори є експертами з інтеграції аудіо, відео та ІТ. Отримуйте щоденну інформацію, новини та професійні мережі. Підпишіться на Pro AV сьогодні

За кілька днів до скасування виставки NAB команда Panasonic почала розглядати варіанти проведення замісної події, включаючи ідею побудови фізичного кіоску, де клієнти могли б відвідувати Інтернет. Команда Panasonic Pro Video також переговорила з Полом Лакомбом, генеральним директором DisruptAR із Нової Англії, який спеціалізується на створенні віртуальних постановок. Почавши свою кар'єру в General Motors після коледжу, Лакомб працював у виробничій галузі вже 30 років, починаючи з Silicon Graphics наприкінці 80-х, перш ніж самостійно взятися за віртуальне виробництво. DisruptAR орієнтований на зниження виробничих витрат на AR та VR для більш широкого ринку.

  • Інфраструктура потокової передачі Esports Training Factory
  • Citizen Cope дебютує концертний простір, що безпечний для Covid
  • Дистанційне навчання: як змусити віддалений оркестр працювати
  • Найкращі PTZ-камери для прямого ефіру

16 березня штат Нью-Джерсі, де знаходиться штаб-квартира Panasonic в США, офіційно перестав працювати; на 18 березня Lacombe запланував першу демонстрацію для команди Panasonic. NAB Show 2022-2023 було скасовано 20 березня. "

Нам довелося дуже швидко визначитися з двома варіантами, - розкриває керівник інженерної справи Panasonic Гаррі Патель. «Перший варіант вимагав фізичного будівництва кіоску, залучення продукту, дотримання вимог соціального дистанціювання (менше 10 осіб одночасно) та залучення знімальної групи. Це було не практично, і ми хотіли зробити щось якісніше, хоча ми не могли покинути свої домівки. Тож, нарешті, цю ідею віртуальної події обговорили далі і затвердили до кінця березня ».

Пол Лакомб із DisruptAR робить віртуальну демонстрацію з дому за протоколом Free-D.

Розширена реальність та віддалене виробництво

Віддалене виробництво - не нова концепція. Режисер Френсіс Форд Коппола відомий режисером та монтажем багатьох сцен зі свого фільму 1982 року "Один від серця" із трейлера біля знімальної площадки. Але створення виробництва віддалено з дому під час глобальної пандемії - це вже інша історія. Це стало можливим лише за допомогою найсучаснішої технології камер, ігрових механізмів VR та хмарних додатків.

Для Panasonic першою метою було створити чітке повідомлення за допомогою усного та письмового спілкування, перекладеного на більш наочний формат відео. У NAB продавці зазвичай спілкуються з клієнтами на виставковому майданчику, обговорюючи рішення проблем кожної людини. Менеджер групи маркетингу Джим Вікізер та агентство P.R., Racepoint Global, змогли підготувати послідовне повідомлення та працювали з окремими менеджерами по продуктах, щоб представити правильні моменти.

Патель і Вікізер також почали працювати з Лакомбом віддалено від його домашньої студії, щоб створити відеоінтерв'ю між менеджерами продуктів та ведучою студії Зої Лаїз, яка мала обговорити нові продукти та технології. "У всіх нас було складне виробниче середовище, але якщо робити це віддалено за таким графіком, це, безумовно, був стрибок віри", - пояснює Лакомб. "У моєму кишечнику я знав, що це може спрацювати, але ніколи раніше цього не робив".

Лакомб перетворив свій гараж розміром 20 х 24 дюйма на приміщення студії.

Для дистанційного запису кожен менеджер продукту отримав ноутбук, USB-мікрофон Blue Yeti та професійну PTZ-камеру Panasonic AW-HE42 Full-HD. HE42 було підключено через Ethernet та віртуальний USB-драйвер PTZ, а відео було перенесено в ноутбук за допомогою OBS для запису та TeamViewer для дистанційного керування.

Команди доповненої реальності та MS

Для спілкування, обміну файлами, перегляду демонстраційних демонстрацій та моніторингу віддалених виробничих зйомок Panasonic використовував Microsoft Teams, платформу для спілкування та співпраці. За одну ніч такі платформи, як Teams, Zoom, Ring Central та багато інших, дозволили людям та компаніям безпечно спілкуватися із зовнішнім світом зі своїх домівок.

Для того, щоб побачити, що Lacombe фіксував на знімальному майданчику під час виробництва, Patel використовував спільний доступ до Teams Screen, створюючи розділення чотирьох частот за допомогою виходу комутатора AV-UHS500 на конвертер з коробки SDI на USB. Фід USB був представлений у Windows як канал камери, яким вони ділились через Teams.

Під час нагляду за записом старшого віце-президента «Професійних візуалізацій та візуальних систем» Джона Бейслі через Teams Патель та Вікізер змогли переглядати вітальню Бейслі в прямому ефірі та надавати вказівки, чи це помилка зчитування рядка, зміна фону чи технічна проблема зі звуком. Завдяки Teams Patel також зміг надати напрямок екрану, спостерігаючи як зелений екран, так і віртуальний набір. "Якщо Зої стояла прямо за дверима і заходила, ми могли б дійсно побачити, чи був постріл хорошим чи ні", - пояснює Патель. "Я б сказав Полу через Teams:" Можливо, це буде працювати краще, якщо вона рухається трохи пізніше. "Що стосується віддаленої співпраці, я не думаю, що це було б можливим без використання Teams".

Поки старший віце-президент з питань професійної візуалізації та візуальних систем Джон Бейслі записував своє вступне слово, команда змогла переглядати вітальню Бейслі в прямому ефірі та надавати напрямки через команди Microsoft.

"Це було дуже круто робити це віддалено", - додає Вікізер. «У нас була людина в Бостоні, ми з Гаррі були у нас вдома в Нью-Джерсі, і у нас була ще одна людина на Західному узбережжі. Дочка одного разу зійшла до нашого підвалу і запитала, що я роблю. "Ми робимо дистанційне виробництво", - сказав я їй. Вона справді не могла повірити ".

Free-D і Unreal Engine

Для того, щоб включити реалістичні набори студій VR у реальний випуск, дуже важливим є збір точних даних про позиціонування камери. Перш ніж представити свою першу демонстрацію для Panasonic, DisruptAR розробив драйвер Free-D, який дозволив би підключити PTZ-камеру AW-UE150 4K Pro безпосередньо до Unreal Engine, що дало йому можливість виводити інформацію Pan / Tilt / Zoom / Iris через IP (UDP) безпосередньо з камери в систему відстеження Unreal в прямому ефірі без потреби в додаткових датчиках або кодерах.

"Free-D надійшов від Бі-Бі-Сі ще на початку 90-х років як протокол відстеження для однієї з їх систем відстеження камер", - пояснює Лакомб. «Він визначає шість ступенів свободи - панорамування, нахил, нахил, X, Y, Z, а також поле зору, масштабування та фокусування. Ці значення передаються у віртуальний механізм візуалізації та підключаються до віртуальної камери, щоб ваш фон реагував відповідно в реальному часі зі швидкістю 60 кадрів в секунду. "

За словами Лакомба, нереальний двигун широко застосовувався у багатьох виробництвах - від «Короля Лева» до «Мандалорійця». "Це основна технологія, яку зараз використовує більшість Голлівуду", - говорить Лакомб. "Здебільшого вони використовують його як проксі-сервер, але метою є" остаточний піксель ", тобто те, що ви бачите, що починається в реальному часі, - це те, що з’являється на екрані"

Протокол Free-D визначає шість ступенів свободи - панорамування, нахил, нахил XYZ, а також поле зору, масштабування та фокусування.

"Unreal Engine - це ігровий механізм, який застосовується на інших ринках, включаючи архітектуру, візуалізацію САПР, а в цьому випадку трансляцію та кінофільми", - говорить Лакомб. «Ми використовуємо його для досягнення найвищого рівня фотореалізму, беручи активи з традиційних інструментів DCC, таких як Maya, 3D Studio Max, Blender, використовуючи графічні карти NVIDIA зі швидкістю 60 кадрів в секунду, надаючи глядачам точність характеристик об’єктивів, таких як цвітіння, спалахи та розфокусування. Якість, яка вам потрібна для досягнення фотореалізму та рендерингу зі швидкістю 60 кадрів в секунду, - це, по суті, те, що робить Unreal Engine ».

Створення віртуального світу… в гаражі

Майстерня Лакомба знаходиться в його переобладнаному гаражі розміром лише 20 х 24, а його екіпаж складався лише з одного помічника. Для зеленого екрану він використовував портативний фон Pro Cyc. Через обмеження простору Лаїз міг пройти лише кілька кроків, тому їх обмежували лише камери, що робить AW-UE150 ідеальним інструментом для роботи. Для освітлення свого зеленого екрану Лакомб використав 14-дюймові світлодіодні панелі. "Ідея полягає в тому, що ви дійсно хочете мати один зелений відтінок і позбутися всієї вродливості, щоб ваш клавіатор міг утримувати ці тіні", - пояснює Лакомб. "Ви вибираєте один зелений, який ви хочете виписати, і темніші зелені - це тіні, накладені у вашому віртуальному наборі".

Незважаючи на те, що він працював у невеликих приміщеннях свого гаража, йому довелося висвітлювати свій талант мотивованим світлом великої студії. Щоб засвітити Лаїза, Лакомб використав дві світлодіодні панелі як для ключа, так і для заливки. Він також використав кілька точкових світильників зверху, щоб імітувати червонувате світло, що виходить з вікон. "В основному ми намагаємось відповідати цьому напрямку та тій кольоровій температурі, не впливаючи на зелений екран", - виявляє Лакомб. «Це складний виклик, тому що ви намагаєтеся висвітлити талант окремо від зеленого екрану. Двері сараю на цих світлодіодах давали нам більше місця, але ми боролися, щоб уникнути зеленого і отримати мінімальний відскак від зеленого на її одязі та шкірі ".

На знімальному майданчику Лакомб використовував дві камери UE150 - камера 1 знаходилася зліва, а камера 2 - праворуч.

На знімальному майданчику Лакомб використав дві камери UE150: камера 1 знаходилася зліва, а камера 2 - праворуч. Коли Зої поверталася до менеджера продуктів, який переглядався на вертикальному моніторі, він переходив до другої камери на рівні очей Лаїза, щоб отримати імітовану точку зору менеджера продуктів. Зіставити підводки для очей - це складно, але Лакомб каже, що він міг би трохи обдурити, знаючи, де знаходиться його домашня позиція. «Якщо у вас було дві камери, одна була на 90 градусів до іншої на відстані восьми футів, а друга - на чотири фути, ви можете виміряти рулеткою і поставити їх у віртуальний світ у тому ж положенні. Вони будуть дотримуватися один одного за законами фізики, щоб виглядати так, ніби вони перебувають у точному положенні. І тоді ви можете трохи обдурити в рамках цих рекомендацій ".

Дизайн виробництва одним натисканням кнопки

Для дизайну віртуального набору Лакомб використав модифікований дизайн, який він працював з іншим клієнтом минулого року. Дизайн був зроблений у Майя та експортований у Unreal. Оскільки віртуальний сет відбувається вночі, спочатку вони мали темніший вигляд, але потім вони вирішили зробити його дотиком яскравішим. Він додав логотип Panasonic і забрав елементи, які не були необхідними для набору Panasonic. Він також додав монітор, який виходить із підлоги, і Лаїз виходить з-за нього.

Створюючи власний віртуальний набір, за словами Лакомба, доступно більше 3D-ресурсів, оскільки візуалізація архітектури в Інтернеті справді зросла. Ви можете перейти до бібліотеки 3D та знайти 3D-об’єкти чи моделі та створити їх залежно від вимог до налаштування. "З клієнтом це насправді туди-сюди", - пояснює Лакомб. «Ви додаєте свої маркетингові компоненти, брендинг, усі кольори та матеріали. Коли у вас є актив, ви можете зруйнувати стіни кнопкою, клацнути або переміщати речі, регулювати монітори все в режимі реального часу. У "фізичному світі" це зайняло б значну кількість часу та грошей. Після того, як ви створили річ, її легко налаштувати і повернутися до неї ».

Ведуча Зої Лаїз бере інтерв’ю у старшого менеджера з продуктів Стіва Купермена про новини та створення контенту.

Дотримання безпечної дистанції

Віртуальне виробництво розвивалося протягом десятиліть завдяки досвіду та вдосконаленню. Хоча ролі фізичного виробництва та віртуального виробництва по суті однакові, найбільша різниця полягає в тому, що всі працюють в одному фізичному просторі. Після скасування розпорядження про перебування вдома, чи справді дистанційне виробництво стане нормою, все ще визначається.

"Існує причина, чому у вас хтось дивиться на ключ, хтось дивиться сценарій, хтось дивиться на кути камери та гардероб", - говорить Лакомб. Усі ці ролі ще потрібно виконати, і ми просто намагаємось з’ясувати найкращий спосіб зробити це віддалено. Поки що це вдалося надзвичайно добре, і ми всі здивовані тим, як це швидко з’єдналося та розвинулося природним шляхом. Хоча нам довелося носити більше капелюхів більше, ніж хотілося б для цього виробництва, наступним логічним кроком є ​​розповсюдження цього ще більше, щоб залучити інших для вдосконалення та вдосконалення процесу. Але вперше за межі воріт, я дуже задоволений результатами і хочу перейти до наступного кроку ".

Щоб переглянути віртуальну подію Panasonic, Майбутнє відеопродукції , натисніть тут.

Для отримання додаткової інформації про DisruptAR відвідайте www.disruptar.com.

Цікаві статті...