FaceNinja

Справочник · ARKit · трекинг лица

52 блендшейпа ARKit на настоящей голове.

ARKit описывает лицо 52 блендшейпами: весами от 0 до 1 для движений вроде jawOpen или eyeBlinkLeft. Трекинг лица в iPhone передаёт эти веса, а Live Link Face, приложения для VTuber и игровые движки воспроизводят их на любой голове с теми же 52 формами. Здесь все названия, что двигает каждое, и голова, у которой есть все.

Бесплатно Зарегистрируйтесь бесплатно и скачайте 20 примеров 3D-голов MetaHuman высокого качества: кожа 4K, 52 формы ARKit, GLB/FBX/MetaHuman ZIP.

Все 52 по частям лица

Названия точно такие, как пишет Apple. Left и Right — левая и правая сторона самого лица, а не зрителя.

ГлазаФорм: 14

  1. eyeBlinkLeft
    eyeBlinkRight
    Закрывает веко.
  2. eyeLookDownLeft
    eyeLookDownRight
    Веки следуют за взглядом вниз.
  3. eyeLookInLeft
    eyeLookInRight
    Веки следуют за взглядом к носу.
  4. eyeLookOutLeft
    eyeLookOutRight
    Веки следуют за взглядом от носа.
  5. eyeLookUpLeft
    eyeLookUpRight
    Веки следуют за взглядом вверх.
  6. eyeSquintLeft
    eyeSquintRight
    Сужает глаз: нижнее веко и щека поднимаются.
  7. eyeWideLeft
    eyeWideRight
    Широко открывает глаз: верхнее веко поднимается.

ЧелюстьФорм: 4

  1. jawForwardВыдвигает челюсть вперёд.
  2. jawLeftСдвигает челюсть к левой стороне лица.
  3. jawRightСдвигает челюсть к правой стороне лица.
  4. jawOpenОткрывает челюсть.

РотФорм: 23

  1. mouthCloseСмыкает губы при открытой челюсти; используется вместе с jawOpen.
  2. mouthFunnelОкругляет приоткрытые губы воронкой, как на звуке «у».
  3. mouthPuckerВытягивает сомкнутые губы вперёд, как для поцелуя.
  4. mouthLeftСдвигает обе губы к левой стороне лица.
  5. mouthRightСдвигает обе губы к правой стороне лица.
  6. mouthSmileLeft
    mouthSmileRight
    Поднимает уголок рта.
  7. mouthFrownLeft
    mouthFrownRight
    Опускает уголок рта.
  8. mouthDimpleLeft
    mouthDimpleRight
    Оттягивает уголок рта назад, к ямочке.
  9. mouthStretchLeft
    mouthStretchRight
    Растягивает уголок рта в сторону и вниз.
  10. mouthRollLowerПодворачивает нижнюю губу внутрь, на зубы.
  11. mouthRollUpperПодворачивает верхнюю губу внутрь, на зубы.
  12. mouthShrugLowerВыталкивает нижнюю губу вверх и наружу.
  13. mouthShrugUpperВыталкивает верхнюю губу вверх и наружу.
  14. mouthPressLeft
    mouthPressRight
    Прижимает нижнюю губу к верхней с этой стороны.
  15. mouthLowerDownLeft
    mouthLowerDownRight
    Опускает нижнюю губу с этой стороны.
  16. mouthUpperUpLeft
    mouthUpperUpRight
    Поднимает верхнюю губу с этой стороны.

БровиФорм: 5

  1. browDownLeft
    browDownRight
    Опускает внешнюю часть брови.
  2. browInnerUpПоднимает внутренние концы обеих бровей.
  3. browOuterUpLeft
    browOuterUpRight
    Поднимает внешнюю часть брови.

ЩёкиФорм: 3

  1. cheekPuffНадувает обе щеки.
  2. cheekSquintLeft
    cheekSquintRight
    Поднимает щёку вокруг нижнего века.

НосФорм: 2

  1. noseSneerLeft
    noseSneerRight
    Приподнимает крыло носа, как при презрительной гримасе.

ЯзыкФорм: 1

  1. tongueOutВысовывает язык изо рта.

Источник названий: документация ARKit от Apple.

Двигайте формы на настоящей голове

Это примеры голов — такие, какими FaceNinja сделал их, каждую по одному фото. Загрузите любую и двигайте ползунки: каждый ползунок — одна форма ARKit на этом лице, а выражения смешивают несколько.

Стенд осмотраСтатичный кадр

Примеры голов

3D-голова MetaHuman, которую FaceNinja сделал по фото S-07

Стрелки поворачивают голову. Плюс и минус — масштаб. Ноль сбрасывает вид. Escape выходит из просмотрщика.

Выражение
Вид
Свет

Значения ARKit

Значения следуют выражению. Ползунок задаёт одну форму.

Синтетический человекПредпросмотр сжат для веба. В загрузке — полные карты 4K.

Шесть выражений и формы, из которых они состоят

Выражение — это смесь форм. Каждый кадр ниже — пример S-16 с поднятыми формами, указанными под ним; у нейтрального лица их нет.

  • Пример S-16, синтетический человек: НейтральноНейтрально
    —
  • Пример S-16, синтетический человек: mouthSmileLeft, mouthSmileRightУлыбка
    mouthSmileLeft mouthSmileRight
  • Пример S-16, синтетический человек: jawOpen, browInnerUpУдивление
    jawOpen browInnerUp
  • Пример S-16, синтетический человек: browDownLeft, mouthFrownLeftХмурый вид
    browDownLeft mouthFrownLeft
  • Пример S-16, синтетический человек: mouthPuckermouthPucker
  • Пример S-16, синтетический человек: eyeBlinkLefteyeBlinkLeft

Зачем tongueOut нужен язык

tongueOut виден только на голове с языком и ртом, который открывается достаточно широко. У голов FaceNinja есть и то и другое, поэтому GLB и FBX несут все 52 формы, включая tongueOut.

Perfect Sync: 52 формы во VTubing

Во VTubing аватар со всеми 52 формами ARKit называют Perfect Sync (パーフェクトシンク): трекинг с iPhone управляет каждой формой напрямую, а не несколькими пресетами. Приложениям на базе VRM нужен файл VRM, а его FaceNinja не делает. Наш бесплатный Creator Kit идёт другим путём: ваша голова становится MetaHuman в Unreal Engine, которым управляет Live Link Face или вебкамера.

Где живут 52 формы в каждом движке

Одни и те же 52 названия в четырёх движках
ДвижокГде формыПримечание
Unreal EngineMorph targets на Skeletal Mesh; Live Link Face управляет ими по названиям.Импортируйте с включёнными morph targets и отметьте Used with Morph Targets в материалах головы (документация EN).
UnityBlend shapes на Skinned Mesh Renderer, из FBX.Import BlendShapes включён по умолчанию в настройках импорта модели.
Godot 4Blend shapes на MeshInstance3D, из GLB.find_blend_shape_by_name() даёт индекс для set_blend_shape_value().
three.jsmesh.morphTargetDictionary сопоставляет каждое название с индексом в mesh.morphTargetInfluences.Загрузите GLB через GLTFLoader.

Вопросы о блендшейпах ARKit

01Что такое блендшейпы ARKit?
52 именованных движения лица, которые Apple определила для трекинга лица на iPhone и iPad. Каждое — вес от 0 до 1, а любое выражение — их смесь.
02Сколько блендшейпов в ARKit?
52: 14 для глаз, 4 для челюсти, 23 для рта, 5 для бровей, 3 для щёк, 2 для носа и 1 для языка.
03Нужен ли iPhone?
Чтобы снимать все 52 вживую, нужно устройство с трекингом лица Apple, например iPhone с Face ID; его использует Live Link Face. Для воспроизведения подойдёт любой движок, который читает блендшейпы, без iPhone.
04Есть ли в головах FaceNinja tongueOut?
Да. GLB и FBX несут все 52 формы, включая tongueOut, сделанные под каждое лицо.
05Что такое Perfect Sync?
Термин из VTubing для аватара со всеми 52 формами ARKit, чтобы трекинг лица управлял каждой напрямую.
06Можно ли попробовать голову со всеми 52 формами?
Да. Зарегистрируйтесь бесплатно и скачайте 20 примеров голов: в каждом GLB и FBX есть все 52.

Можно ли попробовать голову со всеми 52 формами?

Да. Зарегистрируйтесь бесплатно и скачайте 20 примеров голов: в каждом GLB и FBX есть все 52.