Plugin para Unreal Engine

Dé a sus NPC de Unreal Engine voz, animación facial y capacidad de conversar.

El plugin de IAMX para Unreal Engine conecta un NPC de su proyecto con un personaje que usted crea en IAMX Studio. Los jugadores hablan o escriben, y el NPC responde con voz, animación facial de MetaHuman y acciones que ejecutan sus Blueprints.

Blueprint de Unreal Engine en el que Event BeginPlay llama a Start Conversation en el componente IAMX
Blueprint de Unreal Engine que usa el componente IAMX.

En resumen

IAMX añade NPC conversacionales con IA a Unreal Engine 5.3 a 5.8 mediante su plugin para Unreal: el personaje se crea en IAMX Studio y se añade el componente de IAMX al NPC con una clave de API. A continuación, el servidor de IAMX ejecuta el reconocimiento de voz, el modelo de lenguaje, la voz y la animación facial de MetaHuman, mientras que el movimiento, los gestos y otros efectos de juego llegan como eventos de Blueprint que implementa su proyecto. El plugin funciona solo en Windows de 64 bits, sin compilaciones para Mac, Linux, consolas, móviles ni VR, y necesita una conexión de red con IAMX o con un servidor IAMX on-premises de Enterprise.

Datos clave

Versiones del motorUnreal Engine 5.3 a 5.8 (versión v1.1.0 en GitHub)
PlataformaSolo Windows de 64 bits
ConexiónObligatoria; la IA se ejecuta en la nube de IAMX o en un servidor on-premises de Enterprise (previo acuerdo)
Qué necesitaUna cuenta de IAMX, un personaje en IAMX Studio y una clave de API
Animación facialControles de MetaHuman; otros rigs requieren un mapeo manual
Lo que aporta ustedPersonajes, animación, movimiento y lógica de juego
UsoEn la nube de IAMX, cada turno de conversación consume unidades de uso del plan

Qué hace el plugin de NPC con IA para Unreal Engine

Usted añade un único componente de IAMX a un NPC, y este se conecta al servidor de IAMX, donde se ejecutan el reconocimiento de voz, el modelo de lenguaje, la voz y la animación facial. Su proyecto no incluye ningún modelo de IA.

Los controles principales son nodos de Blueprint: iniciar y finalizar una conversación, enviar texto, abrir el micrófono, interrumpir al NPC mientras habla e inyectar datos en tiempo de ejecución, como la misión actual. El plugin también incluye un widget de chat integrado y la función de pulsar para hablar (push-to-talk). Usted aporta sus propios personajes, animación y lógica de juego, y el plugin no modifica sus Animation Blueprints. Consulte la referencia de la API de Blueprint.

La memoria a largo plazo está activada de forma predeterminada en los personajes nuevos y se guarda por personaje y por ID de jugador. El ID de jugador predeterminado del plugin es el mismo para todos los jugadores, por lo que su proyecto debe enviar un ID único y estable para cada jugador; de lo contrario, todos los jugadores comparten una misma memoria. Los idiomas de conversación dependen del modelo de IA seleccionado, del reconocimiento de voz y de la voz.

Rostros de NPC MetaHuman con IA: sincronización labial, mirada y emoción

IAMX transmite animación facial para personajes MetaHuman junto con el audio hablado. Usted coloca los nodos de IAMX de sincronización labial, de mirada de los ojos (eye look-at) y de orientación de la cabeza (head look-at) en sus Animation Blueprints, y el parpadeo es procedural. La transmisión usa los nombres de los controles de MetaHuman, por lo que otro rig necesita un mapeo manual de cada control a uno de sus blendshapes, y el resultado depende de los blendshapes que tenga ese rig.

Cada personaje tiene además un estado emocional de ocho ejes, que un modelo de lenguaje clasifica a partir del texto de la conversación, por lo que puede interpretar mal una frase; pruébelo con sus propios diálogos. De forma predeterminada, controla las expresiones de los rostros MetaHuman; en otro rig, cada emoción debe asignarse manualmente a sus propios morph targets. Los Blueprints pueden leerlo, forzar una emoción o restablecer el estado, y reaccionar cuando cambia. El clasificador está activado de forma predeterminada y se puede desactivar por personaje en IAMX Studio; mientras está desactivado, el estado deja de actualizarse a partir de la conversación.

Percepción de la escena y acciones que ejecutan sus Blueprints

Usted registra desde Blueprint los objetos y actores que rodean a un NPC, para que el personaje pueda hablar de ellos y usarlos como objetivo en sus acciones. Nada se registra automáticamente.

Los objetos de la escena, los datos de tiempo de ejecución, las acciones integradas y los gestos funcionan con el pipeline de voz estándar. Si cambia el personaje a un modelo de voz en tiempo real (Gemini Live desde Starter, OpenAI Realtime desde Pro), seguirá recibiendo sus acciones de Blueprint personalizadas, pero no esas funciones.

Conversaciones entre NPC y visión bajo demanda

Dos NPC de IAMX en el mismo cliente de juego pueden hablar entre sí. El modelo de lenguaje escribe las frases, hasta un límite de turnos que usted establece (seis de forma predeterminada). Cada frase es un turno de conversación independiente que consume unidades de uso, y cualquier intervención del jugador pone fin al intercambio.

Su proyecto puede enviar fotogramas desde una captura de escena (scene capture), un render target o la cámara del jugador. Con el pipeline de voz estándar, un fotograma reciente solo llega a la IA cuando el jugador pide al NPC, en turco o en inglés, que mire algo y el modelo de IA seleccionado acepta imágenes; los modelos de voz en tiempo real no reciben estos fotogramas. El NPC no observa el mundo del juego de forma continua.

Elija cómo empiezan a hablar los jugadores

Cada NPC conversacional usa un modo de interacción:

Cómo configurar un NPC con IA en Unreal Engine

Estos pasos conectan un NPC de un proyecto de Windows con un personaje de IAMX.

  1. Cree el personaje en IAMX Studio

    Defina sus instrucciones, su voz y su modelo de IA, y pruebe una conversación breve. La plantilla Game NPC activa las acciones de juego y los gestos integrados.

  2. Cree una clave de API

    Cree una clave en la página de claves de API de IAMX Studio y cópiela de inmediato; la clave completa no se vuelve a mostrar.

  3. Descargue el paquete para su versión del motor

    Desde la versión v1.1.0 en GitHub, descargue el paquete precompilado para Windows de 64 bits correspondiente a su versión de Unreal Engine.

  4. Instale y active el plugin

    Descomprímalo en la carpeta Plugins de su proyecto, active IAMX en Edit > Plugins y reinicie el editor.

  5. Añada el componente de IAMX

    Añada el componente a su NPC. En su configuración de conexión de IAMX, active la conexión e introduzca la dirección del servidor de IAMX, su clave de API y el ID del personaje. Los nombres de los campos varían entre compilaciones del plugin, así que siga el README del paquete que haya descargado.

  6. Conecte los Animation Blueprints

    Añada los nodos de IAMX de sincronización labial, de mirada de los ojos y de orientación de la cabeza. Para un rig que no sea MetaHuman, complete el mapeo de controles a blendshapes.

  7. Ejecute y pruebe

    Llame a Start Conversation, por ejemplo desde Event BeginPlay, o elija un modo de interacción. Hable y escriba en el modo Play y compruebe la voz, la sincronización labial y las acciones; si no se capta el habla, revise el permiso de micrófono de Windows y el dispositivo de entrada.

La clave de API aparece enmascarada en el editor, pero no está cifrada dentro de un proyecto empaquetado, así que use una clave distinta para cada compilación que pueda eliminar si es necesario.

Plataformas, conexión y uso

La versión pública v1.1.0 en GitHub ofrece paquetes precompilados para Windows de 64 bits para Unreal Engine 5.3 a 5.8. Previo acuerdo, los clientes Enterprise pueden evaluar una edición on-premises de IAMX en su propio servidor Windows y aportar sus propios servicios de lenguaje, reconocimiento de voz y síntesis de voz. IAMX proporciona la compilación del plugin para Unreal Engine 5.8 y la configuración de conexión para esa edición; el reconocimiento facial, que en la nube requiere un plan Pro o superior, no está disponible en ese modo. Si transmite la escena a navegadores, usted ejecuta Pixel Streaming en su propio servidor con GPU.

Con la nube de IAMX, cada turno de conversación consume unidades de uso de su plan de IAMX. Las unidades están ponderadas, por lo que los modelos más pesados y la voz en tiempo real consumen más. El servicio alojado de IAMX es una versión preliminar, así que pruebe la experiencia completa antes de publicar. Compare los planes en la página de precios o póngase en contacto con IAMX.

Preguntas frecuentes

¿IAMX funciona con Unity o Godot?

No. IAMX no tiene plugin ni SDK para Unity o Godot; su integración con juegos es el plugin de Unreal Engine para Windows de 64 bits. IAMX también cuenta con una API WebSocket en tiempo real que aún no tiene referencia pública, por lo que los desarrolladores que quieran crear su propio cliente pueden ponerse en contacto con IAMX para solicitar la documentación.

¿Necesito un MetaHuman para usar el plugin de IAMX para Unreal?

No. El plugin de IAMX para Unreal transmite los controles faciales de MetaHuman, por lo que en un rig que no sea MetaHuman cada control debe asignarse manualmente a uno de sus blendshapes, y el resultado depende de los blendshapes que tenga ese rig. Las expresiones de emoción controlan los rostros MetaHuman de forma predeterminada; en otro rig, cada emoción se asigna manualmente a sus propios morph targets.

¿Un NPC de IAMX se desplaza por sí solo?

No. IAMX envía acciones como ir a, seguir o reproducir un gesto en forma de eventos de Blueprint, y su proyecto implementa el movimiento, la búsqueda de rutas y los montajes de animación.

¿Cuánto cuesta cada frase de un NPC de IAMX?

Con la nube de IAMX, cada turno de conversación, incluida cada frase de un intercambio entre NPC, consume unidades de uso de su plan mensual. Las unidades están ponderadas, por lo que los modelos de IA más pesados y la voz en tiempo real consumen más por turno, y no hay un precio fijo por frase; compare las asignaciones de cada plan en la página de precios.

¿Los NPC de IAMX pueden funcionar sin conexión?

No. El plugin de IAMX para Unreal necesita una conexión de red con la nube de IAMX o con un servidor IAMX on-premises de Enterprise, porque la IA se ejecuta en ese servidor.

¿El plugin de IAMX es compatible con consolas, móviles o VR?

No. El plugin de IAMX para Unreal está compilado solo para Windows de 64 bits, sin compilaciones para consolas, Android, iOS, Mac, Linux ni VR.

Pruébelo con su propio caso de uso.

Prepare un personaje, hágale preguntas reales y compruebe la experiencia en el dispositivo que vaya a utilizar. Puede ponerse en contacto con nosotros para definir el alcance de la instalación.

Contenido elaborado por IAMX. Funciones y requisitos.