Un asistente puede necesitar leer un documento sin tener permiso para obedecer todas las instrucciones que aparecen en él. Cuando una aplicación de IA también utiliza herramientas, esa diferencia deja de ser un detalle de la conversación.
Este artículo lo publica VIDRAFT sobre su propia tecnología. Explica el anuncio público de ViKernel y su demostración, no una evaluación independiente.
Por qué el contenido de un documento no concede autoridad
Si una persona pide un resumen, el documento es material de lectura. Una frase dentro de ese material no debería ampliar por sí sola el encargo y autorizar otra operación.
La inyección de instrucciones intenta aprovechar precisamente esa frontera: presentar contenido externo como una orden que el asistente debe cumplir. La pregunta práctica es qué acciones están permitidas dentro de la tarea que el usuario realmente asignó.
Las noticias publicadas el 3 de noviembre por ZDNet Korea y AI Times presentan el trabajo de VIDRAFT con ViKernel en ese contexto. Su interés está en la decisión sobre la acción, no solamente en la calidad de la respuesta escrita.
El diseño publicado por VIDRAFT conserva los pesos originales del modelo y los combina con operaciones de CPU y de un sistema operativo de seguridad. También describe autorización firmada para reanudar la ejecución y un registro de auditoría. La intención es que el texto de un documento no pueda convertirse por sí solo en autoridad para cambiar las reglas. Es la propuesta de diseño de la empresa, distinta de la configuración de API y puerta de control que se observa en la demostración. Diseño y código públicos
Qué muestra la demostración de Desktop
El README público actual describe una ruta LIVE para AgentGuard y una reproducción como alternativa cuando esa ruta no está disponible. El modo de ejecución ayuda a interpretar el resultado que aparece en pantalla. Descripción pública de la demostración
En la interfaz de Demo v0.4 observada el 4 de noviembre figuraban Spark API más la puerta de ViKernel y el modo B, la referencia de CPU. Esto describe la configuración visible, no una verificación de ejecución dentro de los pesos de Spark.
El constructor de acciones de Policy Engine permitió una solicitud simulada del tiempo en Busan con la regla A y el registro 252. Rechazó una solicitud simulada de correo a una dirección de ejemplo no entregable con la regla F y el registro 253. No se envió ningún correo real. Fueron dos acciones seleccionadas manualmente con herramientas y datos ficticios, no un ensayo de inyección de instrucciones.
La utilidad del ejemplo está en separar una acción propuesta de la autorización para llevarla a cabo. Ambas decisiones pueden explicarse sin atribuir al modelo una autonomía que no se probó en esa observación.
Una reproducción puede explicar el flujo de trabajo con claridad. Una ejecución en vivo ofrece una observación de la solicitud realizada en ese momento. Al describir la imagen conviene conservar esa diferencia, en lugar de presentar cualquier pantalla como una nueva prueba en vivo.
Qué significan las 661 pruebas
VIDRAFT informó que no hubo transferencias externas no solicitadas en 661 pruebas con cuatro modelos públicos, herramientas simuladas y datos ficticios. Se trata de pruebas comunicadas por la propia empresa bajo esas condiciones. No son 661 clientes, certificaciones ni despliegues reales. Información sobre las pruebas
También se ha comunicado una comparación de 21 veces para la etapa de decisión de políticas. Esa cifra no significa que toda la tarea de un agente o todo el ordenador sea 21 veces más rápido. Leer, generar una respuesta, decidir si una acción está permitida y ejecutar una herramienta son etapas diferentes.
Cómo valorar una integración concreta
El punto de partida útil es una tarea pequeña cuyo resultado esperado sea claro. Después hay que observar qué acción propone el asistente, si la política la permite y qué ocurre realmente en la herramienta. Las solicitudes normales también importan: impedir cualquier acción no equivale a construir un asistente útil.
Si se comparan dos configuraciones, conviene mantener el mismo modelo, los mismos permisos, herramientas y entradas. El tiempo de decisión y el tiempo total deben registrarse por separado. Estas son condiciones para diseñar una comparación, no resultados adicionales de ViKernel.
La demostración de Desktop ayuda a convertir una idea abstracta en una conversación concreta sobre acciones y permisos. La pregunta no es solamente qué puede hacer una IA, sino quién le ha dado permiso para hacerlo.
Top comments (0)