Los modelos de lenguaje de frontera ya producen entregables que los evaluadores expertos juzgan equiparables al trabajo humano en una parte sustancial de las tareas económicamente valiosas; sin embargo, la mayoría de las iniciativas empresariales de GenAI no logran demostrar un efecto empresarial medible y se prevé que una gran proporción de los proyectos agénticos se cancele. Los autores sostienen que esto es en gran medida un problema de medición: los benchmarks públicos responden qué puede hacer un modelo, mientras que una decisión de despliegue pregunta si este flujo de trabajo es adecuado, fiable, seguro y merece ampliarse con los propios datos y controles de la organización.

EnterpriseVal es un sistema de evaluación a nivel de caso de uso. Parte de una especificación formal de la configuración sociotécnica congelada bajo prueba, cuyo nivel de autonomía y nivel de consecuencia fijan conjuntamente la intensidad de evaluación requerida, además de un catálogo de métricas que abarca fidelidad, utilidad, eficiencia, fiabilidad, aseguramiento y supervisión.

La calificación escala el juicio experto cegado mediante puntuación calibrada de LLM como juez a través de inferencia asistida por predicción, y una compuerta de umbral de dos niveles, formulada como algoritmo ejecutable, asigna vectores de métricas con límites de confianza a decisiones de RECHAZAR/CONDICIONAL/ESCALAR.

Un piloto en tres flujos de trabajo de un banco global documentó el patrón: en la redacción de memorandos de crédito, el mejor modelo alcanzó un 88% de precisión de citas calificada por humanos y una tasa de alucinación del 1,6% frente a umbrales del 70% y el 5%; en la transformación de procedimientos, el esfuerzo de refinamiento de los analistas cayó de una estimación de 27,4 a 2,9 horas por documento.

Convertir la ampliación en una compuerta con la supervisión humana como insumo medido

El nivel de autonomía combinado con el nivel de consecuencia pone precio a la evaluación: las configuraciones de mayor riesgo enfrentan mayor intensidad.

La inferencia asistida por predicción mantiene autoritativo el juicio experto mientras la evaluación LLM asume el volumen.

Los límites de confianza en las métricas impiden que victorias de una sola muestra superen la compuerta.

La tasa de detección de los revisores es un parámetro medido del modelo de valor y riesgo, no una suposición.

Tratar el despliegue de GenAI como un problema de medición: congelar la configuración, calificar frente a umbrales específicos de la tarea con límites de confianza y medir la supervisión humana en lugar de suponerla.

El artículo informa del piloto de tres flujos de trabajo en un banco global y separa explícitamente los resultados establecidos y la evidencia documentada del piloto del sistema propuesto, especificando los experimentos aún necesarios para una validación completa.

CONSULTA LAS PRUEBAS

Las fuentes

  1. EnterpriseVal: Quantifying the Efficacy, Reliability and Value of Generative AI in the Enterprise arXiv · arxiv.org ·