Piloto de IA: criterios para pausar y volver a probar
Resumen
Los criterios de parada de un piloto de IA sirven para decidir cuándo dejar de probar y revisar lo ocurrido. Sin ellos, una demostración convincente puede pesar más que una señal importante. Esta guía propone una ficha de pausa y reanudación con dos ejemplos ficticios. Es una recomendación operativa: no sustituye la evaluación del uso concreto ni fija umbrales legales.
1. Delimita la prueba que podrías detener
Describe una tarea, sus usuarios y el entorno de ensayo. No escribas «probar IA en la empresa»: indica, por ejemplo, «preparar borradores internos a partir de diez documentos sintéticos». Identifica quién revisa cada resultado y qué acciones quedan fuera. Una prueba de redacción no autoriza envíos a clientes ni cambios en sus expedientes.
Define también qué se mantiene si se pausa. El equipo puede seguir con el procedimiento manual mientras analiza el fallo. Si detener el piloto deja una tarea necesaria sin atención, prepara antes esa alternativa. La guía de contingencia del proveedor de IA: https://veritias.eu/blog/plan-contingencia-proveedor-ia-pyme permite separar continuidad del trabajo y continuidad de la herramienta.
2. Convierte los límites en señales observables
Una señal debe poder reconocerse sin debatir de nuevo el objetivo. «La calidad baja» es demasiado ambiguo. «El borrador atribuye una condición a un documento que no la contiene» describe algo comprobable. Otra señal puede ser que no haya una persona disponible para la revisión acordada. El problema no siempre procede del modelo.
Distingue una corrección menor de una ruptura del alcance. Una errata puede requerir edición; una salida que induce una acción no autorizada merece otra respuesta. No hay un porcentaje válido para todos los pilotos. Elige criterios de parada de un piloto de IA según sus consecuencias y deja explicado por qué una señal exige pausa, revisión o cierre.
El núcleo del NIST AI RMF: https://airc.nist.gov/airmf-resources/airmf/5-sec-core/ contempla decidir si el despliegue debe continuar y asignar mecanismos para desactivar sistemas cuyo comportamiento no encaja con el uso previsto. Aquí se adapta esa orientación a una prueba pequeña, sin atribuir al NIST los umbrales o ejemplos de esta guía.
3. Completa una ficha de pausa antes de empezar
Anota seis campos. Señal: qué observas. Evidencia: dónde queda el caso reproducible. Decisión inmediata: qué parte de la prueba se pausa. Responsable: quién decide el siguiente paso. Alternativa: cómo continúa el trabajo. Reanudación: qué comprobación debe superarse para volver a ensayar.
La evidencia no exige copiar datos personales a un documento nuevo. Usa identificadores internos y ejemplos sintéticos cuando permitan reproducir el problema. Conserva la relación con la versión probada. Para organizar los hechos sin mezclarlos con hipótesis, utiliza el registro de incidentes de IA: https://veritias.eu/blog/registro-incidentes-ia-plantilla. No toda incidencia del piloto constituye un incidente sujeto a notificación legal.
4. Ejemplo: una respuesta sin respaldo documental
Un equipo ficticio prueba un asistente que resume condiciones de servicios. En un caso sintético, el borrador ofrece una devolución que no aparece en el documento. La ficha ya indicaba que una condición inventada pausa esa clase de respuesta. La persona revisora aparta el borrador y mantiene la respuesta manual; no se envía nada al exterior.
El equipo registra documento, pregunta, versión y salida. Después investiga si faltaba contexto o si la instrucción permitía completar huecos. No basta corregir la frase del ejemplo. Para reanudar, prueba la corrección con casos distintos y comprueba que reconoce información ausente. Un resultado acertado no demuestra que todos los usos sean seguros: solo aporta evidencia sobre el alcance ensayado.
5. Ejemplo: el modelo funciona, pero falta revisión
En otro piloto ficticio, los borradores parecen útiles, pero quien debe revisarlos se ausenta. El equipo había condicionado la prueba a revisión previa. Continuar acumulando salidas sin ese control no es cumplir el plan. Se pausa la incorporación de nuevos casos y se tramitan manualmente los pendientes necesarios.
La reanudación puede requerir un sustituto autorizado y una prueba de que sabe detectar los límites acordados. No se resuelve compartiendo una contraseña ni suponiendo que otra persona tendrá tiempo. Este caso muestra por qué los criterios de parada de un piloto de IA deben cubrir la organización, no solo la precisión del resultado.
6. Reanuda con una decisión, no por inercia
Escribe qué cambió, qué casos se repitieron, qué resultado se obtuvo y quién autorizó el nuevo ensayo. Si el alcance aumenta, revisa también los límites; no reutilices automáticamente la aprobación anterior. La batería pequeña de pruebas del asistente: https://veritias.eu/blog/pruebas-asistente-ia-casos-antes-produccion ayuda a documentar esa comprobación.
El Playbook de NIST: https://airc.nist.gov/airmf-resources/playbook/ ofrece sugerencias voluntarias, no una lista obligatoria completa. Su página del AI RMF: https://www.nist.gov/itl/ai-risk-management-framework informa de la revisión del marco. Fuentes consultadas el 11 de noviembre de 2026.
El siguiente paso es sencillo: elige una señal concreta y completa su ficha antes del primer ensayo. Pausar con evidencia permite corregir; seguir sin una decisión clara solo aplaza la duda.