Empiece por la acción, no por la IA
La pregunta útil no es si se puede confiar en la IA. Es qué pasa si esta acción específica sale mal. Leer un registro y redactar una respuesta casi no tienen riesgo. Enviar dinero o borrar datos tiene mucho. El mismo agente puede ser seguro para una cosa y no para la otra.
Haga una lista de cada acción que el agente podría tomar y clasifique cada una con tres preguntas.
Tres preguntas para cada acción
- ¿Se puede deshacer? Una actualización que puede revertir es muy distinta de un correo ya enviado o un pago ya hecho.
- ¿Cuánto cuesta un error? Considere el dinero, la experiencia del cliente, una obligación legal o contractual y su reputación.
- ¿Con qué frecuencia enfrenta el agente algo nuevo? Los casos rutinarios y repetitivos son más seguros de automatizar que las situaciones que cambian cada vez.
Nivel 1: el agente puede actuar solo
Acciones fáciles de revertir, baratas si salen mal y rutinarias. Ejemplos típicos:
- Leer y resumir documentos, correos o registros
- Clasificar y encaminar solicitudes a la fila correcta
- Redactar respuestas, informes o actualizaciones para que una persona los use
- Señalar registros que parecen incompletos o inconsistentes
Incluso aquí, registre cada acción para poder revisar lo que hizo el agente y detectar patrones a tiempo.
Nivel 2: el agente prepara, una persona aprueba
Acciones que llegan a los clientes, cambian registros importantes o comprometen al negocio. El agente hace el trabajo; una persona aprueba. Ejemplos típicos:
- Enviar un correo o mensaje a un cliente
- Actualizar precios, saldos, inventario o detalles de contratos
- Crear facturas, pedidos o créditos
- Cerrar, escalar o reasignar un caso de un cliente
La aprobación debe ser rápida: muestre a la persona exactamente qué pasará y por qué, para que revisar tome segundos y no rehacer el trabajo.
Nivel 3: el agente no debe hacerlo
Algunas acciones deben quedarse con las personas, sin importar qué tan bueno sea el agente:
- Mover dinero o emitir pagos y reembolsos sin una persona
- Borrar datos o cambiar accesos y permisos
- Decisiones sobre contratación, crédito, elegibilidad o cualquier cosa con efecto legal sobre una persona
- Todo lo que sus contratos, políticas o asesores digan que requiere una decisión humana
Para estas, el agente aún puede ayudar reuniendo información y preparando una recomendación para la persona que decide.
Las protecciones que lo hacen seguro
Sin importar en qué nivel esté una acción, un agente bien construido tiene las mismas bases:
- Una lista definida de herramientas, para que solo pueda tomar las acciones que usted permitió
- El acceso mínimo que necesita, en cuentas que usted controla
- Un registro de cada paso y decisión, guardado donde usted pueda revisarlo
- Límites de volumen y de valor, para que una ejecución equivocada no pueda hacer mucho daño
- Una forma clara para que una persona lo detenga, lo corrija y tome el control
Suba las acciones de nivel poco a poco
Empiece cada acción en un nivel más estricto del que cree que necesita. Revise el registro y las aprobaciones durante unas semanas. Si una persona aprueba siempre el mismo tipo de acción sin cambios, esa acción puede estar lista para pasar al nivel de abajo. Si las aprobaciones cambian seguido el borrador, no lo está.
Así la confianza se gana con sus propios resultados y no se supone a partir de una demostración.