Ir al contenido principal

Protector de Seguridad

Una visión general de Safety Guard: qué es, los temas que detecta y cómo el sistema de dos advertencias mantiene seguras las respuestas de Fin

Escrito por Dawn Perrott

Utilice este artículo para entender cómo Safety Guard examina los mensajes de los clientes, ver qué temas siempre se rechazan y dejar que Fin maneje los mensajes señalados usando sus propios procedimientos o contenido de conocimiento en lugar de rechazarlos.

¿Qué es Safety Guard?

Safety Guard es el escudo incorporado de Fin contra contenido sensible y dañino. Examina cada mensaje automáticamente, para que sus clientes siempre reciban una respuesta segura y considerada, y su equipo solo intervenga cuando sea necesario.

Safety Guard forma parte de la certificación de Uso y Conducta de IA de Intercom (AIUC-1) y está habilitado por defecto para todos los espacios de trabajo que usan Fin. Se aplica a todos los tipos de plan y no puede desactivarse.

Nota: Safety Guard se aplica a todos los espacios de trabajo de Fin, independientemente del plan. Permitir que Fin maneje los mensajes señalados actualmente se aplica solo a Fin AI Agent for Service.

Qué detecta Safety Guard

Safety Guard detecta nueve categorías de temas:

  • Autolesiones y suicidio

  • Violencia y amenazas

  • Discurso de odio y discriminación

  • Actividad ilegal

  • Contenido adulto y sexual

  • Sustancias peligrosas

  • Armas

  • Privacidad y uso indebido de datos personales

  • Fraude y engaño

Temas que siempre se rechazan

Ninguna configuración cambia cómo Fin responde a mensajes sobre estos temas: Fin siempre los rechaza, incluso cuando permite que Fin maneje otros mensajes señalados con sus propios procedimientos o contenido de conocimiento:

  • Autolesiones y suicidio

  • Seguridad infantil

  • Personas vulnerables

  • Abuso e intentos de uso indebido de Fin

Importante: Para estos temas, Fin siempre da la respuesta estándar y ofrece un compañero, sin importar qué opciones active a continuación.


Cómo funciona Safety Guard

Safety Guard opera con un sistema de dos advertencias diseñado para equilibrar la seguridad del cliente con la continuidad de la conversación. Cuando Safety Guard señala un mensaje y ninguna opción permite que Fin lo maneje (ver Dejar que Fin maneje mensajes señalados abajo), Fin envía esta respuesta estándar y ofrece un compañero:

Nota: “No puedo ayudar con ese tema, pero puedo conectarlo con un miembro del equipo que sí puede. ¿Le gustaría que lo haga?”

Advertencia 1: primera detección

Cuando el mensaje de un cliente o el borrador de respuesta de Fin es señalado por primera vez en una conversación, Safety Guard:

  1. Bloquea el contenido señalado para que no se envíe ni procese más.

  2. Entrega una respuesta segura configurada al cliente en su lugar.

  3. Registra la detección internamente.

El cliente puede continuar la conversación normalmente después. Safety Guard no termina ni cierra la conversación en esta etapa.

Advertencia 2: segunda detección en la misma conversación

Si se activa una segunda señal en la misma conversación, Safety Guard escala automáticamente al equipo de soporte humano. La conversación se desvía de Fin para que un compañero pueda hacerse cargo directamente. Una vez que una conversación ha sido escalada tras una segunda advertencia, Fin no vuelve a intervenir en esa conversación.

Importante: El conteo de dos advertencias se reinicia al inicio de cada nueva conversación. Un cliente que activó advertencias en una conversación anterior comienza de nuevo.


Dejar que Fin maneje mensajes señalados

Por qué usar estas opciones

Para algunos negocios, las preguntas sensibles son parte del soporte diario. Un proveedor de salud recibe preguntas sobre dosis. Un producto legal o fiscal recibe preguntas sobre reglas y plazos. Si ya tiene contenido aprobado o un procedimiento para estas preguntas, dos opciones permiten que Fin lo use, para que el cliente reciba ayuda sin esperar a un compañero.

Las dos opciones

Dos interruptores en Configuración permiten que Fin use su propio contenido de conocimiento o procedimientos para mensajes señalados, en lugar de rechazarlos. Puede activar una opción o ambas; ambas están desactivadas por defecto.

Respuesta desde su conocimiento: Fin responde preguntas seleccionadas desde su conocimiento cuando encuentra una respuesta fundamentada. De lo contrario, da la respuesta estándar. Fin responde solo cuando su contenido respalda la respuesta; si su contenido no cubre la pregunta, el cliente recibe la respuesta estándar.

Redirigir a procedimientos: Cuando una pregunta señalada coincide con uno de sus procedimientos, Fin lo ejecuta en lugar de rechazar. Fin solo ejecuta un procedimiento si coincide con la pregunta de manera normal; la opción no hace que Fin elija un procedimiento que no elegiría de otro modo. El procedimiento debe estar activo para ese cliente.

Activar una opción

  1. Vaya a Configuración > IA y Automatización > Fin AI Agent y expanda Safety Guard de Fin.

  2. Active Respuesta desde su conocimiento, Redirigir a procedimientos o ambos.

  3. Lea la confirmación, luego seleccione la casilla para aceptarla en nombre de su espacio de trabajo y seleccione Aceptar.

  4. Su opción ya está activa. En el Inbox, una conversación donde un mensaje fue señalado muestra el evento Safety Guard de Fin fue activado; expándalo para ver el tema y lo que Fin hizo.

Para desactivar una opción, apague su interruptor y confirme. Fin entonces vuelve a rechazar estos mensajes y ofrece un compañero. Puede cambiar estas opciones en cualquier momento.

Qué sucede cuando un mensaje es señalado

Con una o ambas opciones activadas, Fin verifica lo siguiente para un mensaje señalado, en orden:

  1. Si el mensaje trata sobre un tema que siempre se rechaza, Fin da la respuesta estándar.

  2. Si sus propias reglas o guías de escalación entregan la conversación a un compañero, Fin la entrega. Las opciones nunca detienen una entrega que haya configurado.

  3. Si Redirigir a procedimientos está activado y un procedimiento activo coincide, Fin ejecuta ese procedimiento.

  4. Si Respuesta desde su conocimiento está activado y su contenido respalda una respuesta, Fin responde.

  5. Si ninguno de los anteriores aplica, Fin da la respuesta estándar y ofrece un compañero.

Los temas que siempre se rechazan permanecen rechazados en cualquier punto de la conversación.

Configure sus procedimientos para temas sensibles

  • Asegúrese de que el procedimiento esté activo. Si está pausado, en borrador o limitado por una regla de audiencia, Fin no puede usarlo y rechaza el mensaje. Esta es la razón más común por la que Redirigir a procedimientos parece no hacer nada.

  • Revise sus guías de escalación. Si indica a Fin que entregue todos los reportes de síntomas, por ejemplo, esos mensajes van a un compañero y no a su procedimiento.

  • Envíe a los clientes a contenido específico. No puede elegir artículos específicos solo para mensajes señalados. En su lugar, cree un procedimiento cuya respuesta enlace a los artículos que desea, por ejemplo, una página que indique a los clientes que consulten a un profesional médico, y active Redirigir a procedimientos.

Nota: Estas opciones actualmente se aplican solo a Fin AI Agent for Service.


Preguntas frecuentes

¿Puedo desactivar Safety Guard para mi espacio de trabajo Fin?

No puede desactivar Safety Guard para su espacio de trabajo Fin. Safety Guard está habilitado por defecto en todos los espacios de trabajo Fin en todos los tipos de plan y no puede apagarse. Es un requisito fundamental de la certificación de Uso y Conducta de IA de Intercom (AIUC-1). Si Safety Guard rechaza preguntas que su negocio maneja a diario, como preguntas médicas, legales o financieras, deje que Fin las maneje usando sus propios procedimientos o contenido de conocimiento en su lugar: Safety Guard permanece activo, pero Fin ahora puede responder o redirigir esas preguntas en lugar de rechazarlas.

¿Safety Guard afecta todas las conversaciones con clientes o solo las sensibles?

Safety Guard no afecta todas las conversaciones con clientes; solo se activa cuando un mensaje o el borrador de respuesta de Fin coincide con una de las nueve categorías de temas detectados. Las conversaciones normales que no tocan un tema detectado no se ven afectadas por Safety Guard.

¿Qué sucede con el mensaje de un cliente cuando Safety Guard lo señala?

Cuando Safety Guard señala un mensaje de un cliente, el contenido señalado se bloquea y no se procesa más. Si ha activado Redirigir a procedimientos o Respuesta desde su conocimiento y el mensaje califica, Fin lo redirige a un procedimiento coincidente o responde desde su contenido. De lo contrario, el cliente recibe la respuesta estándar con la oferta de un compañero. Si fue el propio borrador de respuesta de Fin el que fue señalado, esa respuesta se bloquea antes de llegar al cliente y se envía la respuesta estándar en su lugar.

¿Puedo desactivar Safety Guard solo para un tema?

No puede desactivar Safety Guard solo para un tema. En su lugar, deje que Fin maneje los mensajes señalados con sus procedimientos o contenido usando las opciones descritas arriba. Los temas que siempre se rechazan permanecen rechazados sin importar.

¿Activar una opción desactiva Safety Guard?

No, activar una opción no desactiva Safety Guard; este sigue revisando cada mensaje. Las opciones solo cambian lo que Fin hace después de que un mensaje es señalado, y solo para temas que no siempre se rechazan.

¿Puedo elegir a qué temas se aplican las opciones?

No puede elegir a qué temas se aplican las opciones. Cada opción se aplica a todos los temas que pueden ser anulados. Los temas que siempre se rechazan nunca se incluyen, sin importar qué opciones estén activadas.

Activé Redirigir a procedimientos pero Fin sigue rechazando. ¿Por qué?

Si Redirigir a procedimientos está activado pero Fin sigue rechazando un mensaje señalado, verifique que un procedimiento que coincida con la pregunta esté activo para ese cliente y no esté limitado por una regla de audiencia. También verifique si sus guías de escalación entregan la conversación a un compañero primero; las opciones nunca anulan una entrega existente.

¿Fin revisa mi contenido antes de responder un mensaje señalado?

Fin no revisa su contenido para verificar su idoneidad antes de responder un mensaje señalado. Fin responde solo cuando su contenido respalda la respuesta, pero no juzga si el contenido es apropiado para un tema sensible; su espacio de trabajo es responsable de eso.

¿Puedo ver cuándo Fin usó una opción?

Puede ver cuándo Fin usó una opción en la conversación en el Inbox. Cuando Safety Guard señala un mensaje, la conversación muestra el evento Safety Guard de Fin fue activado; expándalo para ver el tema y lo que Fin hizo: redirigió a un procedimiento, respondió desde su contenido, rechazó o escaló (la segunda señal en la conversación). Si sus propias reglas o guías entregaron la conversación a un compañero primero, este evento no se muestra y no hay un informe separado para estos eventos.

¿Ha quedado contestada tu pregunta?