Cristina Fonseca: Construyendo una inteligencia artificial responsable

Tenemos evidencia reciente de que los consumidores están interesados y quieren IA generativa, sin embargo, también tienen ciertas preocupaciones.

Según el reporte de Tendencias de CX 2023 de Zendesk, más de un tercio de los consumidores están preocupados por las personas y empresas que utilizan la IA de manera maliciosa o negativa; casi la mitad dijo que les preocupa que los bots y sistemas automatizados puedan mostrar prejuicios contra ciertos grupos de personas.

Los líderes empresariales comparten una preocupación similar, el 73% dijo que garantizar que la IA y los bots no estén sesgados contra tipos específicos de clientes es una prioridad importante.

Cuando se trata de las promesas y las trampas de la IA generativa, uno de los mayores desafíos en su adopción es generar confianza en la tecnología. Los líderes tecnológicos debemos reiterar nuestro compromiso de dar a las empresas productos y soluciones seguras y confiables.

En Zendesk, establecimos un conjunto de principios de diseño que no solo marcan el estándar sobre cómo diseñamos, desarrollamos y construimos todo lo que hacemos, sino que establece una base clara para nuestro uso de IA generativa en el CX.

El primer principio es la “privacidad, la seguridad y el cumplimento”.

Para garantizarlo, es imperativo mantener seguros los datos de nuestros clientes. Es decir, descartamos la tecnología que no cumple con nuestros estándares de seguridad y cumplimiento, y establecemos controles y métricas que nos ayuden a evaluar el uso de los datos recopilados por nuestra tecnología para garantizar que se usen de una manera responsable y que los datos de los clientes estén protegidos en todo momento.

La IA debe usarse cuando sea apropiado y necesario. Cuando se trata de IA generativa, los ejemplos incluyen garantizar que los datos de entrenamiento que se usan sean anónimos, se restringen durante el de chat en vivo, se respete la ubicación de los datos y se reduzca el riesgo de sesgo, lo cual se logra, integrando equipos diversos de desarrolladores e involucrando a los usuarios y otros expertos en la materia para identificar áreas potenciales de sesgo.

El segundo principio es “la transparencia genera confianza”.

Esto es, ser honestos sobre cómo funciona nuestra tecnología, qué tipo de datos recopila y cómo se utilizan. Una práctica de esto, son los procesos de exclusión voluntaria que ofrecemos tanto para clientes finales como para clientes directos.

Cuando se trata de IA generativa en el servicio al cliente, nuestra comunicación es directa, clara y honesta con nuestros clientes sobre cómo se usa en nuestros productos y soluciones. Lo logramos haciendo que la calidad sea visible para los clientes y no esté escondida ni disfrazada en ninguna parte.

El tercero es “los estándares de precisión marcan la pauta”.

En cada programa de acceso anticipado y la disponibilidad general de cada producto, nuestros equipos deben cumplir con ciertos estándares de precisión antes de lanzarlos a nuestros clientes.

Cuando se trata de IA, la precisión que debe alcanzarse depende en gran medida de la tarea o el modelo que se esté probando. Sin embargo, en Zendesk solo ponemos la IA a disposición de los clientes si el modelo supera un estándar de calidad y rebasa al promedio de la industria.

Cada predicción que hacemos sobre IA, tiene una puntuación de confianza asociada que se comparte con el administrador o el agente, por lo que cualquier flujo de trabajo creado sobre la IA puede ser revisado.

Por ejemplo, las predicciones de alta confianza pueden conducir a tareas completamente automatizadas, mientras que en aquellas con puntuaciones menos seguras, recomendamos que un agente humano realice la supervisión para garantizar una mejor experiencia al cliente.

En esencia, nuestra tecnología está diseñada para brindar respuestas precisas y confiables a las necesidades de los clientes, y nos aseguramos de que éste sea nuestro enfoque principal.

El cuarto principio tiene que ver con elegir y trabajar con el socio correcto.

La selección de socios es un aspecto crucial en Zendesk para el desarrollo de productos. Trabajamos con diferentes socios tecnológicos cuyas herramientas verdaderamente agregan valor a nuestros clientes.

La IA generativa no tiene una solución única para todos, y por eso elegimos un ecosistema de socios que nos ayuda a crear los mejores productos y soluciones. Eso también nos permite trabajar en estrecha colaboración con ellos para superar algunos de los desafíos y limitaciones actuales.

Las organizaciones no debemos olvidar que los humanos siempre son la esencia. La tecnología debe diseñarse para mejorar la experiencia del cliente, no para reemplazarla interacción humana. Cuando se trata de la aplicación de la IA generativa a la experiencia del cliente, la supervisión humana es imperativa.

Si bien nuestra tecnología puede ayudar a automatizar ciertas tareas, sabemos que la interacción humana sigue siendo crucial para brindar un servicio al cliente excepcional. Por ejemplo, el 81% de los consumidores dijeron que tener acceso a un agente humano es fundamental para mantener la confianza con una empresa, cuando tienen problemas con un servicio al cliente que utiliza IA.

En Zendesk, nos aseguramos de que haya supervisión humana detrás de la tecnología para asegurar un desempeño adecuado y entregar el nivel de servicio que esperan los clientes.