¿Entrenan la inteligencia artificial con los datos de tu empresa? Cómo verificarlo

Son dos cosas distintas

Una cosa es que el modelo lea tu factura, tu extracto o tu pregunta y te devuelva una respuesta a ti. Para eso lo contrataste, y sin eso no hay producto. Otra cosa es que tu información se convierta en material con el que ese modelo mejora, y que la mejora quede adentro de un modelo que atiende a todo el mundo.

Por eso la pregunta va con estas palabras exactas. ¿Mi información se usa para entrenar modelos, propios o de terceros? Así formulada solo se contesta de una manera.

Dónde está escrito, y por qué hay que leer dos contratos

Hay una parte que se revisa poco, y es que tu proveedor de software no es el único que toca esos datos. Buena parte del software que dice tener inteligencia artificial no construyó su propio modelo de lenguaje; le conecta el modelo de un tercero.

De ahí salen dos documentos, no uno:

1. El contrato con tu proveedor de software. Qué hace con tu información, quién de su equipo puede verla y qué pasa cuando te vas.
2. Los términos del proveedor del modelo, el que está detrás. Ahí está escrito si esa información se usa para entrenar.

Pide los dos. Si tu proveedor no sabe decirte cuál modelo usa ni bajo qué condiciones, esa ya es una respuesta.

Por cuál de las dos puertas pasan tus datos

El punto que decide la respuesta entera es otro, y pocas reuniones llegan hasta él. Un proveedor de modelos tiene al menos dos puertas de entrada, y las dos se comportan distinto.

La aplicación de consumo es la que cualquiera abre en el navegador, gratis o con una suscripción personal. Ahí las condiciones sobre entrenamiento son más laxas y dependen de la configuración que cada usuario tenga en su cuenta. Nadie de tu empresa revisó esa configuración, porque la cuenta la abrió cada quien por su lado.

La interfaz comercial es la que se contrata para conectarle un modelo a un producto, y es la que usan las empresas de software. En ella, no usar los datos del cliente para entrenar es la condición contractual por defecto. La frase, escrita en los términos del proveedor del modelo, es lo que tu proveedor de software debería poder mostrarte en treinta segundos.

Pregúntalo así: «¿por cuál de las dos puertas pasan mis datos?». Una buena respuesta te dice cuál proveedor de modelo es, bajo qué contrato entra y dónde lo puedes leer tú. Una mala respuesta habla de la seguridad del sistema en general y cambia de tema.

Y falta la puerta que tu proveedor no controla. El jueves antes del comité, alguien de tu propia empresa copia el informe de ventas y lo pega en una aplicación gratuita para que se lo resuma en tres viñetas. Ahí no hay contrato comercial de nadie, hay una cuenta personal. Es un asunto de política interna y conviene tenerlo escrito antes de que pase, no después.

Las seis preguntas, para hacérselas a cualquiera

Pide las respuestas por escrito. Un proveedor serio las tiene listas.

1. ¿Mi información se usa para entrenar modelos, propios o de terceros? Si la respuesta es no, ¿dónde está escrito y en cuál contrato?
2. ¿Cuál proveedor de modelo usan? ¿Puedo saberlo y puedo cambiarlo?
3. ¿Alguien de su equipo puede entrar a ver mi operación? ¿Con qué autorización, y queda registrado con nombre y hora?
4. ¿Mi información está separada de la de sus otros clientes? ¿Cómo, y quién lo revisó?
5. ¿Qué hace la inteligencia artificial sola, sin preguntarme? ¿Puede ejecutar algo, o solo proponer?
6. ¿Los números me los calcula un modelo o un motor? Es la más importante de todas, y va aparte.

Los números no debería calcularlos un modelo

Un modelo de lenguaje lee documentos muy bien y conversa muy bien. Si le pides que sume, puede entregarte un número que parece cierto y está mal, y entregártelo distinto la segunda vez que le preguntes. Tu nómina, tus retenciones y tu costo tienen que salir de un motor con reglas, con el mismo resultado cada vez y auditables renglón por renglón. Cuando un proveedor te muestre un chat que responde con cifras, pregúntale quién hizo la cuenta.

Cómo se comprueba, sin creerle a nadie

Hay una forma de dejar de discutir sobre confianza, y es poner tu propia llave.

Si el sistema te permite conectar tu propia cuenta con el proveedor del modelo, tus conversaciones pasan por esa cuenta, bajo tu contrato y no bajo el de tu proveedor de software. Tú ves el consumo, tú lees los términos y tú decides con cuál proveedor trabajar.

Es una pregunta de una sola línea y separa a los proveedores muy rápido. «¿Puedo poner mi propia llave?»

Cómo contesta Mavox estas preguntas

Ningún modelo se entrena con la información de tu empresa, ni el nuestro ni el de los proveedores que hay detrás. Mavox entra por las interfaces comerciales, donde no entrenar con los datos del cliente es la condición contractual por defecto. Tus datos se usan para responderte a ti.

Los agentes ejecutan solo lo que tú habilitas, empresa por empresa; lo que queda por fuera de tus reglas pasa a una persona aunque alguien se lo pida al chat. Los números los calcula un motor. Y puedes poner tu propia llave del proveedor de inteligencia artificial, con tu contrato y tu consumo a la vista, que es la casilla donde esto se comprueba en vez de discutirse. El detalle está en seguridad.

Una nota sobre datos personales

Dentro de tu operación hay datos que pertenecen a tus empleados y a tus clientes, no a la empresa. En Colombia su tratamiento lo regula la Ley 1581 de 2012, y eso agrega dos cosas a la conversación con tu proveedor: un contrato de tratamiento de datos escrito, y una respuesta clara sobre qué pasa con esa información el día que el contrato se acabe.