IA sin subir tus datos a la nube

"¿Y esto dónde acaba?" es la primera pregunta que hace un cliente cuando le propones pasar sus documentos por un modelo de IA. Es la pregunta correcta, y la respuesta cambia el diseño entero del sistema.

Hay tres sitios donde puede ocurrir el procesamiento, y cada uno tiene un precio distinto en dinero, en velocidad y en lo que puedes prometer por escrito.

Las tres opciones, sin marketing

1. API de un proveedor. Mandas el dato, recibes el resultado. Es lo más rápido de montar y lo más capaz, y tienes que poder justificar ante tus clientes dónde se procesa y bajo qué contrato.

2. Modelo en tu propio servidor. El dato no sale de tu infraestructura. Ganas control y respuestas más predecibles en coste; pagas en hardware, en mantenimiento y en calidad respecto a los modelos grandes.

3. En el equipo del usuario. El dato ni siquiera llega a un servidor: se procesa en el ordenador de quien lo usa. Es la opción con la promesa más fuerte de privacidad y la más limitada en potencia.

Cuándo compensa quedarse en local

Por experiencia, hay cuatro situaciones donde la opción local gana claramente:

• El dato es de un tercero y no es tuyo para cederlo. Historiales, expedientes, documentación de clientes de tu cliente. La conversación contractual se simplifica muchísimo cuando el dato no se mueve.
• El volumen es alto y la tarea es sencilla. Clasificar cien mil documentos con un modelo pequeño en tu servidor sale mucho más barato que por API.
• La latencia importa más que la calidad. Un modelo local pequeño responde en milisegundos y sin depender de que la red vaya bien.
• Necesitas que funcione sin conexión. Suena raro hasta que tu usuario está en una nave, en una obra o en un sitio con mala cobertura.

Cuándo la nube es la respuesta correcta

Y cuatro donde insistir en local es tozudez cara:

• La tarea necesita razonamiento largo. Los modelos que caben en un portátil todavía no compiten en tareas complejas de varios pasos.
• El volumen es bajo. Montar y mantener infraestructura para cien peticiones al mes no se paga nunca.
• Estás validando la idea. Prueba primero con una API. Si funciona, ya moverás lo que haga falta; migrar un sistema que funciona es un problema mucho mejor que mantener uno que nadie usa.
• Necesitas la última capacidad. Lo mejor de cada momento está en la nube, casi siempre.

El error caro no es elegir mal. Es elegir una vez y no volver a mirarlo.

Un patrón intermedio que usamos mucho

Casi nunca es todo o nada. El patrón que mejor nos funciona es partir el flujo por sensibilidad del dato:

1. Lo que identifica a una persona se queda en local y se sustituye por una referencia.
2. El texto anonimizado va al modelo grande, que hace el trabajo difícil.
3. La respuesta vuelve y se re-identifica en local.

Se conserva la mayor parte de la capacidad del modelo grande y el dato identificable no sale nunca. Cuesta más trabajo que tirar todo a una API, pero convierte una conversación legal complicada en una decisión técnica.

Cómo lo decidimos

En la práctica seguimos este orden: primero, qué dato es y de quién; después, qué promete el contrato con el cliente final; y solo al final, qué modelo usar. Al revés se toman decisiones que hay que deshacer.

Es el mismo criterio que aplicamos en nuestros propios productos: DemencIA procesa en el Mac del usuario, y tus datos se guardan en tu equipo y no se suben a servidores nuestros.

¿Tienes un caso donde no tienes claro qué puede salir y qué no? Escríbenos y lo ordenamos contigo.