Hasta ahora, usar IA significaba lo mismo siempre: escribes algo, eso viaja a un servidor en otro país, y vuelve una respuesta. Cada palabra que le pegas al modelo sale de tu oficina.
El 25 de agosto Perplexity y Nvidia lanzaron Portable Computer, un agente que da vuelta esa lógica. El modelo, la memoria de la conversación y el motor que ejecuta las tareas corren en el computador del usuario. Lo local es lo normal; la nube es la excepción, y el sistema pide permiso antes de mandar cualquier paso afuera.
Corre modelos abiertos de 27 mil millones de parámetros. No son los más potentes del mundo, pero según las pruebas que publicó la empresa igualan o superan a alternativas en tareas reales de trabajo de oficina.
Por qué esto te importa aunque no lo puedas comprar
Y no lo puedes comprar. El equipo que necesita cuesta cerca de 4.700 dólares, corre solo en Linux por ahora, y encima exige una suscripción de pago. Para una pyme chilena eso está fuera de discusión.
Lo que importa es la dirección.
Hace dos años, un modelo capaz de hacer trabajo útil necesitaba un centro de datos. Hoy cabe en un aparato de escritorio. El año que viene va a caber en un notebook decente. Esa curva no se está desacelerando.
Y hay una segunda razón, más urgente: el 1 de diciembre entra en vigencia la Ley 21.719, y regula qué haces con los datos personales de tus partners. Cada vez que pegas una base de clientes en un chat para que te redacte algo, esos datos salieron de tu control. Un modelo que corre en tu máquina hace que esa pregunta desaparezca, porque no hay nada que salga.
No es casualidad que Perplexity apunte el producto a estudios jurídicos, salud y finanzas. Son los rubros donde mandar datos afuera cuesta caro.
Lo que sí puedes hacer hoy
Separa las tareas. No todo lo que haces con IA involucra datos sensibles. Redactar un post de Instagram no es lo mismo que analizar tu cartera de clientes. Trata esas dos cosas distinto, con herramientas distintas.
Averigua qué pasa con lo que escribes. Las herramientas serias declaran si usan tus conversaciones para entrenar y si puedes desactivarlo. Si una herramienta no lo dice en ninguna parte, esa ausencia es la respuesta.
Anonimiza antes de pegar. Si necesitas que un modelo analice ventas, cámbiale los nombres. “Cliente 1, Cliente 2” funciona igual de bien para el análisis y saca el problema legal de la mesa.
No compres hardware todavía. El aparato que hoy cuesta 4.700 dólares va a costar una fracción en dos años, y va a correr modelos mejores. Comprar ahora es pagar el precio de ser primero sin recibir la ventaja.
Lo de fondo
Somos un laboratorio AI-Based. La nube nos sirve, la usamos todos los días y va a seguir siendo el default por un buen rato.
Pero la conversación sobre IA se ha dado casi entera en términos de qué modelo es más inteligente. Casi nadie está preguntando dónde ocurre el cálculo, y esa pregunta va a importar más que la otra cuando la ley empiece a morder.
Vale la pena saber, para cada herramienta que usas, dónde termina lo que escribes. La mayoría de las pymes que conocemos no lo sabe. No por descuido: porque nadie se los dijo.
Esta nota es parte de una serie sobre qué significa la regulación de IA para una empresa chica en Chile. La anterior: La ley que te va a llegar no es la que estás mirando.