Llevamos meses pidiendo a gritos una inteligencia artificial seria que no nos obligue a mandar nuestros datos a servidores ajenos cada vez que hacemos una consulta. Pues bien, Perplexity y NVIDIA acaban de mover ficha y han roto el mercado. Han traído su potente agente de IA local, el conocido Portable Computer, a los ordenadores de sobremesa y estaciones de trabajo con Windows. Una auténtica salvajada de anuncio.
Pero ojo, hay letra pequeña en este despliegue. No te hagas ilusiones si tienes un portátil de gama media o un PC para ofimática básica. Portable Computer exige un hardware que intimida bastante.
En concreto, la herramienta solo está disponible para los sistemas equipados con tarjetas gráficas NVIDIA GeForce RTX y RTX PRO que cuenten con un mínimo de 24 GB de memoria VRAM. Hablamos de exprimir la tarjeta al máximo.
Básicamente, necesitas una GPU tope de gama, como una RTX 3090, 4090 o sus equivalentes profesionales, para que el modelo pueda cargarse en la memoria y ni se inmute al trabajar. Si no pasas por caja para tener ese músculo gráfico, simplemente te quedas fuera de la ecuación.
También te puede interesar:Perplexity Portable Computer Lleva la IA Local a NVIDIA DGX Spark
La razón detrás de esta brutal exigencia técnica es bastante lógica. Esta plataforma utiliza toda la potencia de fuego de tu GPU local para planificar y ejecutar tareas verdaderamente complejas, de esas que requieren múltiples pasos y procesos encadenados.
Y es que la magia aquí reside en el procesamiento nativo. Todo ocurre directamente en tu ordenador. Adiós al pánico de subir documentos financieros confidenciales de tu empresa a servidores de terceros para que un LLM los analice. La privacidad queda blindada en tu propio disco duro.
A ello se le suma un impacto económico tremendo a medio plazo. Al funcionar el modelo de forma cien por cien local, te olvidas para siempre de pagar por tokens o adquirir carísimos créditos de procesamiento en la nube. Cambias el gasto mensual en APIs por la inversión inicial en la tarjeta gráfica. Las matemáticas salen solas para las grandes agencias.
Un analista de datos y programador que vive en tu disco duro
Si miramos los casos de uso demostrados, queda claro que no estamos ante un simple chatbot para redactar correos. Este agente, que ya contaba con soporte para sistemas Linux y para los exclusivos NVIDIA DGX Spark, viene a cambiar cómo interactuamos con nuestros propios archivos corporativos.
También te puede interesar:Perplexity Portable Computer Lleva la IA Local a NVIDIA DGX SparkPor ejemplo, en el terreno del software, Portable Computer puede conectarse de forma transparente a tus proyectos de GitHub. Una vez dentro, es capaz de gestionar las pull requests, sugerir al equipo los siguientes pasos lógicos del desarrollo e incluso rastrear toda tu documentación para chivarte qué partes han quedado obsoletas. Un auténtico salvavidas para los programadores.
Si rascamos un poco más en sus capacidades analíticas, la cosa se pone aún mejor. Le puedes lanzar cientos de páginas de documentos fiscales o extractos bancarios en crudo para que los mastique. La herramienta localiza costes recurrentes ocultos, detallando de forma milimétrica el archivo y la página exacta de la que extrajo la información. Cero alucinaciones, todo está referenciado y auditado.
Por si fuera poco, en entornos corporativos de alta demanda, su capacidad de análisis masivo es espectacular. Le pasas los pesados registros de actividad de tus usuarios y el agente evalúa los patrones de abandono de tus clientes. Luego, él solito redacta las conclusiones y las publica en el canal de Slack de tu equipo. Tienes a un analista de datos virtual trabajando a destajo.
El cordón umbilical con la nube sigue presente (bajo control)
Como era de esperar en esta industria, no absolutamente todo puede resolverse tirando de la VRAM de tu ordenador. Hay límites físicos que ni siquiera las RTX más potentes pueden sortear por sí solas.
En la práctica, ciertas solicitudes van a requerir muchísima más potencia de cálculo o información en tiempo real. Hablamos de tareas que necesiten rastrear datos frescos en la web o usar modelos de razonamiento lógico mucho más pesados que los que caben en 24 GB de memoria de vídeo.
Evidentemente, para esos casos puntuales, la herramienta necesita pedir ayuda a los servidores en la nube. Pero aquí viene el detalle que marca la diferencia en este despliegue.
Antes de transferir un solo paquete de datos fuera de tu PC, el programa detiene el proceso y te solicita permiso expreso. Tú eres quien pulsa el botón verde. Si no quieres que esa información salga a internet, cortas el grifo y punto. Así de estricto.
Está clarísimo que la fiebre por la IA local no es una burbuja temporal, es una tendencia técnica que acaba de madurar. Trasladar herramientas de grado empresarial a ordenadores con Windows convencionales es una declaración de intenciones enorme.
Tocará esperar para ver si la competencia mueve ficha o si siguen apostando por vendernos suscripciones mensuales eternas. De momento, la pelota está en el tejado de las empresas y desarrolladores. Si tienen presupuesto para pagar esas mastodónticas gráficas, tienen una ventaja competitiva brutal entre manos. El futuro de la inteligencia artificial pinta muy descentralizado.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
