¿Qué ocurre cuando una herramienta que promete estar en todas partes empieza a tener un medidor de consumo? La pregunta atraviesa a Apple, que impulsa una nueva Siri con inteligencia artificial, pero también ajusta el dinero que su propia plantilla puede destinar a usar estos sistemas.

Según Bloomberg, Apple redujo de forma discreta el presupuesto diario de tokens de IA, las unidades de texto que procesan y generan los modelos, para parte de sus ingenieros. Algunos pasaron de 300 a 200 dólares por día, mientras la empresa estudia bajar ese límite hasta 100 dólares en ciertos equipos.

Apple redujo de forma discreta el presupuesto diario de tokens de IA

El hallazgo resulta llamativo porque Apple ofrece acceso interno a Claude, ChatGPT y Gemini, y presenta a Siri IA como una pieza central de su estrategia. Para empleados no vinculados a ingeniería, algunos presupuestos podrían caer de 100 a 25 dólares diarios.

Quien necesite superar esa asignación podrá pedir una excepción, cuyo uso será revisado. Además, algunos grupos ya recibieron la indicación de elegir modelos más baratos o modelos locales, programas que funcionan en el propio dispositivo o en servidores de la empresa.

También te puede interesar:El Propio Test de Apple Revela que Su IA Sigue por Detrás de OpenAI y Google

La medida no significa que Siri vaya a apagarse. Revela, en cambio, que detrás de cada respuesta aparentemente inmediata hay una factura que alguien debe pagar.

El medidor detrás de la respuesta digital

El mecanismo puede entenderse como el consumo eléctrico de una casa. Encender una lámpara parece simple, pero cada foco activa un cableado, una red y un contador. En la IA, cada consulta pone en marcha centros de datos y chips que calculan qué palabra debe seguir.

Los tokens son como las pequeñas fichas que entran en una máquina

Los tokens son como las pequeñas fichas que entran en una máquina: cuantas más pasan, más trabajo debe hacer el engranaje. Pedir a un asistente que resuma un correo consume pocas fichas. Solicitar que revise código, lea documentos extensos o mantenga una conversación larga puede multiplicar el gasto.

Apple asume ese coste de forma directa. Esa es la diferencia clave con Nvidia, que vende buena parte de los chips necesarios para ejecutar estos modelos. Para la compañía de Jensen Huang, un mayor uso de IA también puede impulsar la demanda de su hardware.

También te puede interesar:El Propio Test de Apple Revela que Su IA Sigue por Detrás de OpenAI y Google
También te puede interesar:Apple Valora Integrar IA de OpenAI y Anthropic en Siri para Mejorar su Asistente Digital

Huang ha defendido una posición opuesta: le preocuparía que un ingeniero con un salario anual de 500.000 dólares gastara menos de 250.000 dólares en tokens. Nvidia intenta alcanzar una inversión anual cercana a los 2.000 millones de dólares para este tipo de consumo interno.

Apple, por su parte, elevó su gasto anual en investigación y desarrollo a 45.765 millones de dólares, un 32% más que en el ejercicio anterior. La empresa atribuyó parte de ese incremento a la inteligencia artificial, aunque empleados citados por Bloomberg señalaron que pocos llegaban a agotar los antiguos 300 dólares diarios.

La oportunidad de usar mejor la IA

La tendencia no es exclusiva de Apple. Meta llegó a vivir una competencia interna por consumir más tokens, una práctica conocida como tokenmaxxing, la carrera por utilizar la mayor cantidad posible de IA. Amazon eliminó en mayo una clasificación similar y luego desaconsejó ese comportamiento.

El tokenmaxxing es peligroso para los costos operativos de las empresas

Microsoft también puso el foco en el problema después de que un empleado consumiera 28.000 dólares en tokens durante un mes. Jay Parikh, vicepresidente de la empresa, comunicó que maximizar ese número no era el objetivo que buscaban optimizar.

Una alternativa consiste en instalar modelos de pesos abiertos, sistemas cuyo funcionamiento puede ejecutarse en infraestructura propia. Revolut eligió GLM como herramienta predeterminada para unos 2.000 ingenieros y, según David Abitbol, responsable de infraestructura, su coste equivale a una décima parte del de los modelos más avanzados.

La pieza clave es que la factura deja de crecer con cada pregunta y pasa a depender de la capacidad de los servidores propios. Para el usuario final, este ajuste puede parecer invisible. Pero podría ayudar a que la IA cotidiana funcione como una casa bien cableada: útil, disponible y sin dejar todas las luces encendidas.

0 0 votos
Valoración del artículo
Suscribirte
Notificar sobre
guest
0 Comentarios
Más Antiguos
Más Nuevos Más Votados