La era de la inteligencia artificial en el dispositivo con los nuevos chips de Qualcomm

Los dos nuevos procesadores para teléfonos inteligentes orientados a la inteligencia artificial de Qualcomm se centran en ejecutar modelos avanzados directamente en el hardware móvil. El procesador de gama alta de última generación se destaca por admitir la ejecución local de modelos de mezcla de expertos de 30 mil millones de parámetros en el dispositivo. Este avance no solo es relevante para las empresas por la potencia de procesamiento móvil, sino también por definir dónde se ejecutan las tareas de IA, cómo se procesan los datos y en qué situaciones se deben usar los recursos en la nube.

La mezcla de expertos se refiere a una arquitectura en la que un modelo de inteligencia artificial aprovecha distintos componentes especializados. El soporte para 30 mil millones de parámetros indicado en el procesador de gama alta de Qualcomm aplica a los modelos que cuentan con esta arquitectura. Por lo tanto, no hay que interpretar esta capacidad como si cualquier modelo del mismo tamaño fuera a funcionar bajo las mismas condiciones. Al evaluar el uso corporativo, además de la cantidad de parámetros, se deben tener en cuenta la arquitectura del modelo, los recursos del dispositivo y los requisitos de la tarea a ejecutar.

La IA en el dispositivo implica que el modelo aprovecha el hardware local para procesar las operaciones en lugar de enviar cada solicitud a un servidor remoto. Este enfoque puede reducir la dependencia de la conectividad en la nube para ciertas tareas y limitar la necesidad de transferir datos fuera del equipo. Sin embargo, que el modelo corra localmente no implica por sí solo que todas las funciones de la aplicación se puedan usar sin conexión. Hay que evaluar por separado la necesidad de conexión en los flujos que acceden a fuentes de datos externas o a sistemas corporativos.

Para las empresas, uno de los puntos centrales del procesamiento local es la privacidad de los datos. Procesar los datos en el dispositivo puede ayudar a reducir la cantidad de información enviada a la nube; sin embargo, no garantiza por sí solo una seguridad absoluta. Los controles de acceso al dispositivo, los permisos de las aplicaciones y las políticas de almacenamiento de datos siguen siendo fundamentales. Del mismo modo, aunque existe un potencial de ahorro en los costos de procesamiento en la nube, el impacto real en los costos se debe analizar junto con la intensidad de uso, los requisitos de hardware y el diseño de la aplicación.

Desde X Mind Solutions abordamos este avance como una decisión de arquitectura sobre dónde ejecutar las cargas de trabajo en las soluciones corporativas de IA. Separar las tareas que se pueden resolver en el dispositivo móvil de los procesos que requieren sistemas centralizados ayuda a tomar decisiones más acertadas en el diseño de agentes y automatizaciones. Si bien los nuevos procesadores de Qualcomm impulsan esta alternativa, a la hora de implementar es indispensable validar la compatibilidad del modelo, el flujo de datos y el rendimiento en el dispositivo de destino.