La era de la inteligencia artificial en el dispositivo con los nuevos chips de…

Los dos nuevos procesadores para teléfonos inteligentes de Qualcomm, orientados a la inteligencia artificial, se centran en ejecutar modelos avanzados directamente en el hardware móvil. El procesador de gama alta de nueva generación destaca por permitir la ejecución local de modelos de mezcla de expertos de 30.000 millones de parámetros. Para las empresas, este avance no solo está relacionado con la capacidad de procesamiento móvil; también resulta relevante para decidir dónde se ejecutarán las tareas de inteligencia artificial, cómo se tratarán los datos y en qué situaciones se utilizarán recursos de la nube.

La mezcla de expertos es una arquitectura en la que un modelo de inteligencia artificial utiliza distintos componentes especializados. La compatibilidad con 30.000 millones de parámetros indicada para el procesador de gama alta de Qualcomm se refiere a modelos con esta arquitectura. Por tanto, no debe interpretarse que cualquier modelo del mismo tamaño pueda ejecutarse en las mismas condiciones. Al evaluar su uso empresarial, además del número de parámetros, deben tenerse en cuenta la arquitectura del modelo, los recursos del dispositivo y los requisitos de la tarea que se va a ejecutar.

La inteligencia artificial en el dispositivo implica que el modelo utiliza el hardware local para procesar las solicitudes, en lugar de enviar cada una de ellas a un servidor remoto. Este enfoque puede reducir la dependencia de la conexión a la nube en las tareas adecuadas y limitar la necesidad de transferir datos fuera del dispositivo. Sin embargo, que el modelo se ejecute localmente no significa, por sí solo, que todas las funciones de la aplicación puedan utilizarse sin conexión. Las necesidades de conectividad de los flujos que acceden a fuentes de datos externas o a sistemas empresariales deben evaluarse por separado.

Para las empresas, uno de los aspectos clave del procesamiento local es la privacidad de los datos. La posibilidad de procesarlos en el dispositivo puede ayudar a reducir el contenido enviado a la nube, pero no garantiza por sí sola una seguridad completa. Los controles de acceso al dispositivo, los permisos de las aplicaciones y las decisiones sobre la conservación de datos siguen siendo importantes. Del mismo modo, aunque existe un potencial de ahorro en los costes de procesamiento en la nube, el impacto real en los costes debe analizarse junto con la intensidad de uso, los requisitos de hardware y el diseño de la aplicación.

En X Mind Solutions, abordamos este avance como una decisión de arquitectura sobre dónde ejecutar las cargas de trabajo de las soluciones empresariales de inteligencia artificial. Distinguir entre las tareas que pueden ejecutarse en un dispositivo móvil y los procesos que requieren sistemas centrales puede ayudar a tomar decisiones más fundamentadas en el diseño de agentes y automatizaciones. Aunque los nuevos procesadores de Qualcomm ponen de relieve esta opción, su implementación exige validar la compatibilidad del modelo, el flujo de datos y el rendimiento en el dispositivo de destino.