A Era da Inteligência Artificial no Dispositivo com os Novos Chips da Qualcomm

Os dois novos processadores para smartphones da Qualcomm focados em inteligência artificial concentram-se na execução de modelos avançados diretamente no hardware móvel. O processador topo de linha de nova geração destaca-se pelo suporte à execução local, no próprio dispositivo, de modelos de mistura de especialistas com 30 bilhões de parâmetros. Para as empresas, esse avanço não diz respeito apenas ao poder computacional móvel; ele também é relevante para definir onde as tarefas de IA serão executadas, como os dados serão processados e em quais circunstâncias os recursos de nuvem serão utilizados.

A mistura de especialistas refere-se a uma arquitetura na qual um modelo de inteligência artificial aproveita diferentes componentes especializados. O suporte a 30 bilhões de parâmetros especificado no processador topo de linha da Qualcomm aplica-se a modelos com essa arquitetura. Portanto, essa capacidade não deve ser interpretada como uma garantia de que qualquer modelo do mesmo tamanho funcionará sob as mesmas condições. Na avaliação do uso corporativo, a arquitetura do modelo, os recursos do dispositivo e os requisitos da tarefa a ser executada devem ser considerados tanto quanto o número de parâmetros.

A inteligência artificial no dispositivo significa que o modelo aproveita o hardware local em vez de enviar cada solicitação de processamento a um servidor remoto. Essa abordagem pode diminuir a dependência de conexões de nuvem em tarefas adequadas e limitar a necessidade de transferir dados para fora do aparelho. No entanto, o funcionamento local do modelo não significa, isoladamente, que todas as funções do aplicativo possam ser usadas offline. As necessidades de conectividade para fluxos que acessam fontes de dados externas ou sistemas corporativos devem ser analisadas separadamente.

Para as empresas, a privacidade de dados é um dos pontos centrais do processamento local. A capacidade de processar dados no próprio dispositivo pode ajudar a reduzir o conteúdo enviado à nuvem; contudo, não assegura isoladamente uma proteção completa. Os controles de acesso ao dispositivo, as permissões de aplicativos e as práticas de armazenamento de dados mantêm sua importância. Do mesmo modo, embora haja potencial de economia nos custos de computação em nuvem, o impacto financeiro real deve ser avaliado em conjunto com a intensidade de uso, as exigências de hardware e a arquitetura da aplicação.

Na X Mind Solutions, analisamos esse avanço como uma escolha arquitetural sobre onde executar as cargas de trabalho em soluções corporativas de inteligência artificial. Separar as tarefas que podem ser executadas no dispositivo móvel daquelas que dependem de sistemas centralizados ajuda a tomar decisões mais fundamentadas no design de agentes e automações. Enquanto os novos processadores da Qualcomm evidenciam essa possibilidade, a implementação prática exige a validação da compatibilidade do modelo, do fluxo de dados e do desempenho no dispositivo de destino.