A Era da Inteligência Artificial no Dispositivo com os Novos Chips da Qualcomm

Os dois novos processadores para smartphone da Qualcomm focados em inteligência artificial concentram-se na execução de modelos avançados diretamente no hardware móvel. O processador de topo de gama da nova geração destaca-se pelo suporte à execução local, no próprio dispositivo, de modelos de mistura de peritos com 30 mil milhões de parâmetros. Esta evolução não se reveste de importância para as empresas apenas ao nível da capacidade de processamento móvel, mas também no que respeita ao local de execução das tarefas de inteligência artificial, ao modo de processamento dos dados e aos cenários em que os recursos na nuvem devem ser mobilizados.

A mistura de peritos refere-se a uma arquitetura na qual um modelo de inteligência artificial recorre a diferentes componentes especializados. O suporte a 30 mil milhões de parâmetros indicado para o processador de gama alta da Qualcomm aplica-se a modelos com esta arquitetura. Por conseguinte, esta capacidade não deve ser interpretada como uma garantia de que qualquer modelo de dimensão equivalente funcionará sob as mesmas condições. Na avaliação para utilização empresarial, além do número de parâmetros, devem ser considerados a arquitetura do modelo, os recursos do dispositivo e os requisitos da tarefa a executar.

A inteligência artificial no dispositivo significa que o modelo tira partido do hardware local em vez de enviar todos os pedidos a um servidor remoto para processamento. Esta abordagem pode mitigar a dependência de conectividade à nuvem em tarefas adequadas e limitar a necessidade de transferência de dados para fora do dispositivo. Todavia, a execução local do modelo não implica por si só que todas as funcionalidades da aplicação possam ser utilizadas em modo offline. As necessidades de conectividade dos fluxos que acedem a fontes de dados externas ou a sistemas empresariais devem ser avaliadas separadamente.

Um dos tópicos centrais do processamento local para as organizações é a privacidade dos dados. O processamento dos dados no dispositivo pode ajudar a reduzir o conteúdo enviado para a nuvem, contudo não assegura, de forma isolada, uma garantia absoluta de segurança. Os controlos de acesso ao dispositivo, as permissões de aplicações e as opções de armazenamento de dados mantêm a sua relevância. Do mesmo modo, embora exista potencial de poupança nos custos de computação na nuvem, o impacto financeiro real deve ser analisado em conjunto com a intensidade de utilização, os requisitos de hardware e a arquitetura da aplicação.

Na X Mind Solutions, encaramos este desenvolvimento sob a perspetiva de uma escolha arquitetural relativa ao local de execução das cargas de trabalho em soluções empresariais de inteligência artificial. Separar as tarefas exequíveis no dispositivo móvel daquelas que requerem sistemas centralizados pode contribuir para tomadas de decisão mais informadas na conceção de agentes e de automação. Ao mesmo tempo que os novos processadores da Qualcomm evidenciam esta opção, a implementação prática exige a validação da compatibilidade do modelo, do fluxo de dados e do desempenho no dispositivo de destino.