Para citar este trabalho use um dos padrões abaixo:
A implantação de Modelos de Linguagem de Grande Escala (LLMs) na borda impõe desafios de confiabilidade. Este artigo investiga o desempenho e tolerância a falhas na inferência local do modelo Llama-3.2-1B-Q8 em um Raspberry Pi 4B. Por meio de experimentos variando a concorrência e o tamanho do contexto (SQuAD v2.0), analisamos a saturação de recursos e latência. Os resultados mostram que, embora a RAM permaneça estável via quantização de 8-bits, a CPU sofre saturação precoce. Essa exaustão causa falhas de desempenho, com alta latência e instabilidade sob carga. Revelamos um paradoxo de sobrecarga em requisições curtas (128 tokens) e o colapso da previsibilidade em contextos longos (1024 tokens). O estudo fornece evidências empíricas sobre o comportamento de LLMs em ambientes restritos, subsidiando mecanismos de escalonamento.
Visualizações por mês
Contagem da Galoá, excluindo robôs conhecidos. Atualizado em 30/09/2026.
Visualizações por mês
Contagem da Galoá, excluindo robôs conhecidos. Atualizado em 30/09/2026.
Com ~200 mil publicações revisadas por pesquisadores do mundo todo, o Galoá impulsiona cientistas na descoberta de pesquisas de ponta por meio de nossa plataforma indexada.
Confira nossos produtos e como podemos ajudá-lo a dar mais alcance para sua pesquisa:
Esse proceedings é identificado por um DOI , para usar em citações ou referências bibliográficas. Atenção: este não é um DOI para o jornal e, como tal, não pode ser usado em Lattes para identificar um trabalho específico.
Verifique o link "Como citar" na página do trabalho, para ver como citar corretamente o artigo