AnyLanguageModel reúne modelos locais e hospedados no Swift
Uma API de sessão compartilhada facilita trocar a execução, mas o histórico de raciocínio exige atenção na mudança de provedor.
Trocar o provedor sem reescrever a sessão é a utilidade central do AnyLanguageModel. A versão 1.0, apresentada por Mattt em 20 de outubro de 2026, usa uma API compatível com Foundation Models para conectar modelos locais e serviços hospedados.
O artigo mostra a troca do import e descreve execução local com llama.cpp, MLX e Core ML. Também documenta suporte a provedores como OpenAI, Anthropic, Google e Hugging Face, além de endpoints compatíveis configurados por URL.
Há um detalhe importante para quem alterna modelos durante uma conversa: blocos de raciocínio são omitidos automaticamente das requisições quando o novo provedor não consegue recebê-los novamente. Compartilhar a API, portanto, não significa transportar todo o histórico sem mudanças.
Eu usaria a biblioteca para comparar a mesma tarefa entre execução local e hospedada, conferindo geração estruturada e chamadas de ferramentas em cada caminho. Para credenciais, a API permite uma função que busca tokens temporários no servidor do aplicativo.
Serve a quem desenvolve em Swift e precisa escolher onde executar. A restrição decisiva é verificar o comportamento da tarefa em cada provedor escolhido.
Fonte: Mattt, em AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms.