AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

AnyLanguageModel 1.0은 Foundation Models API와 호환되는 공통 인터페이스로 Apple 플랫폼의 로컬 모델과 다양한 호스팅 모델을 연결하고, 모델·제공자 선택의 폭을 넓혔다.

📌 핵심 요약

• 2026년 10월 20일 공개된 글은 전년 11월 소개 이후 수십 차례 출시를 거친 AnyLanguageModel 1.0과 함께 swift-huggingface 1.0, swift-xet 1.0의 출시를 알린다. 핵심 목표는 Foundation Models API를 유지하면서 앱에 적합한 모델과 제공자를 선택하도록 하는 것이다.
• import를 FoundationModels에서 AnyLanguageModel로 바꾸면 같은 세션 코드로 시스템 모델, llama.cpp·MLX·Core ML을 통한 오픈웨이트 모델, 호스팅 모델을 사용할 수 있다. 모든 제공자가 도구 호출과 가이드 생성을 지원하며, Foundation Models 27 문법의 이미지 첨부와 OS 27의 LanguageModel 프로토콜 구현 모델도 지원한다.
• 호스팅 지원에는 OpenAI Chat Completions·Responses, Open Responses, Anthropic Messages, Google Gemini, Ollama, OS 27의 Private Cloud Compute, Hugging Face Inference Providers 및 OpenAI 호환 엔드포인트가 포함된다. 스트리밍 도구 호출·토큰 사용량·추론 기록을 지원하고, 추론 재전송이 불가능한 제공자로 전환하면 해당 블록을 요청에서 자동 제외한다. API 키를 클로저로 공급해 단기 토큰을 가져올 수 있으며 Linux에서도 실행된다.
• 소형 오픈웨이트 모델의 성능도 개선됐다. Google의 Gemma 4 E2B는 GGUF Q4_0에서 약 3.4 GB, Liquid AI의 LFM2.5 2.6B는 GGUF Q4_K_M에서 약 1.7 GB로 둘 다 iPhone에 들어간다. Alibaba의 Qwen3.8 27B는 MLX 4비트에서 약 16 GB이며 메모리 32 GB 이상인 Mac에서 실행된다. Z.ai의 GLM-5.3은 BF16에서 약 1.5 TB가 필요하고, Inference Providers로도 이용할 수 있다.
• 기존 앱의 1.0 전환에는 AnyLanguageModel·swift-huggingface·swift-xet 릴리스 노트의 마이그레이션 안내가 제공된다. swift-huggingface와 swift-xet은 Swift 앱의 Hub 모델 다운로드를 가속하며, 향후에는 익숙한 Swift API와 기기 내 모델 선택이라는 접근을 결정하는 모델과 듣는 모델로 확장할 계획이다.

🧩 주요 포인트

1. Foundation Models API 호환성과 제공자 공통 기능 → 앱의 세션 코드를 공유하면서 작업에 맞는 로컬·호스팅 모델을 선택하기 쉬워진다.
2. iPhone에 들어가는 소형 모델부터 약 1.5 TB의 GLM-5.3까지 이어지는 자원 요구 차이 → 모델 선택에는 성능뿐 아니라 기기 메모리와 Inference Providers 이용 가능성을 함께 고려해야 한다.
3. 추론 기록 처리·클로저 기반 API 키·Linux 지원 → 제공자 전환과 인증 방식, 서버 실행까지 공통 인터페이스의 활용 범위가 넓어진다.

🧠 상세 정리

1. 개발자 피드백에서 출발한 1.0

Mattt가 2026년 10월 20일 게시한 글은 전년 11월 소개한 AnyLanguageModel의 발전과 1.0 출시를 설명한다. 출발점은 로컬 모델에 관심은 있지만 시작 방법을 잘 모르거나 여러 추론 제공자를 지원하는 복잡성을 피하고 싶다는 앱 개발자들의 피드백이었다. AnyLanguageModel은 Apple의 Foundation Models 프레임워크를 대체해 사용할 수 있으면서 앱이 모델과 제공자를 선택하도록 하는 공통 API를 제시했다. 글은 로컬 추론과 호스팅 추론이 각각 장점을 지니며, 새로운 지능형 앱을 만드는 데 양쪽 모두 역할이 있다고 본다. 약 1년 동안 수십 차례 출시를 거쳐 AnyLanguageModel 1.0이 나왔고, swift-huggingface 1.0과 swift-xet 1.0도 함께 출시됐다.

2. 기존 API를 유지하면서 넓어진 기능

핵심 사용 방식은 import FoundationModels를 import AnyLanguageModel로 바꾸고 기존의 세션 코드를 사용하는 것이다. 같은 코드로 시스템 모델뿐 아니라 llama.cpp, MLX, Core ML을 통한 오픈웨이트 모델과 호스팅 제공자에 접근할 수 있다. 지난 1년간 추가된 주요 기능에는 모든 제공자에서 작동하는 도구 호출과 가이드 생성이 있으며, 가이드 생성은 중첩된 @Generable 타입과 그 배열까지 지원한다. 이미지도 Foundation Models 27의 문법으로 프롬프트에 첨부할 수 있고, iOS·macOS·visionOS 27에서 시스템 모델을 사용할 때도 이 방식이 적용된다. OS 27에서는 Core AI 모델을 포함해 Foundation Models의 LanguageModel 프로토콜을 준수하는 모델과도 호환된다. 함께 개발한 swift-huggingface와 swift-xet은 Swift 앱이 Hub에서 모델을 더 빠르게 다운로드하도록 돕는다.

3. 호스팅 제공자와 대형 모델로 확장

호스팅 지원 범위에는 OpenAI의 Chat Completions와 Responses API, 호환 엔드포인트를 가진 제공자를 위한 Open Responses가 포함된다. Anthropic의 Messages API는 adaptive thinking과 effort 옵션을 지원하며, Google의 Gemini API, Ollama, OS 27의 Private Cloud Compute도 사용할 수 있다. Hugging Face Inference Providers와 OpenRouter 같은 다른 OpenAI 호환 엔드포인트에는 사용자 지정 base URL로 연결한다. 글은 Hugging Face 라우터를 대상으로 OpenAILanguageModel을 구성하고 openai/gpt-oss-120b를 선택하는 예시를 제시한다. 이 예시는 기기에서 실행하기에는 너무 큰 오픈웨이트 모델도 같은 세션 코드로 활용할 수 있다는 점을 보여준다. 호스팅 모델에도 로컬 모델과 마찬가지로 가이드 생성, 스트리밍을 지원하는 도구 호출, 응답의 토큰 사용량 정보가 제공된다.

4. 제공자 전환과 인증·서버 실행

추론 내용도 이제 대화 기록의 일부로 다뤄지며, 제공자를 바꿀 때 새 제공자가 추론 블록을 다시 전달받아 처리할 수 있는지가 반영된다. 새 제공자가 이를 지원하지 않으면 해당 추론 블록은 요청에서 자동으로 제외된다. API 키는 문자열 대신 클로저를 통해 제공하도록 바뀌어, 앱이 자체 서버에서 수명이 짧은 토큰을 가져올 수 있다. README는 사용자가 자신의 키를 직접 제공하도록 할 경우와 요청을 프록시로 전달할 경우를 설명한다. AnyLanguageModel은 Linux에서도 실행되므로 동일한 코드를 서버에서도 사용할 수 있다. 이 기능들은 모델 호출 자체를 넘어 제공자 전환, 인증 정보 공급, 실행 환경까지 공통 API의 적용 범위를 넓힌다.

5. 모델 크기와 기기에 따른 선택

글은 로컬 모델을 사용하기 쉬워진 것과 함께 모델 자체의 역량도 개선됐으며, 작은 모델이 좋은 출발점이라고 설명한다. Hub에서 많이 다운로드되는 모델의 예로 든 Google의 Gemma 4 E2B는 양자화 인지 학습이 적용됐고, GGUF Q4_0 기준 약 3.4 GB다. Liquid AI의 LFM2.5 2.6B는 GGUF Q4_K_M 기준 약 1.7 GB이며, 이 두 모델은 iPhone에 들어간다고 제시된다. Alibaba의 Qwen3.8 27B는 MLX용 4비트 모델이 약 16 GB이고 메모리 32 GB 이상인 Mac에서 실행되며, MLXLanguageModel에 mlx-community/Qwen3.8-27B-4bit를 지정해 선택할 수 있다. 더 큰 사례인 Z.ai의 GLM-5.3은 BF16에서 약 1.5 TB를 차지하며, 글은 최고 사양 Mac Studio 네 대를 갖춘 경우를 언급한다. 이러한 장비를 갖추지 않은 경우에도 GLM-5.3을 Inference Providers를 통해 이용할 수 있다고 설명한다.

6. 1.0 전환과 언어 모델 이후의 방향

설치 예시는 AnyLanguageModel의 GitHub 저장소를 Swift 패키지 의존성으로 추가하면서 시작 버전을 1.0.0으로 지정하고 MLX trait을 활성화한다. 기존 앱을 업데이트하는 개발자에게는 AnyLanguageModel, swift-huggingface, swift-xet 각각의 릴리스 노트에 있는 마이그레이션 안내를 참고하도록 한다. 글은 주요 기능 중 여러 가지가 커뮤니티의 피드백과 기여를 통해 만들어졌다고 밝힌다. 이후 방향에 대해서는 언어 모델이 제품에 지능을 더하는 강력한 도구이면서 개발자가 활용할 수 있는 여러 모델 종류 중 하나라고 설명한다. 익숙한 Swift API를 사용하면서 기기에서 실행할 모델을 선택하는 접근을 더 많은 기능으로 확장하려는 구상이다. 다음 대상으로는 결정하는 모델과 듣는 모델을 예고하지만, 구체적인 모델이나 출시 일정은 제시하지 않는다.

🧾 핵심 주장 / 시사점

• AnyLanguageModel의 가치는 모델 접근 경로를 통합하는 데 더해, 도구 호출과 가이드 생성 같은 기능을 제공자 전반에서 사용할 수 있도록 한다는 데 있다.
• 소형 모델의 개선은 iPhone에서 로컬 추론을 시작할 선택지를 넓히고, Inference Providers는 기기 메모리를 넘어서는 모델에 접근하는 경로를 제공한다.
• 향후 확장은 특정 언어 모델에 집중하기보다 익숙한 Swift API와 기기 내 모델 선택이라는 접근을 다른 모델 기능에도 적용하려는 방향이다.

✅ 액션 아이템

• Foundation Models API를 사용하는 앱에서 AnyLanguageModel 1.0의 공통 세션 코드와 도구 호출·가이드 생성 적용 가능성 검토.
• iPhone의 Gemma 4 E2B·LFM2.5 2.6B, 메모리 32 GB 이상 Mac의 Qwen3.8 27B, Inference Providers 이용 조건을 기준으로 모델 선택 검토.
• 기존 앱의 1.0 전환에 앞서 AnyLanguageModel·swift-huggingface·swift-xet 릴리스 노트의 마이그레이션 안내 확인.

❓ 열린 질문

• Foundation Models API를 공유하는 로컬·호스팅 모델 중 앱의 각 작업에 적합한 선택은 무엇인가?
• iPhone에 들어가는 Gemma 4 E2B와 LFM2.5 2.6B는 목표 작업에서 어느 정도의 성능을 제공하는가?
• 결정하는 모델과 듣는 모델로의 확장은 어떤 기능과 모델 선택을 제공할 예정인가?