Писатель XDA недавно потратил месяц, запуская локальные LLM только на телефоне, и убедился, что его настольное AI-оборудование было избыточным для большинства его задач. Такой переход возможен только потому, что приложения наконец доросли. Современные ядра Snapdragon и Tensor могут размещать квантированные модели 3B-8B без замедления телефона, и небольшая группа приложений теперь предоставляет разумные настройки по умолчанию. Это лучшие приложения для запуска локальных LLM на Android в 2026.
На что обратить внимание при выборе приложения локальной LLM
AI на устройстве работает на Android, когда приложение учитывает ограничения телефона. Все представленные здесь приложения имеют следующие особенности:
- Поддержка моделей Hugging Face GGUF или MLC, так что вы не привязаны к каталогу одного поставщика.
- Квантированные веса (Q4_K_M, Q5, IQ3) вместо полной точности, которая действительно помещается в 8-12 ГБ оперативной памяти.
- Удобный способ управления загруженными моделями и освобождением хранилища при заполнении устройства.
- История чатов, которая сохраняется при перезагрузке приложения и позволяет ветвить разговоры.
- Опциональное ускорение GPU или NPU. Чистый вывод CPU всё ещё работает, но разница при 8B параметрах значительна.
- Полностью автономная работа без неожиданных облачных резервных вариантов для завершения.
Быстрое сравнение
| Приложение | Лучше всего для | Бесплатный план | Платный уровень | Выдающаяся особенность |
|---|---|---|---|---|
| PocketPal AI | Большинство пользователей, с первого дня | Полное приложение | Нет | Встроенный браузер моделей Hugging Face |
| MLC Chat | Самый быстрый вывод на поддерживаемом оборудовании | Полное приложение | Нет | Компилятор MLC запускает модели на GPU |
| ChatterUI | Опытные пользователи, уже имеющие файлы GGUF | Полное приложение | Нет | Загрузка локальных файлов, карточки персонажей |
| Layla | Ролевые игры и творческое письмо | Ограничено | Одноразовая лицензия | Длинное контекстное окно, настроенное для чата |
| Maid | Пользователи llama.cpp, ищущие фронтенд телефона | Полное приложение | Нет | Прямые привязки llama.cpp, режим сервера |
| Llama Chat | Официальное приложение Meta | Полное приложение | Нет | Поставляется с предварительно настроенными моделями Llama |
| Petals | Распределённый вывод больших моделей | Полное приложение | Нет | Запуск моделей класса 70B на узлах волонтёров |
| MNN-LLM | Компактный рантайм Alibaba, устройства нижнего класса | Полное приложение | Нет | Маленький бинарник, работает на чипах среднего класса |
7 лучших приложений локальной LLM для Android в 2026
1. PocketPal AI, лучший в целом
PocketPal AI — это приложение, которое должно установить большинство людей в первую очередь. Браузер Hugging Face внутри приложения позволяет искать и загружать модели GGUF, не покидая поверхность чата, включённые предустановки охватывают производные Llama 3, Phi, Gemma, Qwen и Mistral, а интерфейс скрывает настройки вывода за разумными значениями по умолчанию, пока вы их не запросите. Последние сборки добавили режим тестирования для выбора модели, которая работает на приемлемой скорости на вашем конкретном устройстве.
Недостатки: Нет встроенных инструментов для изображений, документов или голоса. Если вы хотите модель, которая может прочитать загруженный PDF, эту работу вы выполняете вне приложения.
Цена:
- Бесплатно, полностью открытый исходный код
Платформы: Android, iOS
Загрузка: Aptoide, Google Play
Вывод: Установите это, если хотите работающий локальный AI в первый же день без предварительной настройки.
2. MLC Chat, самый быстрый вывод на поддерживаемом оборудовании
MLC Chat — это фронтенд для стека компилятора MLC, который загружает модели на GPU телефона через Vulkan или Metal. На Snapdragon 8 Gen 2 и новее разница по сравнению с чистым выводом CPU значительна, особенно при более длинных контекстах. Каталог моделей отобран и немного уже, чем Hugging Face, но каждая запись предварительно настроена для рантайма, поэтому загрузка при первом запуске — это единственный шаг настройки.
Недостатки: Поддержка Vulkan варьируется в зависимости от устройства. На более старых или средних чипах ускорение не наблюдается. Добавление пользовательских моделей требует перекомпиляции с инструментарием MLC.
Цена:
- Бесплатно, открытый исходный код
Платформы: Android, iOS, Windows, macOS, Linux
Загрузка: GitHub releases
Вывод: Правильный выбор, если ваш телефон недавний и вы заботитесь о количестве токенов в секунду.
3. ChatterUI, лучше всего для опытных пользователей с собственными файлами GGUF
ChatterUI — это фронтенд для людей, которые уже управляют папкой файлов GGUF и хотят телефонный клиент, который соответствует их рабочему процессу. Приложение загружает модели из локального хранилища, поддерживает карточки персонажей (совместимые с SillyTavern) и позволяет настраивать параметры семплера для каждой модели. Вид истории рассматривает чаты как документы с функциями переименования, архивирования и экспорта.
Недостатки: Ввод в курс дела предполагает, что вы знаете, что такое семплер. Нет встроенного браузера моделей. Плотность интерфейса выше, чем у PocketPal.
Цена:
- Бесплатно, открытый исходный код
Платформы: Android
Загрузка: GitHub releases
Вывод: Телефонный клиент для выбора, если вы уже управляете своими моделями.
4. Layla, лучше всего для ролевых игр и длинных чатов
Layla нацелена на творческое письмо и ролевые игры с настроенной поверхностью чата и толерантностью к длинному контексту. Платный уровень разблокирует более длинные системные подсказки, постоянные персоны и больший каталог моделей. Бесплатная версия достаточна для оценки того, подходит ли рабочий процесс.
Недостатки: Закрытый исходный код. Фокус на персону и творческое письмо может не подходить пользователям, которые просто хотят общего помощника.
Цена:
- Бесплатный пробный период
- Платно: одноразовая лицензия
Платформы: Android, iOS
Загрузка: layla-network.ai
Вывод: Выбирайте это, когда хотите длинный, управляемый персоной разговор, а не Q&A-бота.
5. Maid, llama.cpp на телефоне
Maid — это Flutter фронтенд для привязок llama.cpp, с небольшой поверхностью и режимом сервера, который позволяет телефону размещать модель для других устройств в локальной сети. Настройки охватывают параметры llama.cpp, которые имеют значение на телефоне (потоки, mlock, n_predict) без выгрузки всего дерева конфигурации на пользователя.
Недостатки: Нет браузера моделей. Обновления привязаны к темпу llama.cpp и иногда нарушают старые предустановки семплера.
Цена:
- Бесплатно, открытый исходный код
Платформы: Android, Windows, Linux
Загрузка: GitHub releases
Вывод: Хороший выбор, если llama.cpp уже ваш эталонный рантайм на рабочем столе.
6. Llama Chat, официальное приложение Meta для Android
Llama Chat — это собственный демонстрационный клиент Meta для запуска моделей Llama на устройстве. Приложение поставляется предварительно настроенным для меньших вариантов Llama 3.2 и существует в основном для демонстрации возможностей платформы, но это также совершенно пригодный повседневный клиент, если вы хотите беззаботный вариант от поставщика.
Недостатки: Каталог ограничен собственной линией моделей Meta. Меньше гибкости, чем в сообществе, когда вы хотите попробовать модели, не относящиеся к Llama.
Цена:
- Бесплатно
Платформы: Android, iOS
Загрузка: Google Play
Вывод: Безопасный выбор по умолчанию, если вы доверяете поставщику и просто хотите Llama 3 на телефоне.
7. MNN-LLM, самый маленький объем для устройств среднего класса
MNN-LLM — это компактный рантайм вывода Alibaba для телефонов среднего и старого класса, где давление памяти делает другие приложения заиканием. Бинарник маленький, загрузка модели быстрая, и поддерживаемый список моделей короток, но хорошо подобран, включая квантированные варианты Qwen, настроенные под рантайм.
Недостатки: Документация ориентирована в первую очередь на китайский язык. Интерфейс утилитарен. Каталог не соответствует Hugging Face.
Цена:
- Бесплатно, открытый исходный код
Платформы: Android, iOS
Загрузка: GitHub releases
Вывод: Выбор, когда на вашем телефоне 4-6 ГБ оперативной памяти и другие приложения выгружают модели.
8. Petals, распределённый вывод для больших моделей
Petals полностью меняет ограничение на устройстве. Приложение подключается к рою волонтёрских узлов, каждый из которых запускает срез модели класса 70B, при этом ваш телефон действует как клиент на краю сети. Конфиденциальность не эквивалентна полностью локальному запуску, так как подсказки распределяются между узлами, но этот компромисс даёт вам доступ к размерам моделей, которые телефон не может самостоятельно размещать.
Недостатки: Зависимость от сети, с качеством, варьирующимся в зависимости от нагрузки роя. Модель конфиденциальности должна быть понята перед совместным использованием конфиденциальных подсказок.
Цена:
- Бесплатно, открытый исходный код
Платформы: Android, iOS, Web
Загрузка: petals.dev
Вывод: Используйте его, когда единственная модель, которая соответствует задаче, слишком велика для телефона.
Как выбрать правильный
- Если вам нужен работающий локальный AI за пять минут: PocketPal AI.
- Если у вас недавний Snapdragon и вы заботитесь о скорости: MLC Chat.
- Если вы уже курируете собственную библиотеку GGUF: ChatterUI.
- Если вы пишете художественную литературу или проводите долгие чаты, управляемые персоной: Layla.
- Если llama.cpp — ваш эталонный рантайм: Maid.
- Если вы доверяете поставщику и хотите Llama 3 на телефоне без настройки: Llama Chat.
- Если ваш телефон среднего класса и другие приложения заиканием: MNN-LLM.
- Если вам нужна модель 70B: Petals.
Часто задаваемые вопросы
Могу ли я действительно запустить LLM локально на телефоне Android?
Да. Квантированные модели 3B-8B работают на большинстве флагманских телефонов, выпущенных с 2023 года с приемлемой скоростью (5-15 токенов в секунду). Приложения в этом списке выполняют работу рантайма; вы только выбираете модель. Телефоны среднего класса с 6 ГБ оперативной памяти ограничены моделями класса 3B, но всё ещё получают работающего помощника.
Какое лучшее бесплатное приложение локальной LLM для Android?
PocketPal AI — самый простой бесплатный вариант для большинства людей. ChatterUI и MLC Chat также полностью бесплатны и имеют открытый исходный код; выбирайте их, если вам нужны элементы управления для опытных пользователей или максимальная скорость вывода соответственно.
Будет ли работа LLM разряжать мой аккумулятор?
Да. Вывод требует интенсивных вычислений CPU и GPU, а длительный сеанс нагревает устройство. Подсказки из нескольких сотен токенов хороши; устойчивое создание страниц текста заметно сокращает время работы батареи. Подключитесь для длинных сеансов.
Сколько памяти нужно для моделей локальной LLM?
Квантированные модели 3B составляют около 1,5-2 ГБ. Квантированные модели 7B и 8B — 4-6 ГБ. Планируйте 10-20 ГБ свободного хранилища, если хотите держать на устройстве пару моделей.
Являются ли приложения локальной LLM приватными?
Приложения на устройстве в этом списке по умолчанию не отправляют подсказки на сервер. Petals — исключение; он распределяет подсказки среди волонтёрских узлов. Прочитайте примечания конфиденциальности каждого приложения перед рассмотрением его как полностью приватного.