Запускайте приватный on-device AI на смартфонах и десктопах. Локальный AI playground для чата, речи, зрения и экспериментов с моделями.
RWKV App — это privacy-first AI-приложение для Android, iOS, Windows, macOS и Linux. Оно позволяет скачивать, переключать и сравнивать локальные модели на реальном железе, а также быстро прототипировать AI-сценарии без зависимости от облака. После загрузки модели инференс остается на устройстве.
- Для реальных edge-устройств: Проверяйте локальные модели на смартфонах и десктопах, а не только в облачных демо.
- Одно приложение, несколько AI-сценариев: Чат, преобразование текста в речь и визуальное понимание собраны в одном месте.
- Быстрое сравнение моделей: Скачивайте модели с Hugging Face и переключайтесь между ними, чтобы сравнивать качество, скорость и совместимость с железом.
- Приватность в приоритете: После загрузки модели промпты, ответы и инференс остаются на устройстве.
- 📱 Кроссплатформенность и local-first: Запускайте on-device инференс на Android, iOS, Windows, macOS и Linux.
- 🤖 Гибкое переключение моделей: Скачивайте и сравнивайте разные модели из Hugging Face.
- 💬 ИИ-чат: Исследуйте плавные многоходовые диалоги на реальном железе.
- 🔊 Текст в речь (TTS): Преобразование текста в естественно звучащую речь.
- 🖼️ Визуальное понимание: Изучите варианты использования ИИ на основе изображений.
- 🔌 Необязательный локальный API-доступ: На десктопе можно поднять OpenAI-совместимый локальный endpoint для интеграций и экспериментов.
- 🌓 Темный режим: Комфортная работа даже при долгих сессиях.
- Скачайте RWKV App с официальной страницы или по ссылкам для вашей платформы ниже.
- Откройте приложение и загрузите чат-модель, подходящую вашему устройству.
- Начните исследовать чат, речь или сценарии визуального понимания. На десктопе при необходимости можно также включить встроенный локальный API endpoint.
Официальная страница загрузки:https://rwkv.halowang.cloud/
| RWKV Chat (with See and Talk) | RWKV Sudoku | RWKV Othello | RWKV Music (Другой репозиторий) | |
|---|---|---|---|---|
| Ссылка для Android APK | Google Play / GitHub Release / huggingface / pgyer | huggingface / pgyer | huggingface / pgyer | pgyer |
| iOS | App Store / testflight | - | testflight | - |
| Windows | GitHub Release / huggingface (zip) / huggingface (installer) / QQ Group / Discord | Microsoft Store | ||
| macOS | GitHub Release / huggingface / QQ Group / Discord | - | ||
| Linux | GitHub Release / huggingface | - | - | - |
Note
В будущем мы интегрируем все отдельные функции в приложение RWKV Chat, чтобы обеспечить единый опыт.
При первом открытии приложения появится панель выбора модели. Пожалуйста, выберите веса модели, которые вы хотите использовать, в соответствии с вашими потребностями.
Warning
Устройства старше iPhone 14 могут не обеспечивать плавную работу моделей с 1.5B / 2.9B параметров.
Убедитесь, что у вас настроена среда разработки Flutter.
Для разработки требуется Flutter 3.41.1+ (рекомендуется stable channel).
- Клонирование репозитория:
# ОБЯЗАТЕЛЬНО переключитесь на ветку 'dev'
git clone -b dev https://github.com/MollySophia/rwkv_mobile_flutter.git
# Убедитесь, что rwkv_mobile_flutter и RWKV_APP находятся в одной директории
git clone -b dev https://github.com/RWKV-APP/RWKV_APP.git
cd RWKV_APPСтруктура каталогов должна выглядеть так:
parent/
├─ rwkv_mobile_flutter/
└─ RWKV_APP/
- Создайте необходимые файлы конфигурации:
touch assets/filter.txt;touch .env;- Установка зависимостей:
flutter pub get- (Необязательно)Установка зависимостей для каталога
tools:
Это избавляет от предупреждения «В проекте есть ошибки» в VS Code и Cursor при запуске приложения.
cd tools; flutter pub get; cd ..;- Запуск приложения:
flutter runЕсли вы отлаживаете на Windows ARM64, раскомментируйте следующий блок в pubspec.yaml:
- path: assets/lib/qnn-windows/
platforms: [windows]Для отладки на Windows ARM64 используйте ветку Flutter master, а не stable.
- Flutter: Фреймворк с открытым исходным кодом для создания кроссплатформенных пользовательских интерфейсов, поддерживающий Android, iOS, Windows и macOS.
- Dart FFI (Foreign Function Interface): Используется для эффективного взаимодействия между Dart и движком вывода на C++.
- C++ Inference Engine: Ядро движка вывода на устройстве, созданное на C++, поддерживающее несколько форматов моделей и аппаратное ускорение (CPU/GPU/NPU).
- Hugging Face: Сообщество с открытым исходным кодом, предоставляющее модели, наборы данных и инструменты; используется здесь в качестве источника весов моделей.
Это экспериментальная версия на ранней стадии, и ваши отзывы очень важны для нас!
- 🐞 Нашли ошибку или проблему? Сообщите об этом здесь!
- 💡 Есть предложение? Предложите функцию!
- 🎨 Хотите внести свой вариант темы? Быстрый старт по темам
Этот проект лицензирован в соответствии с Apache License 2.0. См. файл LICENSE для получения подробной информации.
