Skip to content

Latest commit

 

History

History
187 lines (141 loc) · 12.1 KB

File metadata and controls

187 lines (141 loc) · 12.1 KB

RWKV App ✨

License English Simplified Chinese Traditional Chinese Japanese Korean

Запускайте приватный on-device AI на смартфонах и десктопах. Локальный AI playground для чата, речи, зрения и экспериментов с моделями.

RWKV App — это privacy-first AI-приложение для Android, iOS, Windows, macOS и Linux. Оно позволяет скачивать, переключать и сравнивать локальные модели на реальном железе, а также быстро прототипировать AI-сценарии без зависимости от облака. После загрузки модели инференс остается на устройстве.

Почему RWKV App

  • Для реальных edge-устройств: Проверяйте локальные модели на смартфонах и десктопах, а не только в облачных демо.
  • Одно приложение, несколько AI-сценариев: Чат, преобразование текста в речь и визуальное понимание собраны в одном месте.
  • Быстрое сравнение моделей: Скачивайте модели с Hugging Face и переключайтесь между ними, чтобы сравнивать качество, скорость и совместимость с железом.
  • Приватность в приоритете: После загрузки модели промпты, ответы и инференс остаются на устройстве.

RWKV App Screenshot

✨ Основные функции

  • 📱 Кроссплатформенность и local-first: Запускайте on-device инференс на Android, iOS, Windows, macOS и Linux.
  • 🤖 Гибкое переключение моделей: Скачивайте и сравнивайте разные модели из Hugging Face.
  • 💬 ИИ-чат: Исследуйте плавные многоходовые диалоги на реальном железе.
  • 🔊 Текст в речь (TTS): Преобразование текста в естественно звучащую речь.
  • 🖼️ Визуальное понимание: Изучите варианты использования ИИ на основе изображений.
  • 🔌 Необязательный локальный API-доступ: На десктопе можно поднять OpenAI-совместимый локальный endpoint для интеграций и экспериментов.
  • 🌓 Темный режим: Комфортная работа даже при долгих сессиях.

🚀 Быстрый старт

  1. Скачайте RWKV App с официальной страницы или по ссылкам для вашей платформы ниже.
  2. Откройте приложение и загрузите чат-модель, подходящую вашему устройству.
  3. Начните исследовать чат, речь или сценарии визуального понимания. На десктопе при необходимости можно также включить встроенный локальный API endpoint.

Загрузки

Официальная страница загрузки:https://rwkv.halowang.cloud/

RWKV Chat (with See and Talk) RWKV Sudoku RWKV Othello RWKV Music (Другой репозиторий)
Ссылка для Android APK Google Play / GitHub Release / huggingface / pgyer huggingface / pgyer huggingface / pgyer pgyer
iOS App Store / testflight - testflight -
Windows GitHub Release / huggingface (zip) / huggingface (installer) / QQ Group / Discord Microsoft Store
macOS GitHub Release / huggingface / QQ Group / Discord -
Linux GitHub Release / huggingface - - -

Note

В будущем мы интегрируем все отдельные функции в приложение RWKV Chat, чтобы обеспечить единый опыт.

Первый запуск

При первом открытии приложения появится панель выбора модели. Пожалуйста, выберите веса модели, которые вы хотите использовать, в соответствии с вашими потребностями.

Warning

Устройства старше iPhone 14 могут не обеспечивать плавную работу моделей с 1.5B / 2.9B параметров.

💻 Сборка из исходников

Убедитесь, что у вас настроена среда разработки Flutter.

Для разработки требуется Flutter 3.41.1+ (рекомендуется stable channel).

  1. Клонирование репозитория:
# ОБЯЗАТЕЛЬНО переключитесь на ветку 'dev'
git clone -b dev https://github.com/MollySophia/rwkv_mobile_flutter.git
# Убедитесь, что rwkv_mobile_flutter и RWKV_APP находятся в одной директории
git clone -b dev https://github.com/RWKV-APP/RWKV_APP.git
cd RWKV_APP

Структура каталогов должна выглядеть так:

parent/
├─ rwkv_mobile_flutter/
└─ RWKV_APP/
  1. Создайте необходимые файлы конфигурации:
touch assets/filter.txt;touch .env;
  1. Установка зависимостей:
flutter pub get
  1. (Необязательно)Установка зависимостей для каталога tools:

Это избавляет от предупреждения «В проекте есть ошибки» в VS Code и Cursor при запуске приложения.

cd tools; flutter pub get; cd ..;
  1. Запуск приложения:
flutter run

Отладка Windows ARM64 (QNN)

Если вы отлаживаете на Windows ARM64, раскомментируйте следующий блок в pubspec.yaml:

- path: assets/lib/qnn-windows/
  platforms: [windows]

Для отладки на Windows ARM64 используйте ветку Flutter master, а не stable.

🏗️ Стек

  • Flutter: Фреймворк с открытым исходным кодом для создания кроссплатформенных пользовательских интерфейсов, поддерживающий Android, iOS, Windows и macOS.
  • Dart FFI (Foreign Function Interface): Используется для эффективного взаимодействия между Dart и движком вывода на C++.
  • C++ Inference Engine: Ядро движка вывода на устройстве, созданное на C++, поддерживающее несколько форматов моделей и аппаратное ускорение (CPU/GPU/NPU).
  • Hugging Face: Сообщество с открытым исходным кодом, предоставляющее модели, наборы данных и инструменты; используется здесь в качестве источника весов моделей.

🤝 Обратная связь и вклад

Это экспериментальная версия на ранней стадии, и ваши отзывы очень важны для нас!

📄 Лицензия

Этот проект лицензирован в соответствии с Apache License 2.0. См. файл LICENSE для получения подробной информации.

🔗 Полезные ссылки