Skip to content

Latest commit

 

History

History
187 lines (141 loc) · 10.5 KB

File metadata and controls

187 lines (141 loc) · 10.5 KB

RWKV App ✨

License English Simplified Chinese Traditional Chinese Korean Russian

スマートフォンとデスクトップで、プライベートなオンデバイス AI を動かす。 チャット、音声、視覚、モデル検証のためのローカルファーストな AI プレイグラウンド。

RWKV App は、Android、iOS、Windows、macOS、Linux 向けのプライバシー重視 AI アプリです。ローカルモデルを実機でダウンロード・切り替え・比較し、クラウドに依存せず AI 体験を試作できます。モデルを読み込んだ後の推論はデバイス上に留まります。

なぜ RWKV App なのか

  • 実機のエッジデバイス向け: クラウド中心のデモではなく、スマートフォンやデスクトップ上でローカルモデルを評価できます。
  • 1つのアプリで複数の AI ワークフロー: チャット、テキスト読み上げ、視覚理解をまとめて扱えます。
  • モデル比較が速い: Hugging Face からモデルをダウンロードして切り替え、品質・速度・ハードウェア適性を見比べられます。
  • プライバシー重視: モデル読み込み後のプロンプト、出力、推論はデバイス内に留まります。

RWKV App Screenshot

✨ 主な機能

  • 📱 クロスプラットフォーム、ローカルファースト: Android、iOS、Windows、macOS、Linux でオンデバイス推論を実行できます。
  • 🤖 柔軟なモデル切り替え: Hugging Face からさまざまなモデルをダウンロードして比較できます。
  • 💬 AI チャット: 実機上で自然なマルチターン会話を試せます。
  • 🔊 テキスト読み上げ (TTS): テキストを自然な音声に変換します。
  • 🖼️ 視覚理解: 画像ベースの AI ユースケースを探索できます。
  • 🔌 任意のローカル API アクセス: デスクトップでは、ツール連携や実験向けに OpenAI 互換のローカルエンドポイントを公開できます。
  • 🌓 ダークモード: 長時間の利用でも快適に使えます。

🚀 クイックスタート

  1. 公式ダウンロードページ、または以下のプラットフォーム別リンクから RWKV App を入手します。
  2. アプリを開き、デバイスに合ったチャットモデルを読み込みます。
  3. チャット、音声、視覚のワークフローを試します。デスクトップでは、必要に応じて内蔵のローカル API エンドポイントも有効化できます。

ダウンロード

公式ダウンロードページ:https://rwkv.halowang.cloud/

RWKV Chat (with See and Talk) RWKV Sudoku RWKV Othello RWKV Music (別リポジトリ)
Android APK ダウンロードリンク Google Play / GitHub Release / huggingface / pgyer huggingface / pgyer huggingface / pgyer pgyer
iOS App Store / testflight - testflight -
Windows GitHub Release / huggingface (zip) / huggingface (installer) / QQ Group / Discord Microsoft Store
macOS GitHub Release / huggingface / QQ Group / Discord -
Linux GitHub Release / huggingface - - -

Note

将来的には、すべての機能を RWKV Chat アプリに統合し、統一された体験を提供する予定です。

初回起動

アプリを初めて開くと、モデル選択パネルが表示されます。ニーズに合わせて使用したいモデルの重みを選択してください。

Warning

iPhone 14 より古いデバイスでは、1.5B / 2.9B パラメータのモデルをスムーズに実行できない場合があります。

💻 ソースからビルド

Flutter開発環境がセットアップされていることを確認してください。

開発環境では Flutter 3.41.1+ が必要です(stable channel 推奨)。

  1. リポジトリをクローン:
# 必ず 'dev' ブランチに切り替えてください
git clone -b dev https://github.com/MollySophia/rwkv_mobile_flutter.git
# rwkv_mobile_flutter と RWKV_APP が同じディレクトリにあることを確認してください
git clone -b dev https://github.com/RWKV-APP/RWKV_APP.git
cd RWKV_APP

ディレクトリ構成は次のようになります。

parent/
├─ rwkv_mobile_flutter/
└─ RWKV_APP/
  1. 必要な設定ファイルを作成:
touch assets/filter.txt;touch .env;
  1. 依存関係をインストール:
flutter pub get
  1. (任意)tools ディレクトリの依存関係をインストール:

この手順を実行すると、VS Code や Cursor でアプリを実行した際に「プロジェクトにエラーが存在します」という警告を避けられます。

cd tools; flutter pub get; cd ..;
  1. アプリケーションを実行:
flutter run

Windows ARM64 デバッグ(QNN)

Windows ARM64 でデバッグする場合は、pubspec.yaml の次の設定をアンコメントしてください。

- path: assets/lib/qnn-windows/
  platforms: [windows]

Windows ARM64 でデバッグする場合は、Flutter の stable ブランチではなく master ブランチを使用してください。

🏗️ スタック

  • Flutter: Android、iOS、Windows、macOS をサポートする、クロスプラットフォームのユーザーインターフェースを構築するためのオープンソースフレームワーク。
  • Dart FFI (Foreign Function Interface): Dart と C++ 推論エンジン間の効率的な通信に使用されます。
  • C++ 推論エンジン: デバイス上の推論エンジンのコアで、C++ で構築されており、複数のモデル形式とハードウェアアクセラレーション(CPU/GPU/NPU)をサポートしています。
  • Hugging Face: モデル、データセット、ツールを提供するオープンソースコミュニティ。ここではモデルの重みのソースとして使用されています。

🤝 フィードバックと貢献

これは 実験的な初期段階のバージョン であり、あなたのフィードバックは私たちにとって非常に重要です!

📄 ライセンス

このプロジェクトは Apache License 2.0 の下でライセンスされています。詳細については LICENSE ファイルを参照してください。

🔗 関連リンク