メインコンテンツまでスキップ

仕組み

セッションには 4 つの段階があります。発見、接続、推論、決済です。どの段階も GenKaKu Labs が運用しているわけではありません。

1. 発見​

ワーカーはプログラムに、ウォレットごとに 1 つのアカウント(["worker", wallet])で登録し、次を保持します。

  • peer ID — マルチハッシュのバイト列として保存され、ウォレットと同じ ed25519 鍵、
  • レート — 開始済みの分あたりの micro-USDC。1 つのアカウントでカタログ全体を提供する必要があるため、これはワーカーの最も高価なモデルの価格です。
  • 任意の ロケーター — クライアントがダイヤルできる multiaddr、
  • active フラグと 2 つのカウンター、earned と settlements。

クライアントは、アカウントのディスクリミネーターで絞り込んだ 1 回の getProgramAccounts 呼び出しでディレクトリ全体を読みます。信頼すべきディレクトリ API も、再生すべきログもありません。アカウントの状態がそのまま一覧です。

ロケーターは任意です。ワーカーは運営者が publishAddress をオンにしたときだけアドレスを公開し、公開は一度オンチェーンに載ると永続します。

オンチェーンに書かれたレートは上限です。ワーカーは異なる価格で複数のモデルを売りますが、レートのフィールドは 1 つしかないため、最も高いものを掲載し、すべてのセッションはそれ以下か同額で価格付けされる必要があります。ワーカー自身のサイドカーは、モデルの提示価格を下回るセッションを、トークンを生成する前に拒否します。

非公開ワーカー​

ワーカーはプログラムから離れずに市場から離れられます。非公開モードでは、

  • シードへの告知を止めます(シードの回答集合は公開なので、そこに載せることはこのモードが隠そうとしている peer id を公開することになります)。
  • チェーンの行は active のままロケーターを空にします。open_session は inactive なワーカーを拒否し、精算はそのアカウントに支払うためです。
  • 許可リストにあるウォレットだけに応答します。判定はトランスポートが認証した connection.remotePeer をウォレットに変換して行うため、許可された利用者にトークンは不要で、盗んだコードを別のマシンで使っても無効です。

許可リストは1 回限りのペアリングコードで埋めます。ワーカーが発行し、利用者が 1 回引き換えるとコードは消費されます。同じウォレットからの再試行は冪等で、別のウォレットからは拒否されます。ペアリング解除は即座に反映されます。

他の利用者にとって発見は変わりません。クライアントの一覧は公開ディレクトリとシードで、非公開ワーカーは利用者が完了したペアリングを通じてのみそこに入ります。

クライアントが表示するもの​

利用者プラグインは盤面のビューをプロファイル内に持ちます。

  • モデル・ワーカーの表示名・ウォレットを横断する検索、
  • おすすめ・価格・実測レイテンシ・提供セッション数・モデル名・ワーカー名による並べ替え、
  • (worker, model) キーのチェック一覧。最大 10 件で、チャットのモデルピッカーが提供するものと一致します。チェックはワーカー単位なので、2 人のワーカーの同じモデルは 2 行になり、ピッカーは worker · model と表示します。

プロファイルが初めてパネルを開くと、選んだ並び順で上位 10 行が自動でチェックされ、設定前でも使えます。その後は利用者がチェックしたとおり(空も含む)になります。

2. 接続​

利用者プラグインはワーカーの peer ID へ libp2p 接続を開きます。hello 交換(/genkaku/hello/0)は次を固定します。

  • peer ID。主張するウォレットをエンコードしていなければならず、これは仮定ではなく検査されます。
  • 新しい nonce に対する署名。そのプロセスが鍵を保持していることを証明します。
  • 時間単価と課金モード。

2 つのピアが直接到達できる場合 — 同じ LAN、グローバル IPv4、グローバル IPv6 — トークンは両者の間を直接流れます。できない場合は、公開シードリレーを経由してセッションが動きます。

リレーが転送するのは暗号化された libp2p トラフィックです。プロンプトや出力は読めませんが、その運営者は接続メタデータ — ピアのアドレス、タイミング、量 — を見られます。リレー経由のセッションは、内容は非公開だが「誰が誰と話しているか」は非公開ではない、と考えてください。

このビルドには NAT ホールパンチング(DCUtR)がありません。ピアが直接ダイヤル可能であるか、リレーがセッションを運ぶかのどちらかです。

3. 推論​

ワーカーは Ollama でモデルをローカルに動かし、同じ接続でトークンをストリームで返します。マーケットプレイスがプロンプトを見ることはありません。ワーカーの運営者は見ます。

価格ゼロのオファーはチェーンを完全に飛ばし、無料で提供されます。

4. 決済​

有料セッションは時間単価と開始済みの分の積み上げを使います。

  • ワーカーが 1 時間あたりの価格を提示し、
  • クライアントがそれを分あたりのレートに変換し、切り上げは 1 回だけ行い、
  • 開始済みの分はそれぞれ 1 分として数え、
  • 2 分のジョブは 1 時間ではなく 2 分分を支払います。

有料モデルでは、利用者は最初のトークンの前にセッションのエスクローへ入金します。それは 1 つの取引で、既定では 10 分分を前払いし、使われなかった分は戻ります。セッションが終わると:

  1. クライアントは最大の累積レシートをワーカーに送ります。それが支払いに同意した上限です。
  2. ワーカーはそのレシートが対象とする分を請求し、決済自体に署名します。その取引署名が、サービスを提供した証明です。
  3. 99% がワーカーの引き出し可能残高へ、1% が財務へ入ります。
  4. クライアントがセッションを閉じ、未使用のデポジットが即座に戻ります。

ワーカーは claim で残高を引き出します。最後の決済から 10 分が経過すれば、誰でも送信できます。この遅延は利用者がまだセッションを閉じられる窓であり、利用者がまさに取り消そうとしていた 1 分に対してワーカーが支払われることはありません。

したがって決済は、利用者にとって 1 つの取引(オープン)、ワーカーにとっても 1 つの取引(決済)で済みます。手数料は 1 セントの何分の一かです。Solana は市場価格の gas ではなく、コンピュートユニットに対して課金します。

クライアント側にも独自の上限があります。支出ポリシーが許さないセッションは、取引を組み立てる 前に HTTP 402 で拒否されるため、デポジットは取られずウォレットも署名しません。上の返金と クローズは、実際に支払われたセッションでのみ起こります。項目は 支出上限を参照してください。

オーケストレーターを置き換えるもの​

旧モデルGenKaKu
サーバーがジョブを割り当てる利用者がプログラムのアカウントからワーカーを選ぶ
サーバーがプロンプトを保存する直接のピア接続
サーバーが利用量を計測する開始済みの分の積み上げと署名済みレシート
サーバーが支払うオンチェーンで解放されるエスクロー

間に挟まるものが少ないため、信頼の前提は小さくなります。ただしゼロではありません。プロンプトについてはワーカーを、セッションがリレー経由ならメタデータについてはリレーを、そして自分が動かすコードを、依然として信頼します。