Перейти к основному содержимому

Как это работает

У сессии четыре шага: обнаружение, соединение, инференс и расчёт. Ни один шаг не обслуживается GenKaKu Labs.

1. Обнаружение​

Воркер регистрируется в программе, по одному аккаунту на кошелёк (["worker", wallet]), который хранит:

  • peer ID, записанный как байты его мультихеша, — тот же ключ ed25519, что и кошелёк,
  • ставку: micro-USDC за начатую минуту. Это цена самой дорогой модели воркера, потому что один аккаунт должен обслуживать каталог,
  • необязательный локатор: multiaddr, на которые клиент может набрать,
  • флаг active и два счётчика, earned и settlements.

Клиент читает весь каталог одним вызовом getProgramAccounts с фильтром по дискриминатору аккаунта. Нет API каталога, которому нужно доверять, и нет журнала, который нужно воспроизводить: состояние аккаунта — это и есть список.

Локаторы необязательны. Воркер публикует свой адрес, только когда оператор включает publishAddress, и публикация после попадания в блокчейн становится постоянной.

Ставка, записанная в блокчейне, — это потолок. Воркер продаёт несколько моделей по разным ценам, но поле ставки у него одно, поэтому он указывает самую дорогую, и каждая сессия должна быть оценена не выше неё. Собственный сайдкар воркера отклоняет сессию, которая занижает цену модели, ещё до генерации токена.

Приватные воркеры​

Воркер может уйти с рынка, не уходя из программы. В приватном режиме он

  • перестаёт объявляться в seed (множество ответов seed публично, поэтому листинг там опубликовал бы ровно тот peer id, который этот режим и призван скрыть),
  • сохраняет строку в блокчейне активной, но с пустым локатором: open_session отказывает неактивному воркеру, а расчёт всё равно платит на этот счёт,
  • отвечает только кошелькам из своего списка разрешённых. Проверка идёт по connection.remotePeer, аутентифицированному транспортом и переведённому в кошелёк, поэтому разрешённому пользователю не нужен токен, а украденный код бесполезен с другой машины.

Список заполняется одноразовыми кодами сопряжения: воркер создаёт код, пользователь гасит его один раз, и код израсходован. Повтор с того же кошелька идемпотентен; с другого — отклоняется. Отмена сопряжения убирает кошелёк немедленно.

Для всех остальных обнаружение не меняется: список клиента — это публичный каталог плюс seed, и приватный воркер попадает в него только через сопряжение, которое завершил пользователь.

Что показывает клиент​

Плагин пользователя держит собственное представление доски, локальное для профиля:

  • поиск по модели, отображаемому имени воркера и кошельку,
  • сортировка по рекомендованному, цене, измеренной задержке, обслуженным сессиям, имени модели или имени воркера,
  • список отметок из ключей (worker, model), не больше десяти, — ровно то, что предлагает выбор модели в чате. Отметка считается на воркера, поэтому одна и та же модель у двух воркеров — это две строки, и выбор помечает их как worker · model.

При первом открытии панели в профиле отмечаются десять лучших строк по выбранной сортировке, чтобы плагин работал до настройки. После этого список — то, что отметил пользователь, включая пустой.

2. Соединение​

Плагин пользователя открывает соединение libp2p к peer ID воркера. Обмен hello (/genkaku/hello/0) фиксирует:

  • peer ID, который должен кодировать заявленный кошелёк (это проверяется, а не предполагается),
  • подпись над свежим nonce, доказывающую, что процесс владеет этим ключом,
  • цену за час и режим оплаты.

Если два пира могут достучаться друг до друга напрямую — одна локальная сеть, публичный IPv4, глобальный IPv6 — токены идут прямо между ними. Если нет, сессия идёт через публичный seed-релей.

Релей пересылает зашифрованный трафик libp2p. Он не может читать промпты или вывод, но его оператор видит метаданные соединения: адреса пиров, тайминги и объём. Считайте сессию через релей приватной по содержанию, но не по тому, кто с кем говорит.

В этой сборке нет пробивки NAT (DCUtR). Либо пиры доступны для прямого набора, либо сессию несёт релей.

3. Инференс​

Воркер запускает модель локально через Ollama и передаёт токены обратно по тому же соединению. Маркетплейс никогда не видит промпт; оператор воркера видит.

Оффер с нулевой ценой полностью пропускает блокчейн и обслуживается бесплатно.

4. Расчёт​

Платные сессии используют цену за час с накоплением по начатым минутам:

  • воркер объявляет цену за час,
  • клиент переводит её в ставку за минуту, округляя вверх один раз,
  • каждая начатая минута считается за одну минуту,
  • двухминутная задача оплачивает две минуты, а не час.

Для платной модели пользователь депонирует средства в эскроу сессии до первого токена. Это одна транзакция, и по умолчанию она предоплачивает десять минут; неиспользованное возвращается. Когда сессия заканчивается:

  1. клиент отправляет воркеру свою наибольшую накопленную квитанцию — потолок того, что он согласился заплатить;
  2. воркер выставляет счёт за минуты, которые покрывает эта квитанция, и подписывает расчёт сам: его подпись транзакции и есть доказательство того, что он обслуживал сессию;
  3. 99% идут на доступный для вывода баланс воркера, 1% — в казну;
  4. клиент закрывает сессию, что сразу возвращает неиспользованный депозит.

Воркер выводит баланс через claim, которую может отправить кто угодно после того, как с последнего расчёта прошло десять минут. Эта задержка — окно, в котором пользователь ещё может закрыть сессию, поэтому воркер не получит оплату за минуту, которую пользователь собирался отменить.

Таким образом, расчёт стоит пользователю одной транзакции (открытие), а воркеру — одной транзакции (расчёт). Комиссии — доли цента: Solana берёт плату за вычислительные единицы, а не за gas по рыночной цене.

У клиента есть и собственный потолок. Сессия, которую политика расходов не разрешает, отклоняется с HTTP 402 до сборки любой транзакции, поэтому депозит не берётся и кошелёк не подписывает; возврат и закрытие выше происходят только для сессий, которые действительно были оплачены. Поля описаны в разделе Лимиты расходов.

Что заменяет оркестратор​

Старая модельGenKaKu
Сервер назначает задачиПользователь выбирает воркера из аккаунтов программы
Сервер хранит промптыПрямое соединение между пирами
Сервер считает использованиеНакопление по начатым минутам, подписанные квитанции
Сервер выплачиваетЭскроу освобождается в блокчейне

Допущений о доверии меньше, потому что посередине меньше элементов. Но они не нулевые: вы всё ещё доверяете промпт воркеру, метаданные — релею, если сессия идёт через него, и код, который запускаете.