Projet

ChattyPatty

Calcul décentralisé Inférence LLM En labo Mis à jour

Projet par .

Visiter ChattyPatty Projets

Marché de calcul décentralisé pour l’inférence LLM avec trust plane Sonic-first. L’architecture combine une passerelle compatible OpenAI, un scheduler pour l’assignation des leases et la vérification des reçus, et des nœuds fournisseurs publiant heartbeat et attestations.

Trois services, des responsabilités distinctes
Passerelle
Normaliser et mesurer
Ordonnanceur
Attribuer les baux et vérifier les reçus
Fournisseur
Exécuter l’inférence et publier les attestations

Les engagements cryptographiques des reçus lient demande, résultat et mesure. Les contrats Sonic gèrent le séquestre, la contestation et le règlement.

Sur cette page

Ce que cela résout

Cadre technique

Contrainte
Des fournisseurs indépendants ne peuvent pas faire autorité sur leur propre capacité, leur comptage de jetons ou l’achèvement d’un travail payé.
Frontière
La passerelle normalise et mesure ; l’ordonnanceur choisit fournisseurs et baux ; le runtime exécute ; les contrats Sonic régissent séquestre, contestation et règlement.
Vérification
Les engagements canoniques lient requête, réponse, modèle, runtime, tokenizer et mesure. Un job ne peut se terminer sans reçu préalablement engagé.

Notes de programmation

État actuel

En labo : protocole et spécifications sont figés, interfaces de contrats et schémas canoniques sont en place, et les services gateway/scheduler/provider sont scaffoldés et testables.