Fugu Max est disponible sur EmpirioLabs. Fugu n’est pas un modèle unique. C’est un conducteur: un appel API diffuse la requête à travers un pool de modèles experts et compose leur travail en une seule réponse. Fugu Max est le membre économique de cette famille, s’appuyant sur le plus large pool que Sakana ait assemblé, incluant des modèles ouverts et spécialisés, et constituant une équipe de taille adaptée à chaque tâche au lieu de toujours choisir l’option la plus coûteuse.
Ce que prend en compte Fugu Max
Fugu Max prend en charge la saisie de texte et d’images avec une fenêtre de contexte de jeton 1M. Il supporte l’appel de fonctions, la sortie structurée strictement JSON Schema, et la recherche web intégrée avec récupération de pages. Le raisonnement est toujours activé.
La sortie est plafonnée à 131 072 jetons par requête. L’entrée d’images est acceptée via les parties de contenu compatibles OpenAI habituelles, et EmpirioLabs gère la gestion de l’upload pour vous.
Comment appeler Fugu Max
Utilisez le point de terminaison de complétions de chat compatible OpenAI et définissez modèle à fugu-max:
curl https://api.empiriolabs.ai/v1/chat/completions \ -H 'Autorisation: Porteur $EMPIRIOLABS_API_KEY' \ -H 'Type-de-contenu: application/json' \ -d '{ « modèle »: « fugu-max », « messages »: [ { « rôle »: « utilisateur », « contenu »: « Comparez trois approches pour limiter le débit d’une API publique, et recommandez-en une pour un service à 5000 req/s. » } ] }'Le même modèle est disponible via les points de terminaison de génération de contenu compatibles Responses, Messages et Google. Passer d’un autre modèle Fugu est un changement en une ligne, puisque le contrat de requête et de réponse est identique.
Recherche web et sortie structurée
Jeu tool_web_search à Vrai quand une réponse nécessite des informations actuelles. Le modèle effectue ses propres recherches et recherche des pages, cite les sources lorsqu’il en a une, et rapporte exactement ce qu’il a utilisé dans usage.tool_usage, par exemple {"web_search »: 3, « web_extractor »: 1}. Ces décomptes sont facturables et déjà inclus dans le coût déclaré.
Pour une sortie lisible par machine, passez un schéma JSON strict dans response_format. Fugu Max restitue exactement du JSON conforme, donc vous pouvez analyser le résultat sans étape de réparation.
Trois choses que les appelants se trompent
1. Le nombre de jetons est plus important que votre demande. Parce que le conducteur fonctionne en s’étalant vers d’autres modèles, l’orchestration qu’il effectue est une utilisation réelle des jetons et est annoncée comme des jetons d’entrée et de sortie ordinaires. Une invite d’une phrase avec la recherche web activée peut rapporter des dizaines de milliers de jetons d’entrée. C’est attendu, ce n’est pas un bug, et c’est pourquoi les données retournées Utilisation Block est le chiffre sur lequel budgétiser plutôt que la longueur de votre propre message.
2. Le streaming n’arrive pas jeton par jeton. Stream: Vrai est accepté et utile pour maintenir les longues requêtes en vie, mais le chef d’orchestre met en mémoire tampon toute l’orchestration et fournit le raisonnement ainsi que la réponse en une seule rafale à la fin. Si votre interface affiche un effet de frappe, attendez-vous à ce qu’il reste inactif puis remplisse en même temps.
3. Il n’existe que trois niveaux de raisonnement. raisonnement effort accepte haut, xhigh, et max, et rien d’autre. Envoi Low, Médium, ou aucune Retour à 400. Sur Fugu Max, max est accepté comme un alias de xhigh. Le raisonnement ne peut pas être désactivé. Par ailleurs, max_tokens doit être au moins 16, et de petites valeurs peuvent tronquer ou vider la réponse car le conducteur a besoin de place pour fonctionner.
Prix
Fugu Max est un système de paiement à l’usage sans abonnement, et c’est le seul modèle Fugu avec un seul taux de token fixe à chaque longueur de contexte, donc une longue invite ne vous fait jamais passer à un niveau supérieur. La recherche web intégrée et la récupération de pages sont facturées par appel exécuté en plus des jetons, et une seule requête peut en exécuter plusieurs. Les taux actuels pour les entrées, sorties, entrées mises en cache et les outils web par appel sont disponibles sur le Page modèle Fugu Max et les page de prix, qui affichent toujours le catalogue en direct.
Essaie
Lancez une invite dans le aire de jeux, ou lire la référence complète des paramètres dans le Docs API.
