Mexxi l-aġenti fuq mudelli ta' fruntiera ġestiti llum—jew tikri l-kapaċità tal-GPU, uża l-piżijiet tiegħek stess, u rrotta l-kompiti Digio lejn endpoints privati fl-istess spazju tax-xogħol.
Assenja mudell default għal kull aġent jew override għal kull kompitu. L-użu jitkejjel f'Digio Tokens mill-bilanċ tal-pjan tiegħek—l-istess kartiera kemm jekk l-aġent isejjaħ lil Sonnet, GPT-4o, jew Gemini Flash.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
Il-Koordinatur jista 'jirrakkomanda Sonnet vs Opus vs mudell flash irħas ibbażat fuq it-tip ta' kompitu. Utenti setgħana jistabbilixxu defaults għal kull rwol ta 'aġent—riċerka fuq Sonnet, reviżjoni finali fuq Opus, tikkettar bl-ingrossa fuq Haiku jew Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Għandek bżonn aġġustament fin, punt ta 'kontroll b'arja vojta, jew prezzijiet ta' inferenza prevedibbli? Żid il-kapaċità tal-GPU ddedikata mal-ispazju tax-xogħol Digio tiegħek, installa l-munzell li jservi li tippreferi, u poġġi l-aġenti fil-punt tat-tmiem privat tiegħek.
GPU kull siegħa jew kull xahar (klassi A100, H100, L40S) imwaħħla mal-kerrej tiegħek—iżolati minn klijenti oħra.
Ittella safetensors, GGUF, jew iġbed mir-reġistru tiegħek; run Llama, Mistral, Qwen, u custom fine-tunes.
vLLM, TGI, Ollama, jew immaġini tal-kontenitur li żżomm—aġenti Digio jsejħu URL bażi kompatibbli mal-OpenAI.
Biex tagħmel, it-chat tat-tim, il-ħiliet, u l-kollaborazzjoni mhux mibdula—il-backend tal-inferenza biss huwa tiegħek.
Ibgħat passi sensittivi lil GPU privata u uża Claude jew GPT għal riċerka pubblika fi fluss tax-xogħol wieħed.
Peering tal-VPC, ħruġ statiku, reġistri tal-awditjar, u listi ta' permessi tal-mudelli għal timijiet regolati.
Setup tipiku minn żero għal aġenti li jċemplu l-endpoint tiegħek:
Agħżel VRAM, reġjun, u uptime (fqigħ vs dejjem mixgħul). Ħażna għall-piżijiet vapuri bl-istanza jew muntatura barmil tiegħek.
Ibda immaġni li sservi jew SSH, installa sewwieqa CUDA, u tagħbija punti ta 'kontroll. Il-kontrolli tas-saħħa jikkonfermaw li l-mudell huwa lest.
Żid URL bażi, ċavetta API, u id tal-mudell fis-settings tal-ispazju tax-xogħol. Digio jivvalida l-latency u l-format tat-token qabel ma jibda jgħix.
Agħżel il-mudell privat tiegħek bħala default għall-aġenti magħżula; mudelli Claude/GPT ġestiti jibqgħu disponibbli ħdejn xulxin.
Il-kiri tal-GPU jiġi ffatturat separatament mill-abbonamenti tal-pjan Digio. Ikkuntattjana għall-ippjanar tal-kapaċità, SLAs, u migrazzjoni minn cluster ta' inferenza eżistenti.
Għażla ta' APIs ġestiti vs inferenza self-hosted fuq Digio.
L-abbonament tiegħek Digio jkopri l-infrastruttura, l-aġenti, u jinkludi Digio Tokens. Debiti ta 'użu ta' mudell immaniġġjat li token jibbilanċjaw minn tokens ta 'input/output attwali. Il-kiri tal-GPU huwa add-on għall-magni li tikkontrolla.
Iva—kull aġent jista' jkollu l-inadempjenza tiegħu. Il-kompiti u ċ-chats jistgħu jissuperaw għal ġirja waħda mingħajr ma jinbidlu l-inadempjenza globali.
Opus huwa sintonizzat għal raġunament aktar iebes u pjanijiet koerenti itwal; Is-sonnet huwa aktar mgħaġġel u orħos għal loops tal-aġent ta 'kuljum. Haiku u mudelli ta 'klassi flash huma l-aħjar għas-subtasks tal-volum.
L-ispazji tax-xogħol tal-intrapriżi jistgħu jirrestrinġu l-fornituri tal-mudelli 'l barra u jindirizzaw it-traffiku kollu tal-aġenti lejn l-endpoint tal-GPU tiegħek. Il-modalità ibrida hija d-default għal ħafna timijiet.
L-offerti jiddependu fuq ir-reġjun u d-domanda—komunement saffi VRAM ta '24–80 GB għal mudelli ta' klassi 7B–70B u nodi multi-GPU għal munzelli akbar. Aħna ngħinu d-daqs VRAM mill-għadd tal-parametri u l-kwantizzazzjoni tiegħek.
L-orkestrazzjoni (aġenti, kompiti, ħażna) tibqa' fuq il-pjan tiegħek. L-inferenza fuq il-GPU tiegħek hija ċċarġjata bħala ħin tal-GPU; tista' b'għażla tkejjel l-użu f'forma ta' token għal chargeback intern.
Aġenti, kompiti, u ħiliet—l-ispazju tax-xogħol madwar il-mudell li tagħżel.
Ibda fuq Claude u GPT illum, imbagħad żid GPU dedikat meta tkun lest biex tospita piżijiet personalizzati—l-istess aġenti, l-istess kompiti, l-inferenza tiegħek.
