Spectro Cloud, un fornitore leader di software per la gestione di infrastrutture di intelligenza artificiale, oggi ha lanciato PaletteAI Inference Launchpad, una soluzione pronta per l'uso, gestita a ...
Autore: Business Wire
Il nuovo PaletteAI Inference Launchpad è una soluzione pronta per l'uso, gestita a livello locale, che aiuta le aziende a controllare i costi dei token con inferenza principalmente locale, mentre il supporto ampliato di PaletteAI per AMD offre ai clienti una scelta più ampia tra GPU, modelli e stack di infrastrutture AI.
SAN JOSE, Calif.: Spectro Cloud, un fornitore leader di software per la gestione di infrastrutture di intelligenza artificiale, oggi ha lanciato PaletteAI Inference Launchpad, una soluzione pronta per l'uso, gestita a livello locale, progettata per aiutare le aziende a ridurre i costi dei token fino al 70% ed eseguire l'interferenza AI più vicino ai propri dati, applicazioni e utenti.
L'azienda ha inoltre annunciato l'ampliamento del supporto di PaletteAI per l'infrastruttura AI basata su AMD, compresi GPU AMD, AMD GPU Operator, il runtime ROCm™ e lo stack di riferimento per l'AI aziendale AMD, tra cui i modelli ottimizzati per AMD dal catalogo AMD Inference Microservices (AIMs).
Fonte: Business Wire