Cohere Command A: l’AI che offre le massime prestazioni con il minimo delle risorse

Cohere Command A

Cohere ha presentato Command A, un nuovo modello generativo all’avanguardia ottimizzato per le aziende esigenti che richiedono un’IA veloce, sicura e di alta qualità. Command A – afferma Cohere – offre le massime prestazioni con costi hardware minimi rispetto ai principali modelli proprietari e aperti, come GPT-4o e DeepSeek-V3. Per le implementazioni private, Command A eccelle nelle attività agenziali e multilingue business-critical, pur potendo essere implementato con due sole GPU, rispetto ad altri modelli che in genere ne richiedono fino a 32.

Nella valutazione umana head-to-head tra attività aziendali, STEM e di coding, Command A ha eguagliato o superato i suoi concorrenti più grandi e più lenti, offrendo al contempo un throughput superiore e una maggiore efficienza. Le valutazioni umane sono importanti perché vengono effettuate su dati e situazioni aziendali reali, sottolinea Cohere.

In una serie di benchmark standard, Command A offre prestazioni elevate nei compiti di instruction following, SQL, agentic e tool.

Il team di Cohere – spiega l’azienda – si è focalizzato nello sviluppare Command A nel modo più efficiente possibile, rendendolo anche il più efficiente possibile da servire in produzione. Con un ingombro di soli due A100 o H100, richiede molte meno risorse di calcolo rispetto ad altri modelli analoghi presenti sul mercato. Questo aspetto è particolarmente importante per le implementazioni private.

Cohere Command AI modelli di dimensioni eccessive comportano una scarsa latenza. Quando si vogliono solo risposte corrette in tempi brevi, Command A è la scelta migliore, secondo Cohere. Infatti, Command A può fornire token a una velocità fino a 156 token/sec, che è 1,75 volte superiore a GPT-4o e 2,4 volte superiore a DeepSeek-V3, afferma la società sviluppatrice. Le implementazioni private di Command A possono essere fino al 50% più economiche rispetto all’accesso basato su API.

Inoltre, Cohere ha progettato Command A tenendo conto delle esigenze aziendali. La lunghezza del contesto di 256k (2 volte superiore a quella dei principali modelli) consente di gestire documenti aziendali molto più lunghi. Altre caratteristiche chiave sono la retrieval-augmented generation (RAG) avanzata di Cohere con citazioni verificabili, l’uso di strumenti agenziali, la sicurezza di livello enterprise e le robuste prestazioni multilingue.

Cohere afferma di essere consapevole del fatto che le aziende globali hanno bisogno di capacità in tutte le regioni. Command A offre un supporto esteso di livello enterprise per le 23 lingue parlate dalla maggior parte della popolazione mondiale. Il team ha effettuato un’ampia valutazione umana e ha scoperto che gli utenti hanno preferito nettamente Command A a DeepSeek-V3 per la maggior parte delle lingue in una serie di casi d’uso aziendali, afferma Cohere.

In particolare, sottolinea la società sviluppatrice, Command A è molto migliore di GPT-4o o DeepSeek-V3 nel rispondere costantemente con contenuti nella lingua richiesta, ad esempio rispondendo nel dialetto arabo dell’utente.

Cohere Command AL’intelligenza artificiale – sottolinea Cohere – è buona solo quanto i dati che le vengono forniti. Per questo motivo, Command A fornisce in modo sicuro risposte accurate a domande basate sulle informazioni interne dell’azienda. In pratica, i clienti lo possono utilizzare per compiti quali la ricerca di politiche HR pertinenti in base alla sede dell’ufficio, la revisione delle normative legali e l’analisi di lunghi rapporti finanziari.

La prossima generazione di modelli Cohere secondo l’azienda contribuirà ad alimentare una serie di applicazioni di intelligenza artificiale per i clienti di settori quali la finanza, la sanità, la produzione, l’energia e il settore pubblico. In particolare, si integreranno perfettamente con North, la piattaforma sicura di agenti AI di Cohere, per sbloccare il pieno potenziale dei dati aziendali e delle persone con gli agenti AI. Lo stack tecnologico completamente integrato di Cohere consente ai clienti di personalizzare completamente il prodotto in base alle proprie esigenze aziendali.

North sfrutta in modo sicuro strumenti aziendali come CRM e software ERP, oltre a collegarsi ai database aziendali interni e ai servizi di ricerca web esterni. Questo permette di creare agenti che agiscono per l’utente, dietro i firewall protetti dei propri sistemi aziendali.

Command A è disponibile sulla piattaforma Cohere, per uso di ricerca su Hugging Face e sarà presto disponibile per i principali fornitori di servizi cloud. Chi è interessato a implementazioni private o on-prem, può contattare il team di vendita di Cohere.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato sulle novità tecnologiche

LASCIA UN COMMENTO

Inserisci il tuo commento
Inserisci il tuo nome