Writer, leader nell’AI generativa aziendale, ha presentato il suo modello foundation più recente e avanzato, Palmyra X5.
Questo modello di ragionamento adattivo all’avanguardia – sottolinea l’azienda – è dotato di una finestra contestuale di 1 milione di token e di una velocità ed efficienza economica allo stato dell’arte.
Inoltre, Writer e Amazon Web Services (AWS) hanno annunciato insieme la disponibilità di Palmyra X5 in Amazon Bedrock, il servizio completamente gestito che offre agli sviluppatori l’accesso a modelli ad alte prestazioni di aziende leader nel settore dell’AI attraverso un’unica API.
Addestrato con dati sintetici per appena un milione di dollari in GPU, evidenzia Writer, Palmyra X5 offre le capacità di ragionamento dinamico e l’affidabilità di livello enterprise necessarie per scalare la prossima era di agenti in azienda.
Per la prima volta nel settore, Writer ha annunciato di aver fissato a 1 milione di token la dimensione minima della finestra di contesto per tutti i modelli linguistici di grandi dimensioni che rilascerà in futuro, grazie all’innovativo design del transformer del modello e ai meccanismi di attenzione ibridi che secondo l’azienda consentono di raggiungere un’efficienza rivoluzionaria e un’accuratezza di lungo contesto.
Writer sostiene che Palmyra X5 è uno degli LLM a contesto ampio più veloci ed efficienti sul mercato, in grado di sbloccare comportamenti dell’agente che in precedenza erano proibitivi in termini di costi o di tempo. Il modello è in grado di assorbire un intero prompt da un milione di token in ~22 secondi e di restituire singoli turni di chiamata di funzioni in ~.3 secondi. Il tutto, a prezzi convenienti.
L’equilibrio tra prestazioni e convenienza del modello è stato sottolineato dall’ultima valutazione Longbench v2, progettata per valutare la capacità degli LLM di gestire problemi a contesto lungo che richiedono una comprensione e un ragionamento profondi attraverso i multitask del mondo reale. Palmyra X5 dimostra di avere il miglior rapporto prestazioni/costo della categoria, con un sorprendente punteggio medio del 53%.
Il rilascio di Palmyra X5 arriva in concomitanza con il rilascio da parte di Writer di AI HQ, un nuovo hub centralizzato che consente ai team di creare, attivare e supervisionare facilmente agenti di intelligenza artificiale, basati sulla famiglia di modelli Palmyra di Writer. Palmyra X5 realizza la visione di AI HQ consentendo alle aziende di creare e distribuire agenti AI più sofisticati in Writer, grazie a funzionalità quali:
- Capacità di richiamare strumenti in sistemi esterni e di chiamare gli agenti di Writer come strumenti.
- Retrieval augmented generation (RAG) e connettori web integrati.
- Delega dinamica dei modelli per richiamare i modelli specifici del dominio di Writer, tra cui Palmyra Fin, Palmyra Med e Palmyra Creative.
- Possibilità di utilizzare immagini come input.
- Generazione e deployment del codice.
- Funzionalità multilingue in oltre 30 lingue.
- Trasparenza e affidabilità di livello enterprise.
Con Palmyra X5 – afferma Writer –, le aziende ottengono prestazioni superiori per gli agenti multi-fase, come l’estrazione di dati di mercato in tempo reale da una serie di database e sistemi per preparare report dettagliati. Il modello eccelle anche nell’elaborazione di grandi quantità di informazioni, come i rapporti finanziari, l’analisi dei documenti legali, la sintesi delle cartelle cliniche e l’analisi del feedback dei clienti.
Palmyra X5 è disponibile tramite la piattaforma end-to-end di Writer e in Amazon Bedrock. Palmyra X4, il modello di base di Writer di precedente generazione con una finestra di contesto da 128k token, è ora disponibile anch’esso in Amazon Bedrock, mentre altri modelli di Writer saranno presto disponibili.
AWS è il primo cloud provider a fornire modelli di Writer completamente gestiti. L’introduzione dei modelli Palmyra in Amazon Bedrock – dichiara l’azienda – amplia il suo portafoglio di modelli, rafforzando l’impegno di AWS nell’offrire ai clienti una selezione diversificata di modelli AI per i loro casi d’uso. Questa collaborazione consente ai clienti di AWS e Writer di costruire e scalare agenti di AI generativa di livello aziendale senza gestire l’infrastruttura sottostante.
Writer sottolinea che centinaia di aziende, tra cui Accenture, Marriott, Prudential, Qualcomm, Uber, Salesforce e Vanguard, utilizzano i suoi LLM Palmyra per alimentare casi d’uso mission-critical dell’IA. Writer vanta un’esperienza quinquennale di innovazione dei modelli: la sua famiglia di LLM Palmyra di livello enterprise comprende modelli auto-evolutivi, open-source, proprietari e specifici per ogni settore. I modelli Palmyra secondo Writer definiscono standard del settore per la trasparenza e l’affidabilità di livello aziendale, la sicurezza, le prestazioni, l’efficienza e l’osservabilità.
Per saperne di più sulla tecnologia alla base di Palmyra X5 e su come sta trasformando il lavoro in azienda, è possibile consulatre il blog Engineering di Writer. Per saperne di più sui modelli di Writer in Amazon Bedrock, è possibile visitare il sito di AWS.
