Anthropic ha lanciato Citations, una nuova funzione della sua API che consente a Claude di fondare le sue risposte sui documenti di partenza. Claude è ora in grado di fornire riferimenti dettagliati alle frasi e ai passaggi esatti che utilizza per generare le risposte, ottenendo risultati più verificabili e affidabili.
Citations serve per aumentare la fiducia tramite la verifica ed è ora generalmente disponibile sull’API Anthropic e su Vertex AI di Google Cloud.
Tutti i modelli Claude – sottolinea Anthropic – sono addestrati per essere affidabili e guidabili per progettazione. Citations si basa su queste fondamenta, rispondendo a un’esigenza specifica delle applicazioni AI: la verifica delle fonti dietro le risposte generate dall’intelligenza artificiale.
In precedenza, gli sviluppatori si affidavano a richieste complesse che istruivano Claude a includere le informazioni sulla fonte, con il risultato di prestazioni spesso incoerenti e un notevole investimento di tempo nella progettazione e nel collaudo delle richieste. Con Citations, gli utenti possono ora aggiungere documenti di origine alla finestra di contesto e, quando interrogano il modello, Claude cita automaticamente le affermazioni desunte da tali fonti.
Le valutazioni interne di Anthropic, afferma il team, dimostrano che le funzionalità di citazione integrate di Claude superano la maggior parte delle implementazioni custom, aumentando l’accuratezza del recall fino al 15%.
Con Citations, gli sviluppatori possono creare soluzioni di intelligenza artificiale che offrono una maggiore accountability in casi d’uso quali:
- Riassunto di documenti: Generazione di riassunti concisi di documenti lunghi, come i dossier, con ogni punto chiave collegato alla fonte originale.
- Q&A complesse: Fornire risposte dettagliate alle domande degli utenti su un ampio corpus di documenti, come i bilanci, con ogni elemento di risposta riconducibile a sezioni specifiche dei testi pertinenti.
- Assistenza clienti: Creare sistemi di assistenza in grado di rispondere a domande complesse facendo riferimento a più manuali di prodotto, FAQ e ticket di assistenza, citando sempre la fonte esatta delle informazioni.
Quando Citations è abilitato, l’API elabora i documenti di partenza forniti dall’utente (documenti PDF e file di testo) suddividendoli in frasi. Queste frasi, insieme al contesto fornito dall’utente, vengono poi passate al modello con la query dell’utente. In alternativa, gli utenti possono fornire i propri chunk per i documenti di origine.
Claude analizza la domanda e genera una risposta che include citazioni precise basate sui chunk forniti e il contesto per qualsiasi affermazione derivata dal materiale di partenza. Il testo citato farà riferimento ai documenti di partenza per ridurre al minimo le allucinazioni.
Questo approccio – sottolinea Anthropic – offre una flessibilità e una facilità d’uso superiori, poiché non richiede l’archiviazione di file e si integra perfettamente con l’API Messages.
Per quanto riguarda il costo, Anthropic spiega che Citations utilizza il modello di pricing standard dell’azienda basato sui token. Sebbene possa utilizzare token di input aggiuntivi per elaborare i documenti, gli utenti non pagheranno per i token di output che restituiscono il testo citato stesso, sottolinea Anthropic.
Citations è ora disponibile per i nuovi Claude 3.5 Sonnet e Claude 3.5 Haiku. Per iniziare a usare Citations, è possibile consultare la documentazione di Anthropic.
