RAG a richiesta

Non archiviare tutto.
Recupera quando serve.

La maggior parte dei sistemi RAG immagazzina i documenti a priori e paga costi di storage + ri-embedding indipendentemente dal fatto che qualcuno chieda di loro. Eldric è diverso: la piattaforma prova prima i pesi appresi, poi la memoria associativa, poi la tua base di conoscenza, poi le fonti esterne live — e ingerisce solo il materiale che la piattaforma trova effettivamente utile, quando lo trova utile. Il risultato è uno strato di conoscenza che cresce sul segnale, non sull'accumulo.


La cascata

Quattro livelli, dal più piccolo per primo.

Su ogni query, la piattaforma percorre quattro livelli in ordine, fermandosi non appena ha una risposta affidabile:

  1. Pesi appresi ENRN — un piccolo classificatore neurale che ha interiorizzato i pattern del tuo cluster. Sotto il millisecondo. Se la query corrisponde a un intento ben noto, il classificatore risponde direttamente senza retrieval.
  2. Memoria associativa EMM — lo strato compresso e generalizzante (in stile Modern Hopfield). Custodisce i pattern che la piattaforma ha imparato nel tempo. Retrieval con latenza al microsecondo su CPU. Buona per query in cui le parole esatte differiscono ma il significato è uno che la piattaforma ha già visto.
  3. La tua base di conoscenza (RAG) — retrieval esatto sui tuoi documenti indicizzati. Restituisce i passaggi specifici, con citazioni. Buona per query in cui la risposta è "cosa dice davvero il mio documento".
  4. Fonti esterne live — quando nessuna delle precedenti è sufficiente, la piattaforma interroga in tempo reale le fonti esterne configurate (registro delle fonti scientifiche, ricerca web, API di vendor) e sintetizza una risposta con provenienza. Si attiva solo quando serve.

Ogni livello porta un segnale di confidenza; la piattaforma sale al livello successivo solo quando quello corrente non è abbastanza sicuro. Risparmia cicli, risparmia denaro su API esterne a pagamento, preserva il budget di latenza.


Il loop di ritenzione

Cerca → accetta → ingerisci → arricchisci → sogna → addestra.

La cascata è il percorso di lettura. Il loop di ritenzione è cosa succede dopo — ed è ciò che fa diventare Eldric più intelligente con l'uso invece che più pesante con l'uso.

Il flusso:

  1. Cerca. Fai una domanda; la cascata si attiva; ricevi una risposta con citazioni.
  2. Accetta. Sotto la risposta c'è un footer pollice-su / pollice-giù. Cliccare una citazione conta come accettazione implicita.
  3. Ingerisci. All'accettazione, la piattaforma ingerisce automaticamente le fonti citate nella base di conoscenza appropriata. Nuovi documenti da fonti esterne live atterrano nel tuo strato RAG; la query successiva sullo stesso argomento non ha bisogno del round-trip live.
  4. Arricchisci. I documenti ingeriti passano attraverso la pipeline di chunking content-aware (secondo le strategie di chunking) e ottengono metadati automatici — autori, DOI, tag tematici, riferimenti incrociati, link a entità.
  5. Sogna. Al ciclo di sogno successivo, la piattaforma estrae temi dalle sessioni accettate e li scrive nella matrix memory. I pattern che la piattaforma vede spesso diventano pattern a lookup veloce.
  6. Addestra. I pattern caldi diventano candidati per il prossimo corpus di training ENRN. Le query che prima colpivano il tier 3 (RAG) iniziano a colpire direttamente il tier 1 (pesi appresi) — il tempo di risposta della piattaforma scende nel tempo senza sacrificare l'accuratezza.

L'intero loop è opt-out per tenant; gli amministratori possono operare con il loop di ritenzione disattivato se vogliono uno strato RAG statico. Di default è attivo, perché quella è la via verso uno strato di conoscenza che migliora con il traffico invece di stagnare.


Cosa vede l'utente

Pollice su. Pollice giù. Tutta qui l'interfaccia.

Il loop di ritenzione gira dietro le quinte. Dalla prospettiva dell'utente, l'unica superficie nuova è il piccolo footer sotto ogni risposta dell'assistente — un pulsante 👍, un pulsante 👎 e un link "vedi fonti" che espande le citazioni inline. Cliccare 👍 (o espandere una citazione, che conta come accettazione soft) avvia l'ingestione. Cliccare 👎 marca la risposta come di bassa qualità; le citazioni non vengono auto-ingerite, il ciclo di sogno le pesa meno, e la piattaforma prova fonti diverse la prossima volta che lo stesso argomento si presenta.

L'utente non vede mai la cascata scegliere i livelli; non deve sapere se la sua risposta è arrivata dai pesi appresi o da OpenAlex live. La risposta arriva con citazioni; il loop gira sullo sfondo.


Cosa cambia operativamente

Meno storage, più veloce nel tempo, meno costi.

Meno storage. Un RAG tradizionale a pre-warehouse ingerisce ogni fonte a cui l'operatore riesce a pensare e spera che le rilevanti siano lì dentro. Eldric ingerisce solo le fonti che qualcuno accetta effettivamente — quindi la base di conoscenza resta della dimensione di ciò che la piattaforma usa realmente.

Più veloce nel tempo. Le query che prima richiedevano il tier 3 (ricerca vettoriale) si spostano al tier 2 (memoria compressa) e poi al tier 1 (pesi appresi) man mano che la piattaforma interiorizza i pattern. La latenza scende senza alcun tuning.

API esterne a pagamento meno spesso. Se la risposta a una domanda è nei tuoi documenti o già nei pesi appresi della piattaforma, l'escalation al tier 4 non si attiva mai. Le bollette per embedding o retrieval API a pagamento calano in proporzione.

Il compromesso è onesto: un'installazione nuova di zecca risponde molto al tier 3 / tier 4, perché niente è ancora nei pesi appresi della piattaforma. Dopo qualche settimana di query accettate, tier 1 / tier 2 porta una quota crescente. La piattaforma ripaga il pedaggio del cold-start nel tempo, non tutto in una volta.


Andare oltre

Avanti.

La guida pratica lato cliente per il lato RAG: usare RAG. La vista tecnica di come la cascata è cablata tra i worker: come funziona. Lo strato di chunking che determina la qualità degli hit RAG: strategie di chunking. Per i clienti che vogliono insegnare a Eldric le proprie classi di intento (così il tier 1 copre più rapidamente query specifiche del dominio): classificazione personalizzata.