Eldric è una piattaforma IA completa e self-hosted: serve molti modelli a molti utenti, mette davanti i backend che già esegui ed espone agenti, retrieval, routing, media e controllo dei dispositivi attraverso un'unica API — il tutto su hardware di tua proprietà. Ecco cosa significa nella pratica.
Installa Eldric come pacchetto unico firmato e gira sul tuo hardware — on-premise, nel tuo datacenter o completamente air-gapped, senza alcuna chiamata in uscita. La stessa piattaforma scala da una singola macchina a un cluster multi-nodo; aggiungi nodi, non abbonamenti cloud. I tuoi dati e i tuoi modelli non lasciano mai la tua rete.
Eldric esegue più modelli in parallelo da un'unica installazione e indirizza ogni utente o richiesta al modello che deve gestirla. Sulle macchine multi-GPU posiziona i modelli al posto tuo: un modello per scheda, un modello di grandi dimensioni distribuito su più schede, oppure molti modelli piccoli impacchettati insieme.
Eldric parla l'API compatibile con OpenAI, quindi il client lo scegli tu. Usa la chat web integrata, oppure punta OpenWebUI, la tua applicazione, un SDK o un client MCP allo stesso endpoint. Eldric è il motore; tu porti il front end che preferisci.
Eldric può servire i modelli nativamente sul tuo hardware, oppure porsi davanti all'inferenza che già esegui — Ollama, vLLM o un'API cloud — e presentarli tutti attraverso un'unica API unificata. Migra in modo graduale, combina locale e cloud e offri ai tuoi client un unico endpoint, indipendentemente da cosa c'è dietro.
Oltre a servire i modelli, Eldric porta i tasselli che servono a un deployment reale, ciascuno raggiungibile dalla stessa API: orchestrazione multi-agente, retrieval sulle tue basi di conoscenza, routing intelligente, swarm di agenti, accesso a dati scientifici, elaborazione di voce e media e connettività con dispositivi industriali e IoT. Una sola piattaforma da gestire, una sola superficie da integrare.
Non sei limitato ai pesi preconfezionati. Porta i tuoi dati e fai fine-tuning con i metodi integrati — LoRA, QLoRA, DPO, distillazione e addestramento federato che mantiene locali i dati di ciascun sito. Oppure salta del tutto l'addestramento e limitati a servire i modelli che forniamo noi. La distillazione della conoscenza può perfino comprimere il sapere di un modello più grande in un file compatto che gira su CPU.
Eldric si installa come pacchetto unico firmato tramite il tuo normale gestore di pacchetti — niente dependency hell, niente proliferazione di servizi da collegare a mano. Gli aggiornamenti sono atomici e la configurazione vive nella GUI di amministrazione, non in file di configurazione sparsi.
Installa il pacchetto pre-compilato — dnf install eldric-aios su RHEL / Fedora, oppure scarica l'installer per macOS — e apri la chat. La prima registrazione diventa amministratore.
Inizia Casi d'uso · Confronta Eldric · Come OS per datacenter