Hermit Survival AI
Assistente AI offline che interroga file ZIM di Kiwix (manuali survival, ricette, articoli) senza nessuna connessione di rete.
Solo · Prototipo RAG offline
Contesto
Un assistente che funzioni davvero senza rete, pensato per scenari low-connectivity: acqua potabile, conservazione cibi, pronto soccorso, riparazioni di base. L'idea è trasformare i file ZIM di Kiwix (librerie survival, manuali tecnici, ricette) in una base di conoscenza interrogabile in linguaggio naturale, da un modello AI che gira in locale.
Cosa ho fatto
- Pipeline RAG che estrae i passaggi rilevanti dai file ZIM e li passa al modello come contesto
- Integrazione tra modelli quantizzati GGUF (llama.cpp) e contenuti statici Kiwix
- Ambiente replicabile su Fedora desktop e in futuro su Android con LineageOS + root via Termux
- Query in linguaggio naturale, risposte sintetiche in italiano
Stack
Python per orchestrazione e retrieval, file ZIM di Kiwix come knowledge base, modelli GGUF quantizzati (es. TinyLlama) con llama.cpp come engine, Fedora Linux su laptop e LineageOS + Termux sul telefono.
Cosa ho imparato
Costruire un sistema RAG davvero offline significa ripensare il tooling 'da desktop' per ambienti ibridi con risorse limitate. E progettare non solo per le feature, ma per cosa succede quando la rete non c'è.