Progetto personale2026in corso
Hermit Survival AI
Assistente AI totalmente offline per scenari senza rete. Manuali tecnici e survival sempre in tasca.
SoloPrototipo RAG offlineTarget
Offline totale
Piattaforme
Linux ✦ Android
Contesto
Un esperimento per vedere quanto lontano si può andare con l'AI locale. Un assistente che non ha bisogno di internet per interrogare manuali tecnici e informazione critica.
Cosa ho fatto
- Pipeline RAG ottimizzata per girare su hardware locale
- Integrazione con i file ZIM di Kiwix come base di conoscenza
- Prototipazione su Fedora Linux e preparazione per Android (Termux)
Stack
Modelli GGUF quantizzati su llama.cpp, Python per l'estrazione del contesto dai database statici.
Cosa ho imparato
Progettare per scenari offline significa ripensare tutto il tooling moderno che diamo per scontato. Una bella sfida di efficienza e risorse limitate.