utilizzare il modello su LoLLMS

#1
by cashinvoice - opened

Ciao, è possibile utilizzare questo modello con [LoLLMS] (https://github.com/ParisNeo/lollms-webui)?
Sono nuovo nel campo, e sto cercando di capire come far funzionare tutto. LoLLMS mi sembra ottimo, visto che mi permette di selezionare diversi modelli e (in parte almeno) configurarli, tutto in un unico posto. Ma in realtà sto riuscendo a far funzionare ben poco, oltre Ollama e llama-2

SWAP Research Group@UNIBA org

Ciao, sinceramente non conosco questa libreria. Internamente, però, siamo riusciti a lanciare un'interfaccia basata su Gradio ( https://www.gradio.app/ ) senza grossi problemi. Abbiamo usato questa libreria: https://github.com/oobabooga/text-generation-webui

Sign up or log in to comment