Quantization made by Richard Erkhov.
llama-keyword-generator-zh2zh-120M - GGUF
- Model creator: https://huggingface.co/p208p2002/
- Original model: https://huggingface.co/p208p2002/llama-keyword-generator-zh2zh-120M/
Original model description:
language: - zh inference: false pipeline_tag: text-generation tags: - llama - chinese - keyword-generator
LLaMA based chinese keyword generator
基於高品質中文資料訓練的中文關鍵字產生器。
Base Model: p208p2002/llama-traditional-chinese-120M
使用方式
範例
輸入
國內車市旺,10月單月掛 牌量衝上4萬台佳績,為40,540台,月增9%、年增11%;累計前十個月掛牌量逾39萬台,改寫近18年來新高紀錄,這樣的熱度將旺到年底。</s>
輸出
汽車行業、車市、熱度</s>
OpenLLM
支援OpenLLM部署使用。
$ openllm start opt --model-id p208p2002/llama-keyword-generator-zh2zh-120M
$ openllm query CONTEXT</s>