Rijgersberg commited on
Commit
5fa70db
β€’
1 Parent(s): 2213339

Upgrade to chat-v2

Browse files
Files changed (1) hide show
  1. app.py +5 -4
app.py CHANGED
@@ -14,7 +14,7 @@ DEFAULT_MAX_NEW_TOKENS = 1024
14
  MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "8192"))
15
 
16
  if torch.cuda.is_available():
17
- model_id = "Rijgersberg/GEITje-7B-chat"
18
  model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16, device_map="auto")
19
  tokenizer = AutoTokenizer.from_pretrained(model_id)
20
 
@@ -106,9 +106,10 @@ chat_interface = gr.ChatInterface(
106
  ),
107
  ],
108
  examples=[
109
- ["""Welk woord hoort er niet in dit rijtje thuis: "auto, vliegtuig, geit, bus"?"""],
110
  ["Schrijf een nieuwsbericht voor De Speld over de inzet van een kudde geiten door het Nederlands Forensisch Instituut"],
111
  ["Wat zijn 3 leuke dingen om te doen als ik een weekendje naar Friesland ga?"],
 
112
  ["Kan je naar de maan fietsen?"],
113
  ["Wat is het belang van open source taalmodellen?"],
114
  ["""```
@@ -132,8 +133,8 @@ Twee van de wortelbedrijven werkten mee door meer informatie over de ongeoorloof
132
  ```
133
  Vat bovenstaand artikel samen"""]
134
  ],
135
- title="🐐 GEITje-7B-chat 🐐",
136
- description="""Een eerste chatbot op basis van GEITje 7B: een groot open Nederlands taalmodel. Gemaakt voor demonstratiedoeleinden.
137
 
138
  Generatieve taalmodellen maken fouten, controleer daarom feiten voordat je ze overneemt. GEITje-chat is niet uitgebreid getraind om _gealigned_ te zijn met menselijke waarden. Het is daarom mogelijk dat het problematische output genereert, zeker als het daartoe _geprompt_ wordt.
139
 
 
14
  MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "8192"))
15
 
16
  if torch.cuda.is_available():
17
+ model_id = "Rijgersberg/GEITje-7B-chat-v2"
18
  model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16, device_map="auto")
19
  tokenizer = AutoTokenizer.from_pretrained(model_id)
20
 
 
106
  ),
107
  ],
108
  examples=[
109
+ ["""Vraagje: welk woord hoort er niet in dit rijtje thuis: "auto, vliegtuig, geit, bus"?"""],
110
  ["Schrijf een nieuwsbericht voor De Speld over de inzet van een kudde geiten door het Nederlands Forensisch Instituut"],
111
  ["Wat zijn 3 leuke dingen om te doen als ik een weekendje naar Friesland ga?"],
112
+ ["Met wie trad clown Bassie op?"],
113
  ["Kan je naar de maan fietsen?"],
114
  ["Wat is het belang van open source taalmodellen?"],
115
  ["""```
 
133
  ```
134
  Vat bovenstaand artikel samen"""]
135
  ],
136
+ title="🐐 GEITje 7B chat-v2 🐐",
137
+ description="""Een ~eerste~tweede chatbot op basis van GEITje 7B: een groot open Nederlands taalmodel. Gemaakt voor demonstratiedoeleinden.
138
 
139
  Generatieve taalmodellen maken fouten, controleer daarom feiten voordat je ze overneemt. GEITje-chat is niet uitgebreid getraind om _gealigned_ te zijn met menselijke waarden. Het is daarom mogelijk dat het problematische output genereert, zeker als het daartoe _geprompt_ wordt.
140