Raicho-7B
Description
Raicho-7Bは、RakutenAI-7BをベースとしてMalum-130を含む約34000件のデータでFine-tuningを行ったモデルです。
Usage
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
B_INST, E_INST = "[INST]", "[/INST]"
text = "旅行に行くと高層ビルがたくさん建っていました。これからどのようなことが推測できますか?"
model_name = "Manual-Dataset-Creation-Project/Raicho-7B-v0.1"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16)
if torch.cuda.is_available():
model = model.to("cuda")
prompt = "{bos_token}{b_inst} {prompt} {e_inst} ".format(
bos_token=tokenizer.bos_token,
b_inst=B_INST,
prompt=text,
e_inst=E_INST,
)
with torch.no_grad():
token_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt")
output_ids = model.generate(
token_ids.to(model.device),
max_new_tokens=256,
pad_token_id=tokenizer.pad_token_id,
eos_token_id=tokenizer.eos_token_id,
)
output = tokenizer.decode(output_ids.tolist()[0][token_ids.size(1) :], skip_special_tokens=True)
print(output)
"""
高層ビルが多く存在する場所は、都市部である可能性が高いです。旅行先の町や地方で高層ビルが多い場合、その地域は大都市であると推測できます。
もし大都市だと仮定すると、公共交通機関が発達しており、駅周辺にオフィスビルが立ち並ぶことが見込めます。よって、旅行先の町や地方で高層ビルが多い場合、その地域は大都市であると推測できます。
"""
- Downloads last month
- 39
This model does not have enough activity to be deployed to Inference API (serverless) yet.
Increase its social visibility and check back later, or deploy to Inference Endpoints (dedicated)
instead.