api_cost/api_cost.yaml

GPT_3_5:
  in: 0.0010
  out: 0.0020
GPT_4:
  in: 0.01
  out: 0.03
PALM2:
  in: 0.0
  out: 0.0