Update app.py

app.py

@@ -1,11 +1,14 @@
 import gradio as gr
 from transformers import AutoTokenizer, AutoModel
 import torch
+from flask import Flask, request, jsonify
 
 # 1. 加载模型和分词器
 model_name = "jinaai/jina-embeddings-v3"  # 替换为您实际使用的模型名
 tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
 model = AutoModel.from_pretrained(model_name, trust_remote_code=True)
+app = Flask(__name__)
+
 
 # 2. 定义生成嵌入的函数
 def generate_embeddings(text):
@@ -18,14 +21,21 @@ def generate_embeddings(text):
     # 将嵌入转换为Python列表，方便Gradio输出
     return embeddings.numpy().tolist()
 
-# 3. 使用Gradio定义接口
-iface = gr.Interface(
-    fn=generate_embeddings,  # 调用嵌入生成函数
-    inputs="text",           # 输入类型为文本
-    outputs="json",          # 输出为JSON格式，方便API调用
-    title="Text Embedding Generator",
-    description="Enter text to generate embeddings using the Jina model."
-)
+
+@app.route('/api/v1/embeddings', methods=['POST'])
+def embedding():
+    _embedding_data = []
+    data = request.json  # 获取 JSON 数据
+    headers = request.headers
+    input_text_list = data.get('embeddings', [])
+    for _ in input_text_list:
+        _embedding_data.append(generate_embeddings(_))
+
+    return jsonify({
+        "embeddings": _embedding_data,
+        "model": model_name  // 使用的模型
+    })
+
 
 # 4. 启动Gradio应用
 if __name__ == "__main__":