colbert.py

import json
from pathlib import Path
from pylate import models, indexes, retrieve

# ========= Тохиргоо =========
MODEL_PATH = "/home/astgpu3/workspace/bolorjinbat/LFM2-ColBERT-350M"
INPUT_JSON = Path("test.json")              # оролтын JSON
OUTPUT_JSON = Path("laws_with_emb.json")    # гаралтын JSON
# ===========================


def load_data(path: Path):
    with open(path, "r", encoding="utf-8") as f:
        data = json.load(f)

    if not isinstance(data, list):
        raise ValueError("JSON root must be a list of objects")

    return data


def main():
    # 1) Модел ачаалах
    model = models.ColBERT(model_name_or_path=MODEL_PATH)

    # 2) JSON унших
    data = load_data(INPUT_JSON)

    # 3) content талбаруудаас текстүүдийг цуглуулах
    texts = []
    idx_map = []  # JSON доторх index-ийг холбоход ашиглана

    for i, row in enumerate(data):
        content = row.get("content")
        if not content:
            continue

        # content нь list байвал нэг мөр болгож нийлүүлнэ
        if isinstance(content, list):
            content = "\n".join(content)

        texts.append(content)
        idx_map.append(i)

    print(f"Embedding хийх нийт текст: {len(texts)}")

    if not texts:
        print("content талбар олдсонгүй, дууслаа.")
        return

    # 4) Embedding үүсгэх (document тал)
    embs = model.encode(
        texts,
        batch_size=32,
        is_query=False,
        show_progress_bar=True,
    )

    # 5) Embedding-ийг JSON-д буцаан бичих
    # embs нь ихэвчлэн numpy array эсвэл torch tensor → list болгоно
    embs_list = embs.tolist()

    for emb, row_idx in zip(embs_list, idx_map):
        # энд embedding-ээ шинэ талбарт хадгална
        data[row_idx]["embedding"] = emb

    # 6) Шинэ JSON файл руу хадгалах
    with open(OUTPUT_JSON, "w", encoding="utf-8") as f:
        json.dump(data, f, ensure_ascii=False, indent=2)

    print(f"Бэлэн боллоо: {OUTPUT_JSON}")


if __name__ == "__main__":
    main()