Pytorch TensorFlow

පෙර පුහුණු කළ ආකෘති බෙදාගැනීම

Ask a Question Open In Colab Open In Studio Lab

පහත පියවර තුළ, අපි 🤗 කේන්ද්‍රය වෙත පෙර පුහුණු කළ ආකෘති බෙදා ගැනීමට පහසුම ක්‍රම දෙස බලමු. ආකෘති සෘජුවම කේන්ද්‍රය මත බෙදාගැනීම සහ යාවත්කාලීන කිරීම සරල කරන මෙවලම් සහ උපයෝගිතා තිබේ, ඒවා අපි පහතින් ගවේෂණය කරන්නෙමු.

අපි ආකෘති පුහුණු කරන සියලුම පරිශීලකයින්ට ප්‍රජාව සමඟ බෙදාගැනීමෙන් දායක වන ලෙස දිරිමත් කරමු - ඉතා නිශ්චිත දත්ත කට්ටල මත පුහුණු කළ විට පවා ආකෘති බෙදාගැනීම, අන් අයට උපකාර කරයි, ඔවුන්ට කාලය ඉතිරි කර සම්පත් ගණනය කිරීම සහ ප්‍රයෝජනවත් පුහුණු වූ මානවකෘති සඳහා ප්‍රවේශය ලබා දේ. අනෙක් අතට, අන් අය කර ඇති වැඩවලින් ඔබට ප්‍රයෝජන ගත හැකිය!

නව ආකෘති නිධි නිර්මාණය කිරීමට ක්‍රම තුනක් ඇත:

ඔබ නිධියක් සෑදූ පසු, ඔබට git සහ git-lfs හරහා එයට ගොනු උඩුගත කළ හැක. අපි පහත කොටස් වලින් ආදර්ශ නිධි නිර්මාණය කිරීම සහ ඒවාට ගොනු උඩුගත කිරීම හරහා ඔබව ගෙන යන්නෙමු.

push_to_hub API භාවිතා කිරීම

කේන්ද්‍රය වෙත ගොනු උඩුගත කිරීමේ සරලම ක්‍රමය වන්නේ push_to_hub API උත්තෝලනය කිරීමයි.

තව දුරටත් යාමට පෙර, ඔබ huggingface_hub API ඔබ කවුරුන්ද යන්න සහ ඔබට ලිවීමට ප්‍රවේශය ඇති නාම අවකාශ මොනවාදැයි දැන ගැනීමට ඔබට සත්‍යාපන ටෝකනයක් ජනනය කිරීමට අවශ්‍ය වනු ඇත. ඔබ transformers ස්ථාපනය කර ඇති පරිසරයක ඔබ සිටින බවට වග බලා ගන්න (බලන්න සැකසුම්). ඔබ සටහන් පොතක සිටී නම්, ඔබට පුරනය වීමට පහත කාර්ය භාවිතා කළ හැක:

from huggingface_hub import notebook_login

notebook_login()

ටර්මිනලය තුළ, ඔබට ධාවනය කළ හැකිය:

huggingface-cli login

අවස්ථා දෙකේදීම, ඔබ කේන්ද්‍රය වෙත පුරනය වීමට භාවිතා කරන ඔබගේ පරිශීලක නාමය සහ මුරපදය ඔබෙන් විමසනු ඇත. ඔබට තවමත් කේන්ද්‍ර පැතිකඩක් නොමැති නම්, ඔබ එකක් මෙතැනින් සෑදිය යුතුය.

නියමයි! ඔබට දැන් ඔබගේ හැඹිලි ෆෝල්ඩරය තුළ ඔබගේ සත්‍යාපන ටෝකනය ගබඩා කර ඇත. අපි නිධි කිහිපයක් නිර්මාණය කරමු!

ඔබ ආකෘතියක් පුහුණු කිරීමට Trainer API සමඟ ක්‍රියා කර ඇත්නම්, එය කේන්ද්‍රය වෙත උඩුගත කිරීමට ඇති පහසුම ක්‍රමය වන්නේ ඔබ ඔබේ TrainingArguments නිර්වචනය කරන විට push_to_hub=True සැකසීමයි:

from transformers import TrainingArguments

training_args = TrainingArguments(
    "bert-finetuned-mrpc", save_strategy="epoch", push_to_hub=True
)

ඔබ trainer.train() ක්‍රියාකල විට, Trainer එය ඔබගේ නාම අවකාශයේ නිධියක සුරකින සෑම අවස්ථාවකම (මෙහි සෑම වාරයකම) කේන්ද්‍රය වෙත ඔබේ ආකෘතිය උඩුගත කරයි. එම නිධිය ඔබ තෝරාගත් ප්‍රතිදාන නාමාවලිය (මෙහි bert-finetuned-mrpc) ලෙස නම් කරනු ඇත, නමුත් ඔබට hub_model_id = "a_different_name" සමඟ වෙනත් නමක් තෝරාගත හැක.

ඔබ සාමාජිකයෙකු වන සංවිධානයකට ඔබේ ආකෘතිය උඩුගත කිරීමට, එය hub_model_id = "my_organization/my_repo_name" සමඟින් යන්න.

ඔබේ පුහුණුව අවසන් වූ පසු, ඔබේ ආකෘතියේ අවසාන අනුවාදය උඩුගත කිරීමට ඔබ අවසන් trainer.push_to_hub() කළ යුතුය. එය භාවිතා කරන අධිපරිමාණ සහ ඇගයීම් ප්‍රතිඵල වාර්තා කරමින් අදාළ සියලුම පාර-දත්ත සහිත ආකෘති කාඩ්පතක් ද ජනනය කරනු ඇත! එවැනි ආකෘති කාඩ්පතක ඔබට සොයාගත හැකි අන්තර්ගතයේ උදාහරණයක් මෙන්න:

An example of an auto-generated model card.

පහළ මට්ටමේ දී, ආකෘති කේන්ද්‍රය වෙත ප්‍රවේශ වීම ආකෘති, ටෝකනකාරක සහ වින්‍යාස වස්තූන් මත ඔවුන්ගේ push_to_hub() ක්‍රමය හරහා සෘජුවම සිදු කළ හැක. මෙම ක්‍රමය නිධිය නිර්මාණය කිරීම සහ ආකෘතිය සහ ටෝකනකාරක ගොනු සෘජුවම නිධියට තල්ලු කිරීම යන දෙකම ගැන සැලකිලිමත් වේ. API සමඟ මෙන් නොව අතින් හැසිරවීමක් අවශ්‍ය නොවේ, අපි පහතින් දකිමු.

එය ක්‍රියා කරන ආකාරය පිළිබඳ අදහසක් ලබා ගැනීමට, අපි මුලින්ම ආකෘතියක් සහ ටෝකනකාරක එකක් ආරම්භ කරමු:

from transformers import AutoModelForMaskedLM, AutoTokenizer

checkpoint = "camembert-base"

model = AutoModelForMaskedLM.from_pretrained(checkpoint)
tokenizer = AutoTokenizer.from_pretrained(checkpoint)

මේවා සමඟ ඔබට අවශ්‍ය ඕනෑම දෙයක් කිරීමට ඔබට නිදහස තිබේ — ටෝකනකාරක වෙත ටෝකන එක් කරන්න, ආකෘතිය පුහුණු කරන්න, එය මනාව සකස් කරන්න. ප්‍රතිඵලයක් ලෙස ලැබෙන ආකෘතිය, භාර සහ ටෝකනකාරක සමඟ ඔබ සතුටු වූ පසු, ඔබට model වස්තුව මත සෘජුවම ලබා ගත හැකි push_to_hub() ක්‍රමය භාවිතා කළ හැක:

model.push_to_hub("dummy-model")

මෙය ඔබගේ පැතිකඩෙහි නව නිධිය dummy-model සාදනු ඇත, සහ එය ඔබගේ ආකෘතිය ගොනු සමඟ පුරවයි. ටෝකනකාරක සමඟද එසේ කරන්න, එවිට සියලුම ගොනු දැන් මෙම නිධියේ තිබේ.

tokenizer.push_to_hub("dummy-model")

ඔබ සංවිධානයකට අයත් නම්, එම සංවිධානයේ නාම අවකාශයට උඩුගත කිරීමට organization විස්තාරය සඳහන් කරන්න:

tokenizer.push_to_hub("dummy-model", organization="huggingface")

ඔබට විශේෂිත Hugging Face ටෝකනයක් භාවිතා කිරීමට අවශ්‍ය නම්, එය push_to_hub() ක්‍රමයට ද සඳහන් කිරීමට ඔබට නිදහස තිබේ:

tokenizer.push_to_hub("dummy-model", organization="huggingface", use_auth_token="<TOKEN>")

දැන් ඔබේ අලුතින් උඩුගත කළ ආකෘතිය සොයා ගැනීමට ආකෘති කේන්ද්‍රය වෙත යන්න: https://huggingface.co/user-or-organization/dummy-model.

“ගොනු සහ අනුවාද” ටැබය මත ක්ලික් කරන්න, එවිට ඔබට පහත තිර රුවෙහි පෙනෙන ගොනු දැකිය යුතුය:

Dummy model containing both the tokenizer and model files.

✏️ උත්සාහ කරන්න! bert-base-cased මුරපොල හා සම්බන්ධ ආකෘතිය සහ ටෝකනකාරක ගෙන ඒවා push_to_hub() ක්‍රමය භාවිතයෙන් ඔබේ නාම අවකාශයේ නිධිය වෙත උඩුගත කරන්න. නිධිය මැකීමට පෙර ඔබේ පිටුවේ එය නිවැරදිව දිස්වේදැයි දෙවරක් පරීක්ෂා කරන්න.

ඔබ දැක ඇති පරිදි, push_to_hub() ක්‍රමය විස්තාර කිහිපයක් පිළිගනී, එමඟින් නිශ්චිත නිධියකට හෝ සංවිධාන නාම අවකාශයකට උඩුගත කිරීමට හෝ වෙනත් API ටෝකනයක් භාවිතා කිරීමට හැකි වේ. කළ හැකි දේ පිළිබඳ අදහසක් ලබා ගැනීමට 🤗 පරිවර්තක ලේඛන තුළ සෘජුවම ලබා ගත හැකි පිරිවිතර ක්‍රම දෙස බැලීමට අපි ඔබට නිර්දේශ කරමු.

Hugging Face කේන්ද්‍රය වෙත සෘජු API එකක් පිරිනමන huggingface_hub Python පැකේජය මඟින් push_to_hub() ක්‍රමයට සහාය දක්වයි. එය 🤗 පරිවර්තක සහ allenlp වැනි තවත් යන්ත්‍ර ඉගෙනුම් library කිහිපයක් තුළ ඒකාබද්ධ කර ඇත. අපි මෙම පරිච්ඡේදයේ 🤗 පරිවර්තක ඒකාබද්ධ කිරීම කෙරෙහි අවධානය යොමු කළත්, එය ඔබේම කේතයට හෝ library යට ඒකාබද්ධ කිරීම සරල ය.

ඔබගේ අලුතින් සාදන ලද නිධියට ගොනු උඩුගත කරන්නේ කෙසේදැයි බැලීමට අවසාන කොටස වෙත යන්න!

huggingface_hub Python library භාවිතා කරමින්

huggingface_hub Python library යනු ආකෘතිය සහ දත්ත කට්ටල කේන්ද්‍ර සඳහා මෙවලම් කට්ටලයක් සපයන පැකේජයකි. එය මධ්‍යස්ථානයේ නිධි පිළිබඳ තොරතුරු ලබා ගැනීම සහ ඒවා කළමනාකරණය කිරීම වැනි පොදු කාර්යයන් සඳහා සරල ක්‍රම සහ පන්ති සපයයි. එය එම නිධිවල අන්තර්ගතය කළමනාකරණය කිරීමට සහ ඔබේ ව්‍යාපෘති සහ library වල කේන්ද්‍රය ඒකාබද්ධ කිරීමට git මත ක්‍රියා කරන සරල API සපයයි.

push_to_hub API භාවිතා කිරීම හා සමානව, මෙයට ඔබගේ API ටෝකනය ඔබගේ හැඹිලියේ සුරැකීමට අවශ්‍ය වනු ඇත. මෙය සිදු කිරීම සඳහා, ඔබ පෙර කොටසේ සඳහන් කර ඇති පරිදි, CLI වෙතින් login විධානය භාවිතා කිරීමට අවශ්‍ය වනු ඇත (නැවතත්, Google Colab හි ක්‍රියාත්මක වන්නේ නම්, මෙම විධානයන් සමඟ ’!’ අක්ෂරය පෙරට යෙදීමට වග බලා ගන්න):

huggingface-cli login

huggingface_hub පැකේජය අපගේ අරමුණ සඳහා ප්‍රයෝජනවත් වන ක්‍රම සහ පන්ති කිහිපයක් ඉදිරිපත් කරයි. පළමුව, නිධි නිර්මාණය, මකාදැමීම සහ අනෙකුත් ඒවා කළමනාකරණය කිරීමට ක්‍රම කිහිපයක් තිබේ:

from huggingface_hub import (
    # User management
    login,
    logout,
    whoami,

    # Repository creation and management
    create_repo,
    delete_repo,
    update_repo_visibility,

    # And some methods to retrieve/change information about the content
    list_models,
    list_datasets,
    list_metrics,
    list_repo_files,
    upload_file,
    delete_file,
)

අමතරව, එය දේශීය නිධියක් කළමනාකරණය කිරීම සඳහා ඉතා බලගතු Repository පන්තිය පිරිනමයි. අපි ඊලඟ කොටසින් මෙම ක්‍රම සහ එම පන්තිය ප්‍රයෝජනයට ගන්නේ කෙසේද යන්න තේරුම් ගනිමු.

කේන්ද්‍රයේ නව නිධියක් සෑදීමට create_repo ක්‍රමය භාවිතා කළ හැක:

from huggingface_hub import create_repo

create_repo("dummy-model")

මෙය ඔබගේ නාම අවකාශයේ ‘dummy-model’ නිධිය සාදනු ඇත. ඔබ කැමති නම්, organization විස්තාරය භාවිතයෙන් නිධිය කුමන සංවිධානයට අයත් විය යුතුද යන්න ඔබට සඳහන් කළ හැක:

from huggingface_hub import create_repo

create_repo("dummy-model", organization="huggingface")

මෙය ඔබ එම සංවිධානයට අයත් යැයි උපකල්පනය කරමින් huggingface නාම අවකාශයේ dummy-model නිධිය සාදනු ඇත. ප්‍රයෝජනවත් විය හැකි වෙනත් විස්තාර:

නිධිය සෑදූ පසු, අපි එයට ගොනු එකතු කළ යුතුය! මෙය හැසිරවිය හැකි ආකාර තුන බැලීමට ඊළඟ කොටස වෙත යමු.

වෙබ් අතුරු මුහුණත භාවිතා කිරීම

වෙබ් අතුරු මුහුණත මධ්‍යස්ථානය තුළ සෘජුවම නිධි කළමනා කිරීමට මෙවලම් සපයයි. අතුරුමුහුණත භාවිතා කරමින්, ඔබට පහසුවෙන් නිධියන් සෑදිය හැක, ගොනු එකතු කරන්න (විශාල ඒවා පවා!), ආකෘති ගවේෂණය කරන්න, වෙනස්කම් දෘශ්‍යමාන කරන්න, සහ තවත් බොහෝ දේ.

නව නිධියක් සෑදීමට, පිවිසෙන්න huggingface.co/new:

Page showcasing the model used for the creation of a new model repository.

පළමුව, නිධියේ හිමිකරු සඳහන් කරන්න: මෙය ඔබ හෝ ඔබ අනුබද්ධිත ඕනෑම ආයතනයක් විය හැක. ඔබ ආයතනයක් තෝරා ගන්නේ නම්, එම ආකෘතිය සංවිධානයේ පිටුවෙහි දක්වනු ලබන අතර සංවිධානයේ සෑම සාමාජිකයෙකුටම ගබඩාවට දායක වීමට හැකියාව ඇත.

ඊළඟට, ඔබේ ආකෘතියේ නම ඇතුළත් කරන්න. මෙය නිධියේ නම ද වනු ඇත. අවසාන වශයෙන්, ඔබට ඔබේ ආකෘතිය පොදු හෝ පුද්ගලික වීමට අවශ්‍යද යන්න සඳහන් කළ හැක. පුද්ගලික ආකෘති මහජන දර්ශනයෙන් සැඟවී ඇත.

ඔබේ ආදර්ශ නිධිය නිර්මාණය කිරීමෙන් පසු, ඔබ මෙවැනි පිටුවක් දැකිය යුතුය:

An empty model page after creating a new repository.

ඔබේ ආකෘතිය සංග්‍රාහකත්වය සපයනු ලබන ස්ථානය මෙයයි. එය ජනනය කිරීම ආරම්භ කිරීමට, ඔබට වෙබ් අතුරු මුහුණතෙන් සෘජුවම README ගොනුවක් එක් කළ හැක.

The README file showing the Markdown capabilities.

README ගොනුව Markdown ආකාරයෙන් ඇත - එය සමඟ නිදහසේ කටයුතු කරන්න! මෙම පරිච්ඡේදයේ තුන්වන කොටස ආකෘති කාඩ්පතක් ගොඩනැගීම සඳහා කැප කර ඇත. ඔබේ ආකෘතියට වටිනාකමක් ගෙන ඒමේ දී මේවා ප්‍රධාන වැදගත්කමක් දරයි, මන්ද එයට කළ හැකි දේ ඔබ අන් අයට පවසන ස්ථානයයි.

ඔබ “ගොනු සහ අනුවාද” තීරුව දෙස බැලුවහොත්, එහි තවමත් බොහෝ ගොනු නොමැති බව ඔබට පෙනෙනු ඇත - ඔබ දැන් නිර්මාණය කළ README.md සහ විශාල ගොනු නිරීක්ෂණය කරන .gitattributes ගොනුව පමණි.

The 'Files and versions' tab only shows the .gitattributes and README.md files.

අපි ඊළඟට නව ගොනු කිහිපයක් එකතු කරන්නේ කෙසේදැයි බලමු.

ආකෘති ගොනු උඩුගත කිරීම

Hugging Face කේන්ද්‍රයෙහි ගොනු කළමනාකරණය කිරීමේ පද්ධතිය සාමාන්‍ය ගොනු සඳහා git සහ විශාල ගොනු සඳහා git-lfs (Git Large File Storage) මත පදනම් වේ.

ඊළඟ කොටසේදී, අපි කේන්ද්‍රය වෙත ගොනු උඩුගත කිරීමේ විවිධ ක්‍රම තුනක් හරහා යන්නෙමු: huggingface_hub හරහා සහ git විධාන හරහා.

upload_file ප්‍රවේශය

upload_file භාවිතා කිරීම ඔබේ පද්ධතියේ git සහ git-lfs ස්ථාපනය කිරීම අවශ්‍ය නොවේ. එය HTTP POST ඉල්ලීම් භාවිතයෙන් ගොනු සෘජුවම 🤗 කේන්ද්‍රය වෙත තල්ලු කරයි. මෙම ප්‍රවේශයේ සීමාවක් වන්නේ එය 5GB ප්‍රමාණයට වඩා විශාල ගොනු හසුරුවා නොගැනීමයි. ඔබගේ ගොනු 5GB ට වඩා විශාල නම්, කරුණාකර පහත විස්තර කර ඇති අනෙක් ක්‍රම දෙක අනුගමනය කරන්න.

API පහත පරිදි භාවිතා කළ හැක:

from huggingface_hub import upload_file

upload_file(
    "<path_to_file>/config.json",
    path_in_repo="config.json",
    repo_id="<namespace>/dummy-model",
)

මෙය <path_to_file> හි ඇති config.json ගොනුව නිධියේ මූලයට config.json ලෙස, dummy-model නිධිය වෙත උඩුගත කරනු ඇත. ප්‍රයෝජනවත් විය හැකි වෙනත් විස්තාර නම්:

Repository පන්තිය

Repository පන්තිය දේශීය නිධියක් git වැනි ආකාරයෙන් කළමනාකරණය කරයි. එය අපට අවශ්‍ය සියලුම විශේෂාංග සැපයීම සඳහා git සමඟ ඇති බොහෝ ගැටලු සමනය කරයි.

මෙම පන්තිය භාවිතා කිරීම සඳහා git සහ git-lfs ස්ථාපනය කර තිබීම අවශ්‍ය වේ, එබැවින් ඔබ git-lfs ස්ථාපනය කර ඇති බවට වග බලා ගන්න ( ස්ථාපන උපදෙස් සඳහා මෙහි බලන්න) සහ ආරම්භ කිරීමට පෙර පිහිටුවන්න.

අප විසින් නිර්මාණය කරන ලද නිධිය සමඟ ක්‍රියාකිරීම ආරම්භ කිරීම සඳහා, දුරස්ථ නිධිය ක්ලෝන කිරීම මගින් එය තත් ෆෝල්ඩරයකට ආරම්භ කිරීමෙන් ආරම්භ කළ හැක:

from huggingface_hub import Repository

repo = Repository("<path_to_dummy_folder>", clone_from="<namespace>/dummy-model")

මෙය අපගේ වැඩ කරන නාමාවලියෙහි <path_to_dummy_folder> ෆෝල්ඩරය සාදන ලදී. මෙම ෆෝල්ඩරයේ අඩංගු වන්නේ .gitattributes ගොනුව පමණි, මන්ද එය create_repo හරහා නිධිය ක්ෂණික කරන විට සාදන ලද එකම ගොනුව වේ.

මෙතැන් සිට, අපට සාම්ප්‍රදායික git ක්‍රම කිහිපයක් භාවිතා කළ හැකිය:

repo.git_pull()
repo.git_add()
repo.git_commit()
repo.git_push()
repo.git_tag()

සහ වෙනත් දේ! ලබා ගත හැකි සියලු ක්‍රම පිළිබඳ දළ විශ්ලේෂණයක් සඳහා Repository ප්‍රලේඛනය දෙස බැලීමට මෙතැන අපි නිර්දේශ කරමු.

දැනට, අපි කේන්ද්‍රය වෙත තල්ලු කිරීමට කැමති ආකෘතියක් සහ ටෝකනකාරකයක් ඇත. අපි නිධිය සාර්ථකව ක්ලෝන කර ඇත, එබැවින් අපට එම නිධිය තුළ ගොනු සුරැකිය හැක.

අපි මුලින්ම නවතම වෙනස්කම් නිපතනයෙන් අපගේ තත් ක්ලෝනය යාවත්කාලීන බව සහතික කර ගනිමු:

repo.git_pull()

එය සිදු කළ පසු, අපි ආකෘතිය සහ ටෝකනකාරක ගොනු සුරකිමු:

model.save_pretrained("<path_to_dummy_folder>")
tokenizer.save_pretrained("<path_to_dummy_folder>")

<path_to_dummy_folder> හි දැන් සියලුම ආකෘති සහ ටෝකනකාරක ගොනු අඩංගු වේ. අපි සාමාන්‍ය git කාර්ය ප්‍රවාහය අනුගමනය කරන්නේ වේදිකා ප්‍රදේශයට ගොනු එකතු කිරීමෙන්, ඒවා කැප කිරීමෙන් සහ ඒවා කේන්ද්‍රය වෙත නිපතන කිරීමෙන් ය:

repo.git_add()
repo.git_commit("Add model and tokenizer files")
repo.git_push()

සුභ පැතුම්! ඔබ ඔබේ පළමු ගොනු කේන්ද්‍රය මතට නිපතනය කළා.

git මත පදනම් වූ ප්‍රවේශය

ගොනු උඩුගත කිරීම සඳහා ඇති මුලික ප්‍රවේශය මෙයයි: අපි එය git සහ git-lfs සමඟ කෙලින්ම කරන්නෙමු. බොහෝ දුෂ්කරතා පෙර ප්‍රවේශයන් මගින් වියුක්ත කර ඇත, නමුත් පහත ක්‍රමය සමඟ අනතුරු විරුද්ධවාවක කිහිපයක් ඇත, එබැවින් අපි වඩාත් සංකීර්ණ භාවිත අවස්ථාවක් අනුගමනය කරන්නෙමු.

මෙම පන්තිය භාවිතා කිරීම සඳහා git සහ git-lfs ස්ථාපනය කර තිබීම අවශ්‍ය වේ, එබැවින් ඔබ git-lfs ස්ථාපනය කර ඇති බවට වග බලා ගන්න (ස්ථාපන උපදෙස් සඳහා මෙතැන බලන්න) සහ ඔබ ආරම්භ කිරීමට පෙර පිහිටුවා ඇත.

git-lfs ආරම්භ කිරීමෙන් පළමුව ආරම්භ කරන්න:

git lfs install
Updated git hooks.
Git LFS initialized.

එය අවසන් වූ පසු, පළමු පියවර වන්නේ ඔබේ ආකෘති නිධිය ක්ලෝන කිරීමයි:

git clone https://huggingface.co/<namespace>/<your-model-id>

මගේ පරිශීලක නාමය lysandre වන අතර මම dummy යන ආකෘති නාමය භාවිතා කර ඇත, එබැවින් මට විධානය පහත පරිදි දිස්වේ:

git clone https://huggingface.co/lysandre/dummy

මගේ වැඩ කරන නාමාවලියේ දැන් dummy නමින් ෆෝල්ඩරයක් ඇත. මට ෆෝල්ඩරය තුළට cd කළ හැකි අතර අන්තර්ගතය දෙස බලන්න:

cd dummy && ls
README.md

ඔබ මේ දැන් Hugging Face කේන්ද්‍රය හි create_repo ක්‍රමය භාවිතයෙන් ඔබේ නිධිය නිර්මාණය කළේ නම්, මෙම ෆෝල්ඩරයේ සැඟවුණු .gitattributes ගොනුවක් පමණක් අඩංගු විය යුතුය. ඔබ වෙබ් අතුරු මුහුණත භාවිතයෙන් නිධියක් සෑදීමට පෙර කොටසේ උපදෙස් අනුගමනය කළේ නම්, මෙහි පෙන්වා ඇති පරිදි ෆෝල්ඩරයේ සැඟවුණු .gitattributes ගොනුව සමඟ තනි README.md ගොනුවක් අඩංගු විය යුතුය.

වින්‍යාස ගොනුවක්, වාග්මාලා ගොනුවක් හෝ මූලික වශයෙන් මෙගාබයිට් කිහිපයක් යටතේ ඇති ඕනෑම ගොනුවක් වැනි සාමාන්‍ය ප්‍රමාණයේ ගොනුවක් එකතු කිරීම, ඕනෑම git පාදක පද්ධතියක කරන ආකාරයටම සිදු කෙරේ. කෙසේ වෙතත්, විශාල ගොනු huggingface.co වෙත නිපතන කිරීම සඳහා git-lfs හරහා ලියාපදිංචි කළ යුතුය.

අපි අපේ ව්‍යාජ නිධියට කැප කිරීමට කැමති ආකෘතියක් සහ ටෝකනකාරක උත්පාදනය කිරීමට ටිකකට Python වෙත ආපසු යමු:

from transformers import AutoModelForMaskedLM, AutoTokenizer

checkpoint = "camembert-base"

model = AutoModelForMaskedLM.from_pretrained(checkpoint)
tokenizer = AutoTokenizer.from_pretrained(checkpoint)

# Do whatever with the model, train it, fine-tune it...

model.save_pretrained("<path_to_dummy_folder>")
tokenizer.save_pretrained("<path_to_dummy_folder>")

දැන් අපි ආකෘති සහ ටෝකනකාරක මානවකෘති කිහිපයක් සුරකින ලද බැවින්, අපි dummy ෆෝල්ඩරය දෙස නැවත බලමු:

ls
config.json  pytorch_model.bin  README.md  sentencepiece.bpe.model  special_tokens_map.json tokenizer_config.json  tokenizer.json

ඔබ ගොනු ප්‍රමාණ දෙස බැලුවහොත් (උදාහරණයක් ලෙස, ls -lh සමඟ), 400 MB ට වඩා වැඩි model state dict ගොනුව (pytorch_model.bin) එකම බහිහ්ස්ථිතය බව ඔබට පෙනෙනු ඇත.

✏️ වෙබ් අතුරු මුහුණතෙන් නිධිය නිර්මාණය කිරීමේදී, *.gitattributes* සමහර දිගු සහිත ගොනු සලකා බැලීමට ගොනුව ස්වයංක්‍රීයව සකසා ඇත *.bin* සහ *.h5* ලෙස, විශාල ගොනු ලෙස, සහ git-lfs ඒවා ලුහුබඳිනු ඇත. ඔබගේ පැත්තේ අවශ්‍ය සැකසුම.

අපි සාමාන්‍යයෙන් සාම්ප්‍රදායික Git නිධි සමඟ කරන ආකාරයටම අපට දැන් ඉදිරියට ගොස් ඉදිරියට යා හැක. git add විධානය භාවිතයෙන් අපට සියලුම ගොනු Git හි වේදිකා පරිසරයට එක් කළ හැකිය:

git add .

එවිට අපට දැනට වේදිකාගත කර ඇති ගොනු දෙස බැලිය හැකිය:

git status
On branch main
Your branch is up to date with 'origin/main'.

Changes to be committed:
  (use "git restore --staged <file>..." to unstage)
  modified:   .gitattributes
	new file:   config.json
	new file:   pytorch_model.bin
	new file:   sentencepiece.bpe.model
	new file:   special_tokens_map.json
	new file:   tokenizer.json
	new file:   tokenizer_config.json

ඒ හා සමානව, git-lfs එහි status විධානය භාවිතා කිරීමෙන් නිවැරදි ගොනු ලුහුබඳින බව සහතික කර ගත හැක:

git lfs status
On branch main
Objects to be pushed to origin/main:


Objects to be committed:

	config.json (Git: bc20ff2)
	pytorch_model.bin (LFS: 35686c2)
	sentencepiece.bpe.model (LFS: 988bc5a)
	special_tokens_map.json (Git: cb23931)
	tokenizer.json (Git: 851ff3e)
	tokenizer_config.json (Git: f0f7783)

Objects not staged for commit:

LFS ඇති pytorch_model.bin සහ sentencepiece.bpe.model හැර, සියලුම ගොනු වලට හසුරුවන්නක් ලෙස Git ඇති බව අපට දැක ගත හැක.

අපි huggingface.co දුරස්ථ නිධිය වෙත යොමු කරමින් අවසාන පියවර වෙත යමු:

git commit -m "First model version"
[main b08aab1] First model version
 7 files changed, 29027 insertions(+)
  6 files changed, 36 insertions(+)
 create mode 100644 config.json
 create mode 100644 pytorch_model.bin
 create mode 100644 sentencepiece.bpe.model
 create mode 100644 special_tokens_map.json
 create mode 100644 tokenizer.json
 create mode 100644 tokenizer_config.json

ඔබගේ අන්තර්ජාල සම්බන්ධතාවයේ වේගය සහ ඔබගේ ගොනු වල ප්‍රමාණය අනුව තල්ලු කිරීමට සුළු කාලයක් ගත විය හැක:

git push
Uploading LFS objects: 100% (1/1), 433 MB | 1.3 MB/s, done.
Enumerating objects: 11, done.
Counting objects: 100% (11/11), done.
Delta compression using up to 12 threads
Compressing objects: 100% (9/9), done.
Writing objects: 100% (9/9), 288.27 KiB | 6.27 MiB/s, done.
Total 9 (delta 1), reused 0 (delta 0), pack-reused 0
To https://huggingface.co/lysandre/dummy
   891b41d..b08aab1  main -> main

මෙය අවසන් වූ විට අපි ආකෘති නිධිය දෙස බැලුවහොත්, අපට මෑතකදී එකතු කරන ලද සියලුම ගොනු දැකිය හැකිය:

The 'Files and versions' tab now contains all the recently uploaded files.

UI මඟින් ඔබට ආකෘති ගොනු සහ කැපවීම් ගවේෂණය කිරීමට සහ එක් එක් කැපවීම මඟින් හඳුන්වා දුන් වෙනස බැලීමට ඉඩ ලබා දේ:

The diff introduced by the recent commit.