පහත පියවර තුළ, අපි 🤗 කේන්ද්රය වෙත පෙර පුහුණු කළ ආකෘති බෙදා ගැනීමට පහසුම ක්රම දෙස බලමු. ආකෘති සෘජුවම කේන්ද්රය මත බෙදාගැනීම සහ යාවත්කාලීන කිරීම සරල කරන මෙවලම් සහ උපයෝගිතා තිබේ, ඒවා අපි පහතින් ගවේෂණය කරන්නෙමු.
අපි ආකෘති පුහුණු කරන සියලුම පරිශීලකයින්ට ප්රජාව සමඟ බෙදාගැනීමෙන් දායක වන ලෙස දිරිමත් කරමු - ඉතා නිශ්චිත දත්ත කට්ටල මත පුහුණු කළ විට පවා ආකෘති බෙදාගැනීම, අන් අයට උපකාර කරයි, ඔවුන්ට කාලය ඉතිරි කර සම්පත් ගණනය කිරීම සහ ප්රයෝජනවත් පුහුණු වූ මානවකෘති සඳහා ප්රවේශය ලබා දේ. අනෙක් අතට, අන් අය කර ඇති වැඩවලින් ඔබට ප්රයෝජන ගත හැකිය!
නව ආකෘති නිධි නිර්මාණය කිරීමට ක්රම තුනක් ඇත:
push_to_hub
API භාවිතා කිරීමhuggingface_hub
Python library භාවිතා කිරීමඔබ නිධියක් සෑදූ පසු, ඔබට git සහ git-lfs හරහා එයට ගොනු උඩුගත කළ හැක. අපි පහත කොටස් වලින් ආදර්ශ නිධි නිර්මාණය කිරීම සහ ඒවාට ගොනු උඩුගත කිරීම හරහා ඔබව ගෙන යන්නෙමු.
push_to_hub
API භාවිතා කිරීම
කේන්ද්රය වෙත ගොනු උඩුගත කිරීමේ සරලම ක්රමය වන්නේ push_to_hub
API උත්තෝලනය කිරීමයි.
තව දුරටත් යාමට පෙර, ඔබ huggingface_hub
API ඔබ කවුරුන්ද යන්න සහ ඔබට ලිවීමට ප්රවේශය ඇති නාම අවකාශ මොනවාදැයි දැන ගැනීමට ඔබට සත්යාපන ටෝකනයක් ජනනය කිරීමට අවශ්ය වනු ඇත. ඔබ transformers
ස්ථාපනය කර ඇති පරිසරයක ඔබ සිටින බවට වග බලා ගන්න (බලන්න සැකසුම්). ඔබ සටහන් පොතක සිටී නම්, ඔබට පුරනය වීමට පහත කාර්ය භාවිතා කළ හැක:
from huggingface_hub import notebook_login
notebook_login()
ටර්මිනලය තුළ, ඔබට ධාවනය කළ හැකිය:
huggingface-cli login
අවස්ථා දෙකේදීම, ඔබ කේන්ද්රය වෙත පුරනය වීමට භාවිතා කරන ඔබගේ පරිශීලක නාමය සහ මුරපදය ඔබෙන් විමසනු ඇත. ඔබට තවමත් කේන්ද්ර පැතිකඩක් නොමැති නම්, ඔබ එකක් මෙතැනින් සෑදිය යුතුය.
නියමයි! ඔබට දැන් ඔබගේ හැඹිලි ෆෝල්ඩරය තුළ ඔබගේ සත්යාපන ටෝකනය ගබඩා කර ඇත. අපි නිධි කිහිපයක් නිර්මාණය කරමු!
ඔබ ආකෘතියක් පුහුණු කිරීමට Trainer
API සමඟ ක්රියා කර ඇත්නම්, එය කේන්ද්රය වෙත උඩුගත කිරීමට ඇති පහසුම ක්රමය වන්නේ ඔබ ඔබේ TrainingArguments
නිර්වචනය කරන විට push_to_hub=True
සැකසීමයි:
from transformers import TrainingArguments
training_args = TrainingArguments(
"bert-finetuned-mrpc", save_strategy="epoch", push_to_hub=True
)
ඔබ trainer.train()
ක්රියාකල විට, Trainer
එය ඔබගේ නාම අවකාශයේ නිධියක සුරකින සෑම අවස්ථාවකම (මෙහි සෑම වාරයකම) කේන්ද්රය වෙත ඔබේ ආකෘතිය උඩුගත කරයි. එම නිධිය ඔබ තෝරාගත් ප්රතිදාන නාමාවලිය (මෙහි bert-finetuned-mrpc
) ලෙස නම් කරනු ඇත, නමුත් ඔබට hub_model_id = "a_different_name"
සමඟ වෙනත් නමක් තෝරාගත හැක.
ඔබ සාමාජිකයෙකු වන සංවිධානයකට ඔබේ ආකෘතිය උඩුගත කිරීමට, එය hub_model_id = "my_organization/my_repo_name"
සමඟින් යන්න.
ඔබේ පුහුණුව අවසන් වූ පසු, ඔබේ ආකෘතියේ අවසාන අනුවාදය උඩුගත කිරීමට ඔබ අවසන් trainer.push_to_hub()
කළ යුතුය. එය භාවිතා කරන අධිපරිමාණ සහ ඇගයීම් ප්රතිඵල වාර්තා කරමින් අදාළ සියලුම පාර-දත්ත සහිත ආකෘති කාඩ්පතක් ද ජනනය කරනු ඇත! එවැනි ආකෘති කාඩ්පතක ඔබට සොයාගත හැකි අන්තර්ගතයේ උදාහරණයක් මෙන්න:
පහළ මට්ටමේ දී, ආකෘති කේන්ද්රය වෙත ප්රවේශ වීම ආකෘති, ටෝකනකාරක සහ වින්යාස වස්තූන් මත ඔවුන්ගේ push_to_hub()
ක්රමය හරහා සෘජුවම සිදු කළ හැක. මෙම ක්රමය නිධිය නිර්මාණය කිරීම සහ ආකෘතිය සහ ටෝකනකාරක ගොනු සෘජුවම නිධියට තල්ලු කිරීම යන දෙකම ගැන සැලකිලිමත් වේ. API සමඟ මෙන් නොව අතින් හැසිරවීමක් අවශ්ය නොවේ, අපි පහතින් දකිමු.
එය ක්රියා කරන ආකාරය පිළිබඳ අදහසක් ලබා ගැනීමට, අපි මුලින්ම ආකෘතියක් සහ ටෝකනකාරක එකක් ආරම්භ කරමු:
from transformers import AutoModelForMaskedLM, AutoTokenizer
checkpoint = "camembert-base"
model = AutoModelForMaskedLM.from_pretrained(checkpoint)
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
මේවා සමඟ ඔබට අවශ්ය ඕනෑම දෙයක් කිරීමට ඔබට නිදහස තිබේ — ටෝකනකාරක වෙත ටෝකන එක් කරන්න, ආකෘතිය පුහුණු කරන්න, එය මනාව සකස් කරන්න. ප්රතිඵලයක් ලෙස ලැබෙන ආකෘතිය, භාර සහ ටෝකනකාරක සමඟ ඔබ සතුටු වූ පසු, ඔබට model
වස්තුව මත සෘජුවම ලබා ගත හැකි push_to_hub()
ක්රමය භාවිතා කළ හැක:
model.push_to_hub("dummy-model")
මෙය ඔබගේ පැතිකඩෙහි නව නිධිය dummy-model
සාදනු ඇත, සහ එය ඔබගේ ආකෘතිය ගොනු සමඟ පුරවයි.
ටෝකනකාරක සමඟද එසේ කරන්න, එවිට සියලුම ගොනු දැන් මෙම නිධියේ තිබේ.
tokenizer.push_to_hub("dummy-model")
ඔබ සංවිධානයකට අයත් නම්, එම සංවිධානයේ නාම අවකාශයට උඩුගත කිරීමට organization
විස්තාරය සඳහන් කරන්න:
tokenizer.push_to_hub("dummy-model", organization="huggingface")
ඔබට විශේෂිත Hugging Face ටෝකනයක් භාවිතා කිරීමට අවශ්ය නම්, එය push_to_hub()
ක්රමයට ද සඳහන් කිරීමට ඔබට නිදහස තිබේ:
tokenizer.push_to_hub("dummy-model", organization="huggingface", use_auth_token="<TOKEN>")
දැන් ඔබේ අලුතින් උඩුගත කළ ආකෘතිය සොයා ගැනීමට ආකෘති කේන්ද්රය වෙත යන්න: https://huggingface.co/user-or-organization/dummy-model.
“ගොනු සහ අනුවාද” ටැබය මත ක්ලික් කරන්න, එවිට ඔබට පහත තිර රුවෙහි පෙනෙන ගොනු දැකිය යුතුය:
✏️ උත්සාහ කරන්න! bert-base-cased
මුරපොල හා සම්බන්ධ ආකෘතිය සහ ටෝකනකාරක ගෙන ඒවා push_to_hub()
ක්රමය භාවිතයෙන් ඔබේ නාම අවකාශයේ නිධිය වෙත උඩුගත කරන්න. නිධිය මැකීමට පෙර ඔබේ පිටුවේ එය නිවැරදිව දිස්වේදැයි දෙවරක් පරීක්ෂා කරන්න.
ඔබ දැක ඇති පරිදි, push_to_hub()
ක්රමය විස්තාර කිහිපයක් පිළිගනී, එමඟින් නිශ්චිත නිධියකට හෝ සංවිධාන නාම අවකාශයකට උඩුගත කිරීමට හෝ වෙනත් API ටෝකනයක් භාවිතා කිරීමට හැකි වේ. කළ හැකි දේ පිළිබඳ අදහසක් ලබා ගැනීමට 🤗 පරිවර්තක ලේඛන තුළ සෘජුවම ලබා ගත හැකි පිරිවිතර ක්රම දෙස බැලීමට අපි ඔබට නිර්දේශ කරමු.
Hugging Face කේන්ද්රය වෙත සෘජු API එකක් පිරිනමන huggingface_hub
Python පැකේජය මඟින් push_to_hub()
ක්රමයට සහාය දක්වයි. එය 🤗 පරිවර්තක සහ allenlp
වැනි තවත් යන්ත්ර ඉගෙනුම් library කිහිපයක් තුළ ඒකාබද්ධ කර ඇත. අපි මෙම පරිච්ඡේදයේ 🤗 පරිවර්තක ඒකාබද්ධ කිරීම කෙරෙහි අවධානය යොමු කළත්, එය ඔබේම කේතයට හෝ library යට ඒකාබද්ධ කිරීම සරල ය.
ඔබගේ අලුතින් සාදන ලද නිධියට ගොනු උඩුගත කරන්නේ කෙසේදැයි බැලීමට අවසාන කොටස වෙත යන්න!
huggingface_hub
Python library භාවිතා කරමින්
huggingface_hub
Python library යනු ආකෘතිය සහ දත්ත කට්ටල කේන්ද්ර සඳහා මෙවලම් කට්ටලයක් සපයන පැකේජයකි. එය මධ්යස්ථානයේ නිධි පිළිබඳ තොරතුරු ලබා ගැනීම සහ ඒවා කළමනාකරණය කිරීම වැනි පොදු කාර්යයන් සඳහා සරල ක්රම සහ පන්ති සපයයි. එය එම නිධිවල අන්තර්ගතය කළමනාකරණය කිරීමට සහ ඔබේ ව්යාපෘති සහ library වල කේන්ද්රය ඒකාබද්ධ කිරීමට git මත ක්රියා කරන සරල API සපයයි.
push_to_hub
API භාවිතා කිරීම හා සමානව, මෙයට ඔබගේ API ටෝකනය ඔබගේ හැඹිලියේ සුරැකීමට අවශ්ය වනු ඇත. මෙය සිදු කිරීම සඳහා, ඔබ පෙර කොටසේ සඳහන් කර ඇති පරිදි, CLI වෙතින් login
විධානය භාවිතා කිරීමට අවශ්ය වනු ඇත (නැවතත්, Google Colab හි ක්රියාත්මක වන්නේ නම්, මෙම විධානයන් සමඟ ’!’ අක්ෂරය පෙරට යෙදීමට වග බලා ගන්න):
huggingface-cli login
huggingface_hub
පැකේජය අපගේ අරමුණ සඳහා ප්රයෝජනවත් වන ක්රම සහ පන්ති කිහිපයක් ඉදිරිපත් කරයි. පළමුව, නිධි නිර්මාණය, මකාදැමීම සහ අනෙකුත් ඒවා කළමනාකරණය කිරීමට ක්රම කිහිපයක් තිබේ:
from huggingface_hub import (
# User management
login,
logout,
whoami,
# Repository creation and management
create_repo,
delete_repo,
update_repo_visibility,
# And some methods to retrieve/change information about the content
list_models,
list_datasets,
list_metrics,
list_repo_files,
upload_file,
delete_file,
)
අමතරව, එය දේශීය නිධියක් කළමනාකරණය කිරීම සඳහා ඉතා බලගතු Repository
පන්තිය පිරිනමයි. අපි ඊලඟ කොටසින් මෙම ක්රම සහ එම පන්තිය ප්රයෝජනයට ගන්නේ කෙසේද යන්න තේරුම් ගනිමු.
කේන්ද්රයේ නව නිධියක් සෑදීමට create_repo
ක්රමය භාවිතා කළ හැක:
from huggingface_hub import create_repo
create_repo("dummy-model")
මෙය ඔබගේ නාම අවකාශයේ ‘dummy-model’ නිධිය සාදනු ඇත. ඔබ කැමති නම්, organization
විස්තාරය භාවිතයෙන් නිධිය කුමන සංවිධානයට අයත් විය යුතුද යන්න ඔබට සඳහන් කළ හැක:
from huggingface_hub import create_repo
create_repo("dummy-model", organization="huggingface")
මෙය ඔබ එම සංවිධානයට අයත් යැයි උපකල්පනය කරමින් huggingface
නාම අවකාශයේ dummy-model
නිධිය සාදනු ඇත.
ප්රයෝජනවත් විය හැකි වෙනත් විස්තාර:
private
, නිධිය අන් අයට දැකිය යුතුද නැද්ද යන්න සඳහන් කිරීම සඳහා.token
, ඔබ ලබා දී ඇති ටෝකනයකින් ඔබේ හැඹිලියේ ගබඩා කර ඇති ටෝකනය අභිබවා යාමට කැමති නම්.repo_type
, ඔබ ආකෘතියක් වෙනුවට dataset
හෝ space
සෑදීමට කැමති නම්. පිළිගත් අගයන් වන්නේ "dataset"
සහ "space"
වේ.නිධිය සෑදූ පසු, අපි එයට ගොනු එකතු කළ යුතුය! මෙය හැසිරවිය හැකි ආකාර තුන බැලීමට ඊළඟ කොටස වෙත යමු.
වෙබ් අතුරු මුහුණත මධ්යස්ථානය තුළ සෘජුවම නිධි කළමනා කිරීමට මෙවලම් සපයයි. අතුරුමුහුණත භාවිතා කරමින්, ඔබට පහසුවෙන් නිධියන් සෑදිය හැක, ගොනු එකතු කරන්න (විශාල ඒවා පවා!), ආකෘති ගවේෂණය කරන්න, වෙනස්කම් දෘශ්යමාන කරන්න, සහ තවත් බොහෝ දේ.
නව නිධියක් සෑදීමට, පිවිසෙන්න huggingface.co/new:
පළමුව, නිධියේ හිමිකරු සඳහන් කරන්න: මෙය ඔබ හෝ ඔබ අනුබද්ධිත ඕනෑම ආයතනයක් විය හැක. ඔබ ආයතනයක් තෝරා ගන්නේ නම්, එම ආකෘතිය සංවිධානයේ පිටුවෙහි දක්වනු ලබන අතර සංවිධානයේ සෑම සාමාජිකයෙකුටම ගබඩාවට දායක වීමට හැකියාව ඇත.
ඊළඟට, ඔබේ ආකෘතියේ නම ඇතුළත් කරන්න. මෙය නිධියේ නම ද වනු ඇත. අවසාන වශයෙන්, ඔබට ඔබේ ආකෘතිය පොදු හෝ පුද්ගලික වීමට අවශ්යද යන්න සඳහන් කළ හැක. පුද්ගලික ආකෘති මහජන දර්ශනයෙන් සැඟවී ඇත.
ඔබේ ආදර්ශ නිධිය නිර්මාණය කිරීමෙන් පසු, ඔබ මෙවැනි පිටුවක් දැකිය යුතුය:
ඔබේ ආකෘතිය සංග්රාහකත්වය සපයනු ලබන ස්ථානය මෙයයි. එය ජනනය කිරීම ආරම්භ කිරීමට, ඔබට වෙබ් අතුරු මුහුණතෙන් සෘජුවම README ගොනුවක් එක් කළ හැක.
README ගොනුව Markdown ආකාරයෙන් ඇත - එය සමඟ නිදහසේ කටයුතු කරන්න! මෙම පරිච්ඡේදයේ තුන්වන කොටස ආකෘති කාඩ්පතක් ගොඩනැගීම සඳහා කැප කර ඇත. ඔබේ ආකෘතියට වටිනාකමක් ගෙන ඒමේ දී මේවා ප්රධාන වැදගත්කමක් දරයි, මන්ද එයට කළ හැකි දේ ඔබ අන් අයට පවසන ස්ථානයයි.
ඔබ “ගොනු සහ අනුවාද” තීරුව දෙස බැලුවහොත්, එහි තවමත් බොහෝ ගොනු නොමැති බව ඔබට පෙනෙනු ඇත - ඔබ දැන් නිර්මාණය කළ README.md සහ විශාල ගොනු නිරීක්ෂණය කරන .gitattributes ගොනුව පමණි.
අපි ඊළඟට නව ගොනු කිහිපයක් එකතු කරන්නේ කෙසේදැයි බලමු.
Hugging Face කේන්ද්රයෙහි ගොනු කළමනාකරණය කිරීමේ පද්ධතිය සාමාන්ය ගොනු සඳහා git සහ විශාල ගොනු සඳහා git-lfs (Git Large File Storage) මත පදනම් වේ.
ඊළඟ කොටසේදී, අපි කේන්ද්රය වෙත ගොනු උඩුගත කිරීමේ විවිධ ක්රම තුනක් හරහා යන්නෙමු: huggingface_hub
හරහා සහ git විධාන හරහා.
upload_file
ප්රවේශය
upload_file
භාවිතා කිරීම ඔබේ පද්ධතියේ git සහ git-lfs ස්ථාපනය කිරීම අවශ්ය නොවේ. එය HTTP POST ඉල්ලීම් භාවිතයෙන් ගොනු සෘජුවම 🤗 කේන්ද්රය වෙත තල්ලු කරයි. මෙම ප්රවේශයේ සීමාවක් වන්නේ එය 5GB ප්රමාණයට වඩා විශාල ගොනු හසුරුවා නොගැනීමයි.
ඔබගේ ගොනු 5GB ට වඩා විශාල නම්, කරුණාකර පහත විස්තර කර ඇති අනෙක් ක්රම දෙක අනුගමනය කරන්න.
API පහත පරිදි භාවිතා කළ හැක:
from huggingface_hub import upload_file
upload_file(
"<path_to_file>/config.json",
path_in_repo="config.json",
repo_id="<namespace>/dummy-model",
)
මෙය <path_to_file>
හි ඇති config.json
ගොනුව නිධියේ මූලයට config.json
ලෙස, dummy-model
නිධිය වෙත උඩුගත කරනු ඇත.
ප්රයෝජනවත් විය හැකි වෙනත් විස්තාර නම්:
token
, ඔබ ලබා දී ඇති ටෝකනයකින් ඔබේ හැඹිලියේ ගබඩා කර ඇති ටෝකනය අභිබවා යාමට කැමති නම්.repo_type
, ඔබ ආකෘතියක් වෙනුවට dataset
හෝ space
වෙත උඩුගත කිරීමට කැමති නම්. පිළිගත් අගයන් වන්නේ "dataset"
සහ "space"
.Repository
පන්තිය
Repository
පන්තිය දේශීය නිධියක් git වැනි ආකාරයෙන් කළමනාකරණය කරයි. එය අපට අවශ්ය සියලුම විශේෂාංග සැපයීම සඳහා git සමඟ ඇති බොහෝ ගැටලු සමනය කරයි.
මෙම පන්තිය භාවිතා කිරීම සඳහා git සහ git-lfs ස්ථාපනය කර තිබීම අවශ්ය වේ, එබැවින් ඔබ git-lfs ස්ථාපනය කර ඇති බවට වග බලා ගන්න ( ස්ථාපන උපදෙස් සඳහා මෙහි බලන්න) සහ ආරම්භ කිරීමට පෙර පිහිටුවන්න.
අප විසින් නිර්මාණය කරන ලද නිධිය සමඟ ක්රියාකිරීම ආරම්භ කිරීම සඳහා, දුරස්ථ නිධිය ක්ලෝන කිරීම මගින් එය තත් ෆෝල්ඩරයකට ආරම්භ කිරීමෙන් ආරම්භ කළ හැක:
from huggingface_hub import Repository
repo = Repository("<path_to_dummy_folder>", clone_from="<namespace>/dummy-model")
මෙය අපගේ වැඩ කරන නාමාවලියෙහි <path_to_dummy_folder>
ෆෝල්ඩරය සාදන ලදී. මෙම ෆෝල්ඩරයේ අඩංගු වන්නේ .gitattributes
ගොනුව පමණි, මන්ද එය create_repo
හරහා නිධිය ක්ෂණික කරන විට සාදන ලද එකම ගොනුව වේ.
මෙතැන් සිට, අපට සාම්ප්රදායික git ක්රම කිහිපයක් භාවිතා කළ හැකිය:
repo.git_pull() repo.git_add() repo.git_commit() repo.git_push() repo.git_tag()
සහ වෙනත් දේ! ලබා ගත හැකි සියලු ක්රම පිළිබඳ දළ විශ්ලේෂණයක් සඳහා Repository
ප්රලේඛනය දෙස බැලීමට මෙතැන අපි නිර්දේශ කරමු.
දැනට, අපි කේන්ද්රය වෙත තල්ලු කිරීමට කැමති ආකෘතියක් සහ ටෝකනකාරකයක් ඇත. අපි නිධිය සාර්ථකව ක්ලෝන කර ඇත, එබැවින් අපට එම නිධිය තුළ ගොනු සුරැකිය හැක.
අපි මුලින්ම නවතම වෙනස්කම් නිපතනයෙන් අපගේ තත් ක්ලෝනය යාවත්කාලීන බව සහතික කර ගනිමු:
repo.git_pull()
එය සිදු කළ පසු, අපි ආකෘතිය සහ ටෝකනකාරක ගොනු සුරකිමු:
model.save_pretrained("<path_to_dummy_folder>")
tokenizer.save_pretrained("<path_to_dummy_folder>")
<path_to_dummy_folder>
හි දැන් සියලුම ආකෘති සහ ටෝකනකාරක ගොනු අඩංගු වේ. අපි සාමාන්ය git කාර්ය ප්රවාහය අනුගමනය කරන්නේ වේදිකා ප්රදේශයට ගොනු එකතු කිරීමෙන්, ඒවා කැප කිරීමෙන් සහ ඒවා කේන්ද්රය වෙත නිපතන කිරීමෙන් ය:
repo.git_add()
repo.git_commit("Add model and tokenizer files")
repo.git_push()
සුභ පැතුම්! ඔබ ඔබේ පළමු ගොනු කේන්ද්රය මතට නිපතනය කළා.
ගොනු උඩුගත කිරීම සඳහා ඇති මුලික ප්රවේශය මෙයයි: අපි එය git සහ git-lfs සමඟ කෙලින්ම කරන්නෙමු. බොහෝ දුෂ්කරතා පෙර ප්රවේශයන් මගින් වියුක්ත කර ඇත, නමුත් පහත ක්රමය සමඟ අනතුරු විරුද්ධවාවක කිහිපයක් ඇත, එබැවින් අපි වඩාත් සංකීර්ණ භාවිත අවස්ථාවක් අනුගමනය කරන්නෙමු.
මෙම පන්තිය භාවිතා කිරීම සඳහා git සහ git-lfs ස්ථාපනය කර තිබීම අවශ්ය වේ, එබැවින් ඔබ git-lfs ස්ථාපනය කර ඇති බවට වග බලා ගන්න (ස්ථාපන උපදෙස් සඳහා මෙතැන බලන්න) සහ ඔබ ආරම්භ කිරීමට පෙර පිහිටුවා ඇත.
git-lfs ආරම්භ කිරීමෙන් පළමුව ආරම්භ කරන්න:
git lfs install
Updated git hooks. Git LFS initialized.
එය අවසන් වූ පසු, පළමු පියවර වන්නේ ඔබේ ආකෘති නිධිය ක්ලෝන කිරීමයි:
git clone https://huggingface.co/<namespace>/<your-model-id>
මගේ පරිශීලක නාමය lysandre
වන අතර මම dummy
යන ආකෘති නාමය භාවිතා කර ඇත, එබැවින් මට විධානය පහත පරිදි දිස්වේ:
git clone https://huggingface.co/lysandre/dummy
මගේ වැඩ කරන නාමාවලියේ දැන් dummy නමින් ෆෝල්ඩරයක් ඇත. මට ෆෝල්ඩරය තුළට cd
කළ හැකි අතර අන්තර්ගතය දෙස බලන්න:
cd dummy && ls
README.md
ඔබ මේ දැන් Hugging Face කේන්ද්රය හි create_repo
ක්රමය භාවිතයෙන් ඔබේ නිධිය නිර්මාණය කළේ නම්, මෙම ෆෝල්ඩරයේ සැඟවුණු .gitattributes
ගොනුවක් පමණක් අඩංගු විය යුතුය. ඔබ වෙබ් අතුරු මුහුණත භාවිතයෙන් නිධියක් සෑදීමට පෙර කොටසේ උපදෙස් අනුගමනය කළේ නම්, මෙහි පෙන්වා ඇති පරිදි ෆෝල්ඩරයේ සැඟවුණු .gitattributes
ගොනුව සමඟ තනි README.md ගොනුවක් අඩංගු විය යුතුය.
වින්යාස ගොනුවක්, වාග්මාලා ගොනුවක් හෝ මූලික වශයෙන් මෙගාබයිට් කිහිපයක් යටතේ ඇති ඕනෑම ගොනුවක් වැනි සාමාන්ය ප්රමාණයේ ගොනුවක් එකතු කිරීම, ඕනෑම git පාදක පද්ධතියක කරන ආකාරයටම සිදු කෙරේ. කෙසේ වෙතත්, විශාල ගොනු huggingface.co වෙත නිපතන කිරීම සඳහා git-lfs හරහා ලියාපදිංචි කළ යුතුය.
අපි අපේ ව්යාජ නිධියට කැප කිරීමට කැමති ආකෘතියක් සහ ටෝකනකාරක උත්පාදනය කිරීමට ටිකකට Python වෙත ආපසු යමු:
from transformers import AutoModelForMaskedLM, AutoTokenizer
checkpoint = "camembert-base"
model = AutoModelForMaskedLM.from_pretrained(checkpoint)
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
# Do whatever with the model, train it, fine-tune it...
model.save_pretrained("<path_to_dummy_folder>")
tokenizer.save_pretrained("<path_to_dummy_folder>")
දැන් අපි ආකෘති සහ ටෝකනකාරක මානවකෘති කිහිපයක් සුරකින ලද බැවින්, අපි dummy ෆෝල්ඩරය දෙස නැවත බලමු:
ls
config.json pytorch_model.bin README.md sentencepiece.bpe.model special_tokens_map.json tokenizer_config.json tokenizer.json
ඔබ ගොනු ප්රමාණ දෙස බැලුවහොත් (උදාහරණයක් ලෙස, ls -lh
සමඟ), 400 MB ට වඩා වැඩි model state dict ගොනුව (pytorch_model.bin) එකම බහිහ්ස්ථිතය බව ඔබට පෙනෙනු ඇත.
අපි සාමාන්යයෙන් සාම්ප්රදායික Git නිධි සමඟ කරන ආකාරයටම අපට දැන් ඉදිරියට ගොස් ඉදිරියට යා හැක. git add
විධානය භාවිතයෙන් අපට සියලුම ගොනු Git හි වේදිකා පරිසරයට එක් කළ හැකිය:
git add .
එවිට අපට දැනට වේදිකාගත කර ඇති ගොනු දෙස බැලිය හැකිය:
git status
On branch main
Your branch is up to date with 'origin/main'.
Changes to be committed:
(use "git restore --staged <file>..." to unstage)
modified: .gitattributes
new file: config.json
new file: pytorch_model.bin
new file: sentencepiece.bpe.model
new file: special_tokens_map.json
new file: tokenizer.json
new file: tokenizer_config.json
ඒ හා සමානව, git-lfs එහි status
විධානය භාවිතා කිරීමෙන් නිවැරදි ගොනු ලුහුබඳින බව සහතික කර ගත හැක:
git lfs status
On branch main
Objects to be pushed to origin/main:
Objects to be committed:
config.json (Git: bc20ff2)
pytorch_model.bin (LFS: 35686c2)
sentencepiece.bpe.model (LFS: 988bc5a)
special_tokens_map.json (Git: cb23931)
tokenizer.json (Git: 851ff3e)
tokenizer_config.json (Git: f0f7783)
Objects not staged for commit:
LFS
ඇති pytorch_model.bin සහ sentencepiece.bpe.model හැර, සියලුම ගොනු වලට හසුරුවන්නක් ලෙස Git
ඇති බව අපට දැක ගත හැක.
අපි huggingface.co දුරස්ථ නිධිය වෙත යොමු කරමින් අවසාන පියවර වෙත යමු:
git commit -m "First model version"
[main b08aab1] First model version 7 files changed, 29027 insertions(+) 6 files changed, 36 insertions(+) create mode 100644 config.json create mode 100644 pytorch_model.bin create mode 100644 sentencepiece.bpe.model create mode 100644 special_tokens_map.json create mode 100644 tokenizer.json create mode 100644 tokenizer_config.json
ඔබගේ අන්තර්ජාල සම්බන්ධතාවයේ වේගය සහ ඔබගේ ගොනු වල ප්රමාණය අනුව තල්ලු කිරීමට සුළු කාලයක් ගත විය හැක:
git push
Uploading LFS objects: 100% (1/1), 433 MB | 1.3 MB/s, done.
Enumerating objects: 11, done.
Counting objects: 100% (11/11), done.
Delta compression using up to 12 threads
Compressing objects: 100% (9/9), done.
Writing objects: 100% (9/9), 288.27 KiB | 6.27 MiB/s, done.
Total 9 (delta 1), reused 0 (delta 0), pack-reused 0
To https://huggingface.co/lysandre/dummy
891b41d..b08aab1 main -> main
මෙය අවසන් වූ විට අපි ආකෘති නිධිය දෙස බැලුවහොත්, අපට මෑතකදී එකතු කරන ලද සියලුම ගොනු දැකිය හැකිය:
UI මඟින් ඔබට ආකෘති ගොනු සහ කැපවීම් ගවේෂණය කිරීමට සහ එක් එක් කැපවීම මඟින් හඳුන්වා දුන් වෙනස බැලීමට ඉඩ ලබා දේ: