Transformers documentation

为 🤗 Transformers 做贡献

You are viewing v4.37.2 version. A newer version v4.46.3 is available.
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

为 🤗 Transformers 做贡献

欢迎所有人为 🤗 Transformers 做出贡献,我们重视每个人的贡献。代码贡献并不是帮助社区的唯一途径。回答问题、帮助他人和改进文档也非常有价值。

宣传 🤗 Transformers 也会帮助我们!比如在博客文章里介绍一下这个库是如何帮助你完成了很棒的项目,每次它帮助你时都在 Twitter 上大声宣传,或者给这个代码仓库点⭐️来表示感谢。

无论你选择以哪种方式做出贡献,请注意并尊重我们的行为准则

本指南的灵感来源于 scikit-learn贡献指南 ,它令人印象深刻.

做贡献的方法

有多种方法可以为 🤗 Transformers 做贡献:

  • 修复现有代码中尚未解决的问题。
  • 提交与 bug 或所需新功能相关的 issue。
  • 实现新的模型。
  • 为示例或文档做贡献。

如果你不知道从哪里开始,有一个特别的 Good First Issue 列表。它会列出一些适合初学者的开放的 issues,并帮助你开始为开源项目做贡献。只需要在你想要处理的 issue 下发表评论就行。

如果想要稍微更有挑战性的内容,你也可以查看 Good Second Issue 列表。总的来说,如果你觉得自己知道该怎么做,就去做吧,我们会帮助你达到目标的!🚀

所有的贡献对社区来说都同样宝贵。🥰

修复尚未解决的问题

如果你发现现有代码中存在问题,并且已经想到了解决方法,请随时开始贡献 并创建一个 Pull Request!

提交与 bug 相关的 issue 或功能请求

在提交与错误相关的 issue 或功能请求时,请尽量遵循下面的指南。这能让我们更容易迅速回复你,并提供良好的反馈意见。

你发现了 bug 吗?

🤗 Transformers 之所以强大可靠,要感谢用户报告了他们遇到的问题。

在提出issue之前,请你确认该 bug 尚未被报告(使用 GitHub 的 Issues 下面的搜索栏)。issue 也应该是与库本身的 bug 有关,而不是与你的代码有关。如果不确定 bug 是在你的代码中还是在库中,请先在论坛中询问。这有助于我们更快地解决与库相关的问题。

一旦你确认该 bug 尚未被报告,请在你的 issue 中包含以下信息,以便我们快速解决:

  • 使用的操作系统类型和版本,以及 PythonPyTorchTensorFlow 的版本。
  • 一个简短、独立的代码片段,可以让我们在不到30秒内重现这个问题。
  • 如果发生异常,请提供完整的 traceback。
  • 附上你认为可能有帮助的任何其他附加信息,如屏幕截图。

想要自动获取操作系统和软件版本,请运行以下命令:

transformers-cli env

你也可以从代码仓库的根目录下运行相同的命令:

python src/transformers/commands/transformers_cli.py env

你想要新功能吗?

如果你希望在 🤗 Transformers 中看到新功能,请提出一个 issue 并包含以下内容:

  1. 这个新功能的动机是什么呢?是因为使用这个库时遇到了问题或者感到了某种不满吗?是因为你的项目需要这个功能吗?或者是你自己开发了某项内容,并且认为它可能会对社区有所帮助?

    不管是什么,我们都很想听!

  2. 请尽可能详细地描述你想要的功能。你告诉我们的越多,我们就能更好地帮助你。

  3. 请提供一个代码片段,演示该功能的使用方法。

  4. 如果这个功能与某篇论文相关,请包含链接。

如果你描述得足够清晰,那么在你创建 issue 时,我们已经完成了80%的工作。

我们已经添加了模板,可能有助于你提出 issue。

你想要实现一个新模型吗?

我们会持续发布新模型,如果你想要实现一个新模型,请提供以下信息:

  • 模型的简要描述和论文链接。
  • 如果实现是开源的,请提供实现的链接。
  • 如果模型权重可用,请提供模型权重的链接。

如果你想亲自贡献模型,请告诉我们。让我们帮你把它添加到 🤗 Transformers!

我们已经添加了详细的指南和模板来帮助你添加新模型。我们还有一个更技术性的指南,告诉你如何将模型添加到 🤗 Transformers

你想要添加文档吗?

我们始终在寻求改进文档,使其更清晰准确。请告诉我们如何改进文档,比如拼写错误以及任何缺失、不清楚或不准确的内容。我们非常乐意进行修改,如果你有兴趣,我们也可以帮助你做出贡献!

有关如何生成、构建和编写文档的更多详细信息,请查看文档 README

创建 Pull Request

在开始编写任何代码之前,我们强烈建议你先搜索现有的 PR(Pull Request) 或 issue,以确保没有其他人已经在做同样的事情。如果你不确定,提出 issue 来获取反馈意见是一个好办法。

要为 🤗 Transformers 做贡献,你需要基本的 git 使用技能。虽然 git 不是一个很容易使用的工具,但它提供了非常全面的手册,在命令行中输入 git --help 并享受吧!如果你更喜欢书籍,Pro Git是一本很好的参考书。

要为 🤗 Transformers 做贡献,你需要 Python 3.8 或更高版本。请按照以下步骤开始贡献:

  1. 点击仓库页面上的 Fork 按钮,这会在你的 GitHub 账号下拷贝一份代码。

  2. 把派生仓库克隆到本地磁盘,并将基础仓库添加为远程仓库:

    git clone git@github.com:<your Github handle>/transformers.git
    cd transformers
    git remote add upstream https://github.com/huggingface/transformers.git
  3. 创建一个新的分支来保存你的更改:

    git checkout -b a-descriptive-name-for-my-changes

    🚨 不要main 分支工作!

  4. 在虚拟环境中运行以下命令来设置开发环境:

    pip install -e ".[dev]"

    如果在虚拟环境中已经安装了 🤗 Transformers,请先使用 pip uninstall transformers 卸载它,然后再用 -e 参数以可编辑模式重新安装。

    根据你的操作系统,以及 Transformers 的可选依赖项数量的增加,可能会在执行此命令时出现失败。如果出现这种情况,请确保已经安装了你想使用的深度学习框架(PyTorch, TensorFlow 和 Flax),然后执行以下操作:

    pip install -e ".[quality]"

    大多数情况下,这些应该够用了。

  5. 在你的分支上开发相关功能。

    在编写代码时,请确保测试套件通过。用下面的方式运行受你的更改影响的测试:

    pytest tests/<TEST_TO_RUN>.py

    想了解更多关于测试的信息,请阅读测试指南。

    🤗 Transformers 使用 blackruff 来保持代码风格的一致性。进行更改后,使用以下命令自动执行格式更正和代码验证:

    make fixup

    它已经被优化为仅适用于你创建的 PR 所修改过的文件。

    如果想要逐个运行检查,可以使用以下命令:

    make style

    🤗 Transformers 还使用了 ruff 和一些自定义脚本来检查编码错误。虽然质量管理是通过 CI 进行的,但你也可以使用以下命令来运行相同的检查:

    make quality

    最后,我们有许多脚本来确保在添加新模型时不会忘记更新某些文件。你可以使用以下命令运行这些脚本:

    make repo-consistency

    想要了解有关这些检查及如何解决相关问题的更多信息,请阅读 检查 Pull Request 指南。

    如果你修改了 docs/source 目录下的文档,请确保文档仍然能够被构建。这个检查也会在你创建 PR 时在 CI 中运行。如果要进行本地检查,请确保安装了文档构建工具:

    pip install ".[docs]"

    在仓库的根目录下运行以下命令:

    doc-builder build transformers docs/source/en --build_dir ~/tmp/test-build

    这将会在 ~/tmp/test-build 文件夹中构建文档,你可以使用自己喜欢的编辑器查看生成的 Markdown 文件。当你创建 PR 时,也可以在GitHub上预览文档。

    当你对修改满意后,使用 git add 把修改的文件添加到暂存区,然后使用 git commit 在本地记录你的更改:

    git add modified_file.py
    git commit

    请记得写一个好的提交信息来清晰地传达你所做的更改!

    为了保持你的代码副本与原始仓库的最新状态一致,在你创建 PR 之前或者在管理员要求的情况下,把你的分支在 upstream/branch 上进行 rebase:

    git fetch upstream
    git rebase upstream/main

    把你的更改推送到你的分支:

    git push -u origin a-descriptive-name-for-my-changes

    如果你已经创建了一个 PR,你需要使用 --force 参数进行强制推送。如果 PR 还没有被创建,你可以正常推送你的更改。

  6. 现在你可以转到 GitHub 上你的账号下的派生仓库,点击 Pull Request 来创建一个 PR。 请确保勾选我们 checklist 下的所有项目。准备好这些后,可以将你的更改发送给项目管理员进行审查。

  7. 如果管理员要求你进行更改,别气馁,我们的核心贡献者也会经历相同的事情!请在你的本地分支上进行工作,并将更改推送到派生仓库,以便于每个人都可以在 PR 中看到你的更改。这样它们会自动出现在 PR 中。

Pull request 的检查清单

☐ Pull request 的标题应该总结你的贡献内容。
☐ 如果你的 Pull request 解决了一个issue,请在 Pull request 描述中提及该 issue 的编号,以确保它们被关联起来(这样查看 issue 的人就知道你正在处理它)。
☐ 如果是正在进行中的工作,请在标题前加上 [WIP]。这有助于避免重复工作和区分哪些 PR 可以合并。
☐ 确保可以通过现有的测试。
☐ 如果添加了新功能,请同时添加对应的测试。

  • 如果添加一个新模型,请使用 ModelTester.all_model_classes = (MyModel, MyModelWithLMHead,...) 来触发通用测试。
  • 如果你正在添加新的 @slow 测试,请确保通过以下检查:RUN_SLOW=1 python -m pytest tests/models/my_new_model/test_my_new_model.py
  • 如果你正在添加一个新的分词器,请编写测试并确保通过以下检查:RUN_SLOW=1 python -m pytest tests/models/{your_model_name}/test_tokenization_{your_model_name}.py
  • CircleCI 不会运行时间较长的测试,但 GitHub Actions 每晚会运行所有测试!

☐ 所有公共 method 必须具有信息文档(比如 modeling_bert.py)。
☐ 由于代码仓库的体积正在迅速增长,请避免添加图像、视频和其他非文本文件,它们会增加仓库的负担。请使用 hf-internal-testing 等 Hub 仓库来托管这些文件,并通过 URL 引用它们。我们建议将与文档相关的图片放置在以下仓库中:huggingface/documentation-images。你可以在这个数据集仓库上创建一个 PR,并请求 Hugging Face 成员进行合并。

要了解更多有关在 Pull request 上运行的检查的信息,请查看我们的 检查 Pull Request 指南。

测试

包含了广泛的测试套件来测试库的行为和一些示例。库测试可以在 tests 文件夹中找到,示例测试可以在 examples 文件夹中找到。

我们喜欢使用 pytestpytest-xdist,因为它运行更快。在仓库的根目录,指定一个子文件夹的路径或测试文件来运行测试。

python -m pytest -n auto --dist=loadfile -s -v ./tests/models/my_new_model

同样地,在 examples 目录,指定一个子文件夹的路径或测试文件 来运行测试。例如,以下命令会测试 PyTorch examples 目录中的文本分类子文件夹:

pip install -r examples/xxx/requirements.txt  # 仅在第一次需要
python -m pytest -n auto --dist=loadfile -s -v ./examples/pytorch/text-classification

实际上这就是我们的 make testmake test-examples 命令的实现方式(不包括 pip install)!

你也可以指定一个较小的测试集来仅测试特定功能。

默认情况下,会跳过时间较长的测试,但你可以将 RUN_SLOW 环境变量设置为 yes 来运行它们。这将下载以 GB 为单位的模型文件,所以确保你有足够的磁盘空间、良好的网络连接和足够的耐心!

记得指定一个子文件夹的路径或测试文件来运行测试。否则你将会运行 testsexamples 文件夹中的所有测试,它会花费很长时间!

RUN_SLOW=yes python -m pytest -n auto --dist=loadfile -s -v ./tests/models/my_new_model
RUN_SLOW=yes python -m pytest -n auto --dist=loadfile -s -v ./examples/pytorch/text-classification

和时间较长的测试一样,还有其他环境变量在测试过程中,在默认情况下是未启用的:

  • RUN_CUSTOM_TOKENIZERS: 启用自定义分词器的测试。
  • RUN_PT_FLAX_CROSS_TESTS: 启用 PyTorch + Flax 整合的测试。
  • RUN_PT_TF_CROSS_TESTS: 启用 TensorFlow + PyTorch 整合的测试。

更多环境变量和额外信息可以在 testing_utils.py 中找到。

🤗 Transformers 只是使用 pytest 作为测试运行程序,但测试套件本身没用任何与 pytest 相关的功能。

这意味着完全支持 unittest 。以下是如何使用 unittest 运行测试的方法:

python -m unittest discover -s tests -t . -v
python -m unittest discover -s examples -t examples -v

风格指南

🤗 Transformers 的文档遵循 Google Python Style Guide。请查看我们的 文档编写指南 来获取更多信息。

在 Windows 上开发

在 Windows 上(除非你正在使用 Windows Subsystem for Linux 或 WSL),你需要配置 git 将 Windows 的 CRLF 行结束符转换为 Linux 的 LF 行结束符:

git config core.autocrlf input

在 Windows 上有一种方法可以运行 make 命令,那就是使用 MSYS2:

  1. 下载 MSYS2,假设已经安装在 C:\msys64
  2. 从命令行打开 C:\msys64\msys2.exe (可以在 开始 菜单中找到)。
  3. 在 shell 中运行: pacman -Syu ,并使用 pacman -S make 安装 make
  4. C:\msys64\usr\bin 添加到你的 PATH 环境变量中。

现在你可以在任何终端(Powershell、cmd.exe 等)中使用 make 命令了! 🎉

将派生仓库与上游主仓库(Hugging Face 仓库)同步

更新派生仓库的主分支时,请按照以下步骤操作。这是为了避免向每个上游 PR 添加参考注释,同时避免向参与这些 PR 的开发人员发送不必要的通知。

  1. 可以的话,请避免使用派生仓库上的分支和 PR 来与上游进行同步,而是直接合并到派生仓库的主分支。
  2. 如果确实需要一个 PR,在检查你的分支后,请按照以下步骤操作:
git checkout -b your-branch-for-syncing
git pull --squash --no-commit upstream main
git commit -m '<your message without GitHub references>'
git push --set-upstream origin your-branch-for-syncing