chenglu commited on
Commit
0f2e770
1 Parent(s): d13f390

Update Thinking Like Transformers-cn.md

Browse files
Files changed (1) hide show
  1. Thinking Like Transformers-cn.md +9 -9
Thinking Like Transformers-cn.md CHANGED
@@ -1,7 +1,7 @@
1
  # 了解 Transformers 是如何“思考”的
2
 
3
- - [论文](https://arxiv.org/pdf/2106.06981.pdf) 来自 Gail Weiss, Yoav Goldberg,Eran Yahav.
4
- - 博客参考 [Sasha Rush](https://rush-nlp.com/) 和 [Gail Weiss](https://sgailw.cswp.cs.technion.ac.il/)
5
  - 库和交互 Notebook: [srush/raspy](https://github.com/srush/RASPy)
6
 
7
  Transformer 模型是 AI 系统的基础。已经有了数不清的关于 "Transformer 如何工作" 的核心结构图表。
@@ -14,7 +14,7 @@ Transformer 模型是 AI 系统的基础。已经有了数不清的关于 "Trans
14
 
15
  但是这些图表没有提供任何直观的计算该模型的框架表示。当研究者对于 Transformer 如何工作抱有兴趣时,直观的获取他运行的机制变得十分有用。
16
 
17
- [ Transformers 一样思考](https://arxiv.org/pdf/2106.06981.pdf) 提出 transformer 类计算框架。这个框架直接计算和模仿 Transformer 计算。使用 [RASP](https://github.com/tech-srl/RASP) 编程语言,使每个程序编译成一个特殊的 Transformer 。
18
 
19
  在这篇博客中,我用 python 复现了 RASP 的变体 (RASPy)。该语言大致与原始版本相当,但是多了一些我认为很有趣的变化。通过这些语言,作者 Gail Weiss 的工作,提供了一套具有挑战性的有趣且正确的方式可以帮助了解其工作原理。
20
 
@@ -646,15 +646,15 @@ add()("683+345")
646
  ```python
647
  1028
648
  ```
649
- 非常整洁的东西。如果你对此主题更感兴趣,请务必查看论文:
650
 
651
- 像 Transformer 和 RASP 语言一样思考。
 
652
 
653
- 如果你通常对形式语言和神经网络 (FLaNN) 的联系感兴趣,或者认识感兴趣的人,那么这里有一个在线社区,到目前为止非常友好且相当活跃!
 
654
 
655
- https://flann.super.site/ 上查看。
656
-
657
- 这篇博文,包括库、可视化和博文,可在 https://github.com/srush/raspy 获取。
658
 
659
  <hr>
660
 
 
1
  # 了解 Transformers 是如何“思考”的
2
 
3
+ - [参考论文](https://arxiv.org/pdf/2106.06981.pdf) 来自 Gail Weiss, Yoav Goldberg,Eran Yahav.
4
+ - 本博客文章由 [Sasha Rush](https://rush-nlp.com/) 和 [Gail Weiss](https://sgailw.cswp.cs.technion.ac.il/) 共同编写
5
  - 库和交互 Notebook: [srush/raspy](https://github.com/srush/RASPy)
6
 
7
  Transformer 模型是 AI 系统的基础。已经有了数不清的关于 "Transformer 如何工作" 的核心结构图表。
 
14
 
15
  但是这些图表没有提供任何直观的计算该模型的框架表示。当研究者对于 Transformer 如何工作抱有兴趣时,直观的获取他运行的机制变得十分有用。
16
 
17
+ [Thinking Like Transformers](https://arxiv.org/pdf/2106.06981.pdf) 这篇论文中提出了 transformer 类的计算框架,这个框架直接计算和模仿 Transformer 计算。使用 [RASP](https://github.com/tech-srl/RASP) 编程语言,使每个程序编译成一个特殊的 Transformer 。
18
 
19
  在这篇博客中,我用 python 复现了 RASP 的变体 (RASPy)。该语言大致与原始版本相当,但是多了一些我认为很有趣的变化。通过这些语言,作者 Gail Weiss 的工作,提供了一套具有挑战性的有趣且正确的方式可以帮助了解其工作原理。
20
 
 
646
  ```python
647
  1028
648
  ```
649
+ 完美搞定!
650
 
651
+ 如果你对这个主题感兴趣想了解更多,请务必查看论文:
652
+ [Thinking Like Transformers](https://arxiv.org/pdf/2106.06981.pdf) 以及 [RASP 语言](https://github.com/tech-srl/RASP)。
653
 
654
+ 如果你对「形式语言和神经网络」(FLaNN) 感兴趣或者有认识感兴趣的人,欢迎邀请他们加入我们的线上社区!
655
+ https://flann.super.site/
656
 
657
+ 本篇博文,包含库、可视化和博文,可在 https://github.com/srush/raspy 查看和获取。
 
 
658
 
659
  <hr>
660