可信的《日本书纪》是第一部提及此剑的典籍，《日本书纪》记载了当代或较接近当代时期的事件，该等章节的内容则被视为基于史实。于《日本书纪》中，天丛云剑被认为导致天武天皇生病，于是在688年从天皇寝宫移出，迁置于热田神宫内。天丛云剑是三神器之一，和八咫镜及八尺琼勾玉并列，且和八尺琼勾玉合称剑玺。根据《平家物语》，本剑于坛之浦之战中爲平时子持之并抱安德天皇一同投海自尽，故已永失于海。若《平家物语》所言属实，现存的天丛云剑就并非原物。