この場合の「One」は「someone」（誰か）、あるいは個人を指します。つまり、「I was the one」は「私がその人だった」という意味になります。「One」は通常、こうした文脈では 「someone」を指しますが、ものを表すときにも使えますし、特定のものを意味するときにも使えます。
例: I don't know which chair is the best one.（どの椅子が一番いいのかわからない。）
例: You're the one I need to talk to.（あなたと話をする必要がある。）