Filip Novák begann seine Karriere als Eishockeyspieler in seiner Heimatstadt im Nachwuchsbereich des HC České Budějovice, in dem er bis 1999 aktiv war. Anschließend wechselte der Verteidiger für drei Jahre zu den Regina Pats in die kanadische Juniorenliga Western Hockey League. In diesem Zeitraum wurde er im NHL Entry Draft 2000 in der zweiten Runde als insgesamt 64. Spieler von den New York Rangers ausgewählt, für die er allerdings nie spielte. Stattdessen stand er von 2002 bis 2005 für die San Antonio Rampage in der American Hockey League auf dem Eis, wobei er die gesamte &lt;a href="AHL%202003/04"&gt;Saison 2003/04&lt;/a&gt; verletzungsbedingt verpasste. Im Sommer 2005 unterschrieb er bei den Ottawa Senators, für die er in der &lt;a href="NHL%202005/06"&gt;Saison 2005/06&lt;/a&gt; sein Debüt in der National Hockey League gab. In seinem Rookiejahr bestritt er für die Kanadier insgesamt elf Spiele. Die restliche Spielzeit verbrachte er allerdings bei deren Farmteam aus der AHL, den Binghamton Senators.