李世民在虎牢之战中连破夏王窦建德、郑王王世充两大割据势力，并俘获二人至首都长安，为唐王朝统一了中国北方。李渊认为李世民已经位列秦王、太尉（三公之首，主管全国军事）兼尚书令（尚书省长官，宰相之首），封无可封，且已有的官职无法彰显其荣耀，而特设此职位，并加领司徒（三公的第二位，主管全国教化，此时三师和太尉之职空缺，司徒实为百官之首），同时仍兼尚书令。天策上将职位在亲王、三公之上，仅次于名义上的文官之首三师（即太师、太傅、太保）；天策府则是武官官府之首，在十四卫府之上；天策上将可以自己招募人才作为天策府中官员