Hoewel hij eerder had gezegd niet onder Jan Peter Balkenende in een kabinet te willen plaatsnemen, werd Bos op 22 februari 2007 toch beëdigd als minister van Financiën en vicepremier in het kabinet-Balkenende IV. Bos was de enige PvdA'er in het kabinet met regeringservaring en als vicepremier dacht hij beter leiding te kunnen geven aan het PvdA-smaldeel onder de bewindspersonen. In de formatie wist Bos voor elkaar te krijgen dat de voorgestelde liberalisering van huren werd teruggedraaid. Er kwam een pardonregeling voor asielzoekers en er zou worden geïnvesteerd in onderwijs en achterstandswijken. Het ontslagrecht zou niet worden versoepeld. Daarentegen hield het CDA een parlementair onderzoek naar de Nederlandse steun aan de invasie van Irak tegen, iets waar de PvdA zich eerder juist voor had uitgesproken. Ook werd onder andere afgesproken dat er geen aanpassing zou komen van de hypotheekrenteaftrek.