Marshallplanen ble vedtatt av den amerikanske Kongressen 3. april 1948. De allierte okkupasjonsmaktene diskuterte deretter hvordan disse midlene skulle videredistribueres i det tyske samfunnet. Storbritannia ønsket en sentral gjenoppbygningsinstitusjon, mens USA ville opprette et desentralisert banksystem i delstatene. Kompromisset ble en «utlånssentral» («Loan Corporation»), og KfW ble stiftet ved en egen lov 18. november samme år. Selskapet er et offentlig foretak (Anstalt des öffentlichen Rechts). Banken startet sin virksomhet 2. januar 1949. Bankens første styreleder var Otto Schniewind og nestleder Hermann Josef Abs.