Руководство рейхсвера организовало подготовку добровольцев в соединениях, выдаваемых за невоенные, трудовые организации. В основном новобранцы служили около трёх месяцев, сама служба проходила в пограничных отрядах и отличалась лучшим качеством в сравнении с другими полулегальными военизированными организациями тех лет. Такие соединения вооружались из схронов, утаенных немецкими офицерами от международных комиссий, следивших за исполнением соглашений. Первое название было Бундесве (), но в скором времени от каких-либо названий было решено отказаться. Чёрный рейхсвер получал финансирование от крупных германских промышленников, прежде всего, Гуго Стиннеса (его вклад был настолько велик, что чёрный рейхсвер нередко называли «солдатами Стиннеса»). В 1923 году существование чёрного рейхсвера было раскрыто во время Кюстринского путча. Рурский конфликт подтолкнул майора чёрного рейхсвера Бухрукера поднять в своих частях восстание и свергнуть берлинское правительство. Лишь немногие последовали за ним, и восстание провалилось.