Toiviainens foreldre var bonde Heikki Toiviainen og Anna Vilhelmiina Sihvo. Han ble uteksaminert fra Viborgs realyceum i 1899 og så fra Universitetet i Helsinki med en bachelorgrad i filosofi i 1904 og en mastergrad i 1923. Toiviainen var også revisor..