24 ทีมจะเข้าร่วมแข่งขันในรอบที่ 2 ซึ่งแต่ละกลุ่มจะเล่น 2 ทัวร์นาเมนต์ ระหว่างวันที่ 15–25 กันยายน ค.ศ. 2016 ทีมที่ได้อันดับที่ 1 จะผ่านการคัดเลือกโดยตรงสำหรับวอลเลย์บอลชายชิงแชมป์ยุโรป 2017 ส่วนอันดับที่ 2 จะผ่านการคัดเลือกเข้าสู่รอบที่ 3