הולצנביין החל לשחק בנבחרת גרמניה המערבית בשנת 1973, וצבר בסך הכל 40 הופעות, בהן הבקיע חמישה שערים. הולצנביין ייצג את גרמניה המערבית במונדיאל 1974, בו זכתה הנבחרת לאחר ניצחון 1–2 במשחק הגמר על נבחרת הולנד. הולצנביין שיחק 90 דקות בגמר זה, בו הולנד הובילה 0–1 משער מוקדם של יוהאן ניסקנס. הולצנביין סחט פנדל בדקה ה-25, שתורגם לשער השוויון של פול ברייטנר, ובהמשך גרד מילר הבקיע את שער הניצחון לטובת גרמניה המערבית. הולצנביין השתתף ביורו 1976, בו הגיעה נבחרת גרמניה המערבית לגמר, והפסידה לנבחרת צ'כוסלובקיה בפנדלים, לאחר 2-2 במשחק עצמו. הולצנביין הבקיע את שער השוויון לגרמניה המערבית בדקה ה-89, שהספיק כדי לכפות הארכה ותו לא. במונדיאל 1978 הודחה נבחרת גרמניה המערבית בשלב הבתים השני. הולצנביין הבקיע בשלב זה שער בהפסד 2–3 לנבחרת אוסטריה, במשחק שנערך בקורדובה שבארגנטינה. הפסד זה הביא להדחתה של נבחרת גרמניה המערבית, במשחק שכונה הנס של קורדובה, בו נבחרת אוסטריה ניצחה לראשונה את נבחרת גרמניה המערבית מאז תקופת האנשלוס. לאחר מונדיאל 1978 הולצנביין לא שיחק יותר בנבחרת.