Einige Jahre nach ihrer Lagerhaft im KZ Ravensbrück beging seine Mutter im April 1948 Selbstmord. Hans-Joachim Klein war damals fünf Monate alt. Danach wuchs er bei einer Pflegemutter auf, bis der Vater ihn nach erneuter Heirat zu sich holte. Die Beziehung zu seinem Vater, einem Polizeibeamten, war geprägt von Konflikten und Gewalt gegen den Jungen. Nach einer Lehre als Autoschlosser und einem achtmonatigen Aufenthalt im Jugendgefängnis wegen eines Straßenraubs stieß Klein zum linksradikalen Milieu im Frankfurter Westend und war aktiv in der Putzgruppe. Später engagierte er sich in der Roten Hilfe für inhaftierte Mitglieder der Rote Armee Fraktion (RAF). Als Jean-Paul Sartre 1974 nach Stuttgart-Stammheim kam, um Andreas Baader zu besuchen, wurde er von Klein am Frankfurter Flughafen abgeholt und zur Haftanstalt chauffiert. 1974 wurde er auch für die Revolutionären Zellen angeworben. Klein beteiligte sich 1975 zusammen mit Gabriele Kröcher-Tiedemann und dem weltweit gesuchten Terroristen Ilich Ramírez Sánchez („Carlos“) an der OPEC-Geiselnahme in Wien.