Yalçın Küçük, İskenderun'a Halep'ten gelip yerleşmiş bir ailenin çocuğudur. Baba tarafından Türkmen, anne tarafından ise Kafkasyalı bir aileye mensuptur. Kabataş Lisesinden mezun olmasının ardından, Ankara Üniversitesi Siyasal Bilgiler Fakültesindeki öğrencilik hayatı boyunca; Fikir Kulüpleri Federasyonu, ardından Sosyalist Fikir Kulüpleri Federasyonu, Dev-Genç ve Türkiye Halk Kurtuluş Partisi olan Fikir Kulübü başkanlığını yaptı. Siyasal Bilgiler’i 1960 senesinde birincilikle bitiren Küçük, 27 Mayıs Darbesi'nde, büyük öğrenci eylemlerinin başında yer aldı. 27 Mayıs 1960 Darbesi sonrasında Devlet Planlama Teşkilatı'nda görev aldı. Bir süre sonra Uzun Vadeli Planlar Dairesi Müdürlüğüne getirildi, ardından istifa etti. Yalçın Küçük, buradan ayrılınca Amerika'ya gitti, Yale Üniversitesinde lisans eğitimi aldı. Ardından mülakatı kazanarak dört ay boyunca da Dünya Bankası'nda staj yaptı.