大阪府師範学校（1874年教員伝習所として創設）は1877年6月、北区常安町（現在の北区中之島4丁目）に校舎を構えた。これに伴い1877年7月15日、大阪府師範学校内に附属演習学校を設置したことが学校の始まりとなっている。大阪府師範学校は1880年以降一時法円坂に移転し、当時東区にあった私立森小学校を附属演習学校とした。旧敷地は大阪府立中学校（大阪府立北野高等学校の前身）となった。大阪府師範学校は1881年に、中之島の旧敷地に再度移転して大阪府立中学校と合併している（後に再分離）。旧敷地復帰の際には公立田蓑小学校（のち中之島小学校）を附属演習学校とした。1882年9月には師範学校内に附属小学校を併設した。明治時代中期には中之島の校地が狭隘化したため、1901年に師範学校の男子部と女子部を分離し、それぞれ別の校地に移転することになった。師範学校男子部は1901年に南区天王寺南河堀町（現在の大阪教育大学天王寺キャンパス）へと移転している（1908年大阪府天王寺師範学校に改称）。その際に附属小学校も天王寺の師範学校校舎内に移転している。1941年には国民学校令により、大阪府天王寺師範学校附属国民学校となった。1943年には師範学校が官立に移管し、従来の大阪府天王寺師範学校は大阪府女子師範学校（かつての大阪府師範学校女子部）と合併した上で、大阪第一師範学校へと改編された。これに伴い附属国民学校も国立となり、大阪第一師範学校男子部附属国民学校へと改称した。太平洋戦争の戦局悪化により、1944年には初等科3年以上の児童を対象に南河内郡東条村（現在の富田林市）へ学童集団疎開を実施している。また高等科生徒については1945年、泉北郡信太村（現在の和泉市）へ勤労動員された。学制改革に伴い、1947年に新制小学校・大阪第一師範学校男子部附属小学校が発足した。高等科は廃止され、新設の附属中学校へと転用されている。なお学制改革に伴って師範学校が新制大阪学芸大学に移行したことに伴い、小学校の校名も大阪学芸大学大阪第一師範学校男子部附属小学校（1949年）・大阪学芸大学附属天王寺小学校（1951年）と短期間で変遷している。また新制大阪学芸大学の発足により大学設備の拡充が必要になったことから、従来師範学校および大学に同居していた附属小学校については別の敷地に移転する必要が生じた。1951年5月には3年生以上の児童について、浪速区・大阪市立敷津小学校の校舎を借りて仮移転した。1・2年生児童については天王寺の旧校舎に残っていた。1951年12月には現在地の校地の買収が行われ、1953年3月に3年生以上の児童が敷津小学校から現在地の校舎へと移転している。その後1945年4月に2年生が天王寺から現在地に移転し、また1955年1月に1年生が天王寺から現在地に移転して完全移転となった。1967年には設置母体の名称変更により、大阪教育大学附属天王寺小学校へと改称した。また1973年には大阪教育大学教育学部附属天王寺小学校と改称し、2004年には独立行政法人化により大阪教育大学附属天王寺小学校へと再改称している。
小学生当時より強肩ぶりを発揮し、町内の小学生が集まり記録を競う「陸上競技記録会」のソフトボール遠投にて70mを超える記録を残す。1976年の夏の甲子園で石川・星稜高等学校の2年生エースとして準決勝まで進出。その年の優勝校である西東京代表の桜美林高と対戦、松本吉啓（明大－明治生命）に抑えられ敗退したものの、その剛速球は注目されることとなった。3年生となった翌1977年春の選抜では、1回戦で滝川高のアンダースロー技巧派、西口訓史（國學院大）と投げ合うが完封負け。同年夏の甲子園では、1回戦で奈良・智弁学園の山口哲治と壮絶な投手戦を繰り広げるが、序盤に制球を乱して喫した2失点が響き、1対2で敗退した。同年のドラフト会議で中日ドラゴンズから2位指名を受けて入団（1位指名は入団が1978年秋まで遅れ、1979年に新人王となった藤沢公也）。この年の高校球界には、小松や山口の他にも夏の甲子園で優勝した兵庫・東洋大姫路高校の松本正志、福島県予選を無失点で制した福島商業高校の三浦広之、春の覇者、箕島高校を予選で破った和歌山・田辺高校の木下透と才能あふれる投手が数多く高卒でプロ球界に入団したが、長く活躍できたのは小松だけである。1979年にリリーフとして一軍に定着し、5月には月間MVPを獲得。1981年に先発転向し、前年から174試合連続得点を続けていた読売ジャイアンツを相手にプロ入り初の完封勝利を挙げた。1982年は近藤貞雄が監督のもと、リーグ優勝の胴上げ投手に。なお、この年は開幕投手を務めながらその試合で故障。復帰後、入れ替わりに故障して二軍落ちした牛島和彦に代わって抑えを務め、開幕戦以来の先発登板が最終戦だった。1985年は最多勝、最優秀防御率、最優秀投手、沢村賞の投手タイトルを総なめ。1986年は開幕戦でピッチャーライナーを足に受けた影響で成績は振るわず。1987年には自身2度目の最多勝を獲得、1988年には開幕戦で内転筋を痛めたものの12勝を挙げて6年ぶりのリーグ優勝に貢献。1989年は内転筋の故障が悪化して0勝に終わり、1990年以降2桁勝利を挙げることはできず規定投球回もクリアすることはできなかった。1994年に現役引退。引退試合は1995年3月26日、ナゴヤ球場でのオープン戦で行われ、5回に登板。最後に対戦した打者は、少年時代に小松に強く憧れていたイチローだった。引退後、1995年は中日の二軍投手コーチ、1996年から1997年まで一軍投手コーチを務めたが1997年はチーム防御率5位と低迷し最下位転落の原因となり、同年オフに宮田征典を一軍投手コーチに招聘したのと入れ替えに解任される。当時監督だった星野仙一は著書の中で「現役陣と年が近すぎたせいか、選手との仲間意識を捨てきれない。時には情を捨て、厳しさを前面に出すことが必要なのだ。ところが小松は兄貴からコーチへ変わって行けなかった。中日OBにもコーチとしてのチャンスを与えたかった。しかし、二年経っても、小松コーチに著しい進歩がない以上、もう一度コーチングスタッフの体制を見直さなければならないと考えてのことだった」と記している。1998年からは、CBCテレビ・CBCラジオの野球解説者および中日スポーツ野球評論家を務めていた他、居酒屋「海鮮山」を経営していた。しかし、2017年12月12日、名古屋市東区赤塚の交差点で自身が乗用車を運転中、自転車と衝突する事故を起こした（自転車に乗っていた男性はその後死亡）。書類送検されて解説者としての活動を自粛していたが、2018年4月26日付けで不起訴処分になった（不起訴の理由は明らかにされていない）。同年7月からCBCテレビ・CBCラジオ野球解説者および中日スポーツ野球評論家に復帰した。