Największy sukces w karierze André Gruchet osiągnął w 1959 roku, kiedy zdobył brązowy medal w sprincie indywidualnym amatorów podczas torowych mistrzostw świata w Amsterdamie. W zawodach tych wyprzedzili go jedynie dwaj Włosi: Valentino Gasparella oraz Sante Gaiardoni. W tym samym roku wystartował w sprincie na igrzyskach olimpijskich w Rzymie, gdzie odpadł już w eliminacjach. Cztery lata wcześniej wystąpił na igrzyskach w Melbourne, rywalizację w wyścigu tandemów kończąc na piątej pozycji. W swej koronnej konkurencji zdobył ponadto dwa medale torowych mistrzostw Francji, w tym złoty w 1968 roku. Startował również w wyścigach szosowych, ale bez większych sukcesów.