Negli stessi anni consegue numerosi e importanti successi anche dal punto di vista cestistico, giocando nell'Olimpia Milano di Adolfo Bogoncelli. Rubini disputa 39 incontri con la maglia azzurra prendendo parte agli europei di Ginevra, dove l'Italia conquista il secondo posto, ed agli europei di Praga, di Parigi e di Mosca. Inoltre conquista 5 campionati italiani consecutivi (dal 1950 al 1954, tutti come giocatore-allenatore dell'Olimpia Milano.