Rossi følte seg kalt i 1891 til å gå inn i det religiøs liv; faren var imot dette, og sendte ham til filosofistudier ved kollegiet Pisa. Der ble Giuseppe Toniolo en av hans mentorer.