Laub etterfulgte Josef Mayseder som østerriksk kammervirtuos i 1863. Tre år senere ble han utnevnt til professor ved konservatoriet i Moskva. Pjotr Tsjajkovskij kalte ham den største fiolinisten i verden og Laub var førstefiolinist ved premieren på Tsjajkovskijs første og andre strykekvartett. Den tredje strykekvartetten (1876) dediserte Tsjajkovskij ham posthumt.