O mais recomendado é fazer o upgrade dos dois, se for possível financeiramente. Caso não seja, não existe uma regra específica sobre qual é o componente que vai turbinar o seu notebook. Essa decisão depende das especificações técnicas de cada equipamento e do nível de exigência do usuário com o desempenho do aparelho.
Quando você usa seu notebook principalmente para aplicativos que executam apenas algumas operações de leitura/gravação na unidade de disco (por exemplo, navegação, e-mail, processamento de texto), atualizar a RAM ao máximo proporcionará uma melhoria perceptível no desempenho.
Já instalar um SSD e o máximo de RAM aumentará consideravelmente a velocidade até mesmo de um notebook antigo: o SSD fornece um aumento substancial de desempenho e adicionar RAM obterá o máximo do sistema.