Em 1961, Harald Nielsen mudou-se para a Itália para jogar profissionalmente pelo Bologna FC. Em Bolonha, ele recebeu o apelido "il freddo danese" (o frio dinamarquês) tendo ganhado a Série A de 1963-64 e sendo o artilheiro da liga italiana em 1963 e 1964. Depois de seis temporadas atuando pelo Bologna, Harald Nielsen transferiu-se para a Internazionale de Milão em 1967, em uma transferência que o tornou o jogador mais caro do mundo na época. Nielsen não conseguiu o mesmo sucesso com o Inter como conseguiu com o Bologna, e nos anos seguintes acabou se transferindo para o Napoli em 1968 e para o Sampdoria em 1969. Ele encerrou sua carreira como jogador em 1970 após uma lesão nas costas.