Свою игровую карьеру Эрланд Йонсен начал в норвежском «Моссе», позднее он перешёл в мюнхенскую «Баварию». В «Баварии» Йонсен за два сезона дважды стал победителем чемпионата Германии: в 1989 и 1990 годах. В декабре 1989 года Йонсен перешёл в английский клуб «Челси», где отыграл восемь сезонов, а в 1995 году был признан игроком года «Челси». Он забил за этот клуб только однажды. Это случилось в апреле 1994 года в матче против «Саутгемптона». После победы в финале Кубка Англии 1997 года игрок вернулся в Норвегию, где сначала провёл один сезон за «Русенборг», а затем в июне 1999 года завершил карьеру в «Стрёмсгодсете».