Eve Stratford, 22 år, som arbetade på Londons Playboyklubb, hittades med halsen avskuren i sitt hem i Leyton i östra London i mars 1975.
Sex månader senare dog Lynne Weedon, 16 år, efter att ha blivit attackerad och våldtagen i närheten av sitt hem i Hounslow i västra London.
En länk gjordes 2006 efter att matchande DNA hittats på offren.
Polisinspektör Noel McHugh sade: " Jag tror fullt och fast att det finns någon där ute som har information om vem som utförde dessa mord.
"Det är otänkbart att mördaren av Eve och Lynne har hållit den perfekta hemligheten i 40 år."
McHugh beskrev skulden som en "tunga börda att bära" och vädjade särskilt till mentalvårdspersonal och fängelsetjänstemän som kan ha fått information från en patient eller fånge.
Han sa att mördaren "måste ha låtit detaljer glida över åren - kanske till en partner, en vän, även en cellkamrat - och jag skulle vädja till alla med information att kontakta oss."
Ms Stratford, som senast sågs gå hem den 18 mars 1975, hittades död med händerna bundna av en halsduk i sovrummet i hennes lägenhet efter att hennes hals hade skurits nästan ett dussin gånger.
En granne hade hört ett samtal mellan en man och en kvinna komma från hennes lägenhet, följt av en högljudd duns.
Den 3 september 1975 blev Lynne Weedon slagen i huvudet med ett trubbigt instrument när hon gick hem.
Hon kastades sedan över ett stängsel på marken till en elstation, där hon blev våldtagen. Hon dog en vecka senare av sina huvudskador.
Polisen har beskrivit mördaren som en vit man, mellan 17 och 30 år 1975.
Nu är troligen i 60- eller 70-årsåldern, polisen säger att den som dödade Eve Stratford kan ha känt henne - eftersom det inte fanns några tecken på inbrott i hennes lägenhet.
Mördaren skulle också ha haft en tydlig koppling till både Leyton- och Hounslow-områdena, enligt polisen.
Evas far, hennes sista levande släkting, har sedan dess dött utan att veta vem som dödade henne eller varför.
Lynnes föräldrar, nu båda i 80-årsåldern, sade att de fortfarande väntar på svar.
Hennes mor, Margaret Weedon, beskrev mordet som en "sann livstidsdom" för familjen.
Hon gjorde en "mors vädjan" om att alla med information skulle träda fram och sade: "Vi har missat så mycket; hon har missat livet, inget förhållande eller äktenskap, ingen karriär eller barn eller ens bara resa runt i världen, allt taget från henne.
"Vi får 40 år på oss att alltid undra hur det skulle ha varit.
"Vi är väl medvetna om att den som mördade Lynne också mördade Eve Stratford. Den unga damen snuddade också ner sitt liv. Hennes familj har dött nu."
Mrs Weedon sa att smärtan av hennes dotters död fortfarande sitter "djupt någonstans inuti".
Hon tillade: " Det finns så många frågor. Så många tankar. Så mycket hjärtesorg.
"Snälla, ge oss något slags avslut."
Metropolitan-polisen har erbjudit 40 000 pund för information om morden på en kanin och en tonåring.