Merkinė er en af de ældste litauiske bosættelser og blev første gang nævnt i skriftlige kilder i 1359 i Novgorods krønike. Nogle historikere som Michał Balinski og Aleksander Połujański mener at byen blev grundlagt af viking]erne i 1200-tallet. Byen er placeret ved Merkinė slotsbakke, hvor man fra en gammel borgbanke kontrollerede floderne. Mest sandsynligt blev bebyggelsen og borgen grundlagt i 1200-tallet som en del af unge litauiske stats forsvarsanlæg. Træborgen Merkinė var en vigtig del af forsvarlinje af slotte ved Nemunas mod Den Tyske Orden. Da Storfyrsten af Litauen og konge af Polen Jogaila gav Vilnius byrettigheder i 1387 blev dokumentet underskrevet på Merkinė slot. Første kirke blev bygget i 1387-1392 af Vytautas Didysis og Jogaila. Efter slaget ved Grunwald voksede byen hurtigt. I 1532 holdt den litauiske Sejmas måde i Merkinė. Indtil byen fik Magdeburgrettigheder var der skatteopkrævere i Merkinė, og efterhånden var der et øget antal af kroer og handelen øgeedes.