Think-tank Reform Skottland sade att rutten hade lämnats med begränsad potential för expansion.
Det sade Edinburgh till Tweedbank linjen hade visat tänkandet var "för liten" och planering "för kort sikt".
Den skotska regeringen sade att järnvägen hade visat sig vara en stor framgång och förväntade sig mer investeringar i framtiden.
Reform Skottland släppte skriftliga bevis som hade sänts till Transport Skottlands samråd om järnvägsinfrastruktur strategi.
Den har lagts fram på dess vägnar av den rådgivande styrelsemedlemmen Tom Harris, en före detta minister för transport av arbetskraft i Förenade kungarikets regering.
Han lägger fram en rad förslag, bland annat behovet av "större tänkande" i den långsiktiga visionen för Skottlands järnvägar.
Harris pekade ut Borders Railway för kritik mot byggandet av broar för att endast rymma enkelspårig bredd som ett exempel på gränser för framtida utvidgning.
Han sade: " Vi riskerar att missa helhetsbilden när det gäller att diskutera järnvägen i Skottland.
"Vi talar i mycket snäva ordalag om ScotRail och dess drift, men vad vi faktiskt behöver är en injektion av något kreativt, strategiskt tänkande så att vi kan ge det skotska folket ett järnvägssystem byggt för framtiden och en att vara stolt över."
Han efterlyste inrättandet av en skotsk kommission för järnvägsinfrastruktur för att undersöka vilka "ambitiösa omvandlingsprojekt och nya järnvägslinjer" som behövdes för att stärka den skotska ekonomin och "omforma vår anslutning som nation".
– Gränsjärnvägen visade oss att det finns en aptit på nya järnvägar i Skottland, men den visade också att vårt tänkande är för litet och vår planering för kort sikt, sade han.
"Det skeppet har nu seglat, men vi måste dra lärdom av det, tänka stort och planera länge, och det är därför behovet av en kommission är nu kritiskt."
En talesman för den skotska regeringen sade att den välkomnade reform Skottlands kommentarer.
"Think-tank har väckt frågor om struktur och vision", sade han.
"Det kommer att finnas olika åsikter om strukturer för att förverkliga visionen för Skottlands järnvägar, men det är tydligt att ambitionerna att vår järnväg ska vara en drivkraft för ekonomisk tillväxt och en positiv, integrerad del av vår sociala struktur är en ambition som delas tvärs över Skottland."
Han sa att öppnandet av Borders Railway hade varit en "orsak till firande" i Borders och Midlothian.
"Vi var alltid övertygade om att, med tiden, det skulle ge stora ekonomiska möjligheter och locka nya investeringar, så det är glädjande att se starka bevis på att besök och utgifter är upp betydligt som ett direkt resultat av den nya järnvägen," sade han.
"Med över 1,2 miljoner passagerarresor enbart under sitt första år, ytterligare platser på topptidstjänster och fler förbättringar och initiativ på gång, ser vi fram emot att se ännu mer investeringar och intresse i området under de kommande månaderna och åren."
Den skotska regeringen har försvarat Borders Railway efter att ha hävdat att infrastrukturvisionen för projektet var "kortsynt".