Cả hai đã có quan hệ từ thế kỷ 13, thế nhưng bấy giờ quan hệ đã bị giới hạn bởi một loạt các cuộc chiến tranh biên giới và các cuộc xâm chiếm lãnh thổ nhau của hai nhà nước này. Năm 1262, quân Litva tiến hành đột kích xâm chiếm vùng Mašovice, giết chết Hoàng tử kiêm Công tước vùng Masovia, Siemowit I. Chỉ đến những năm 1320, khi vua Ba Lan, Władysław I Piast, liên minh với Đại công tước Litva, Gediminas, mối quan hệ mới bắt đầu cải thiện và đi lên. Con gái Gediminas, Aldona của Litva, kết hôn với Władysław, để nâng cao quan hệ. Aldona sau này hạ sinh ra Casimir III Piast, một trong những quân vương lừng danh của Ba Lan. Năm 1385, trước sự đe dọa của các Hiệp sĩ Teuton, hai nước đã liên minh với nhau qua Liên minh Krewo, mở đường cho sự liên minh sau này giữa hai nước được củng cố, và nò càng trở nên vững chắc với chiến thắng của cả hai trong Trận Grunwald trước quân Teuton của người Đức.