Faits: A. Née le *** 1997 et domiciliée à D._ dans le canton de Berne, A._ a effectué toute sa scolarité obligatoire dans le canton de Neuchâtel. Le 11 février 2011, les parents de l'intéressée ont déposé auprès de la Section des écoles moyennes de l'Office de l'enseignement secondaire du 2e degré et de la formation professionnelle (ci-après: la Section des écoles moyennes) une demande de prise en charge de l'écolage pour la fréquentation à partir du 1er août 2012 du Lycée E._ à F._, où A._ désirait suivre la filière de maturité bilingue français-anglais. B. Par courrier du 17 février 2012, la Section des écoles moyennes a refusé la prise en charge de l'écolage au motif que les conditions posées par le droit cantonal et intercantonal n'étaient pas remplies. Ce courrier a été confirmé par décision formelle du 23 avril 2012. Le 16 octobre 2012, la Direction de l'instruction publique du canton de Berne (ci-après: la Direction de l'instruction publique) a rejeté le recours déposé par A._ contre cette décision. Par jugement du 4 août 2013, le Tribunal administratif du canton de Berne (ci-après: le Tribunal administratif) a rejeté le recours de A._ contre la décision du 16 octobre 2012. C. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral, principalement, d'annuler le jugement du Tribunal administratif du 4 août 2013, de la mettre au bénéfice de la contribution cantonale pour ses frais d'écolage au Lycée E._ et de condamner l'Etat de Berne à prendre en charge cette contribution. Subsidiairement, elle demande le renvoi de la cause à l'instance précédente ou à l'autorité de première instance pour nouvelle décision dans le sens des considérants. La Direction de l'instruction publique et la Section des écoles moyennes ont renoncé à se déterminer. Le Tribunal administratif a déposé des observations, se référant pour le surplus à l'arrêt entrepris. L'intéressée a répondu le 2 décembre 2013.