A.- Der 1962 geborene B._ arbeitete seit 1988 bei der H._ AG als Bauarbeiter. Am 17. November 1998 wurde ihm die Stelle per 28. Februar 1999 gekündigt, nachdem er seit 21. Januar 1997 nicht mehr gearbeitet hatte. Am 14. Januar 1998 meldete er sich wegen Rückenbeschwerden und psychischer Probleme bei der Invalidenversicherung zum Rentenbezug an. Die IV-Stelle des Kantons Zürich holte Berichte des Dr. med. J._ vom 30. Januar 1998, und des Dr. med. K._, Innere Medizin FMH, vom 20. März 1998, sowie ein Gutachten der Medizinischen Abklärungsstelle (MEDAS, vom 28. Mai 1999) ein. Gestützt auf diese Unterlagen sprach sie dem Versicherten ab 1. Dezember 1997 bei einem Invaliditätsgrad von 45 % eine Viertelsrente zu (Verfügungen vom 10. April 2000). B.- Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 24. April 2001 ab. C.- Mit Verwaltungsgerichtsbeschwerde beantragt der Versicherte, in Aufhebung des kantonalen Entscheides sei ihm ab 1. Dezember 1997 eine ganze Invalidenrente zuzusprechen; eventuell sei ein neutrales Gutachten, insbesondere auch in psychiatrischer Hinsicht einzuholen. Ferner ersucht er um Gewährung der unentgeltlichen Prozessführung und Verbeiständung. Er legt einen Arztbericht des Dr. med. K._ vom 4. Januar 2000 betreffend seine Ehefrau auf. Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.