Sachverhalt: A. Der 1968 geborene F._ war ab September 2009 als LKW-Chauffeur bei der E._ AG tätig und dadurch bei der Schweizerischen Unfallversicherungsanstalt (SUVA) obligatorisch gegen Unfallfolgen und Berufskrankheiten versichert. Am 24. Juli 2010 wollte er einen Bremsschlauch am LKW befestigen. Dabei rutschte er von einem Tritt ab und stürzte. Er klagte danach namentlich über Nackenbeschwerden und Kopfschmerzen. Es wurde nebst einer Prellung im unteren Rückenbereich ein Schleudertrauma der Halswirbelsäule (HWS) diagnostiziert. Die SUVA gewährte Heilbehandlung und richtete Taggeld aus. In der Folge machte F._ geltend, auch an Beschwerden an den Ellbogen zu leiden. Diesbezüglich diagnostizierten Dr. med. K._ mit Bericht vom 10. Januar 2011 eine rechtsseitige Epicondylitis ulnaris humeri und Dr. med. W._ mit Bericht vom 31. Januar 2011 eine beidseitige Epicondylitis medialis humeri. Anlässlich einer Hospitalisation in der Klinik X._ vom 22. bis 23. März 2011 wurde gestützt auf die Diagnose einer Epicondylitis humeri ulnaris rechts ein operativer Eingriff (Neurolyse des Nervus ulnaris, Ablösen des Flexor carpi ulnaris und Denervierung nach Wilhelm) vorgenommen. Mit Verfügung vom 27. April 2011 eröffnete die SUVA dem Versicherten, die bis dahin erbrachten Versicherungsleistungen würden mangels eines rechtserheblichen Kausalzusammenhangs zwischen dem Unfall vom 24. Juli 2010 und den noch geklagten Beschwerden per 30. April 2011 eingestellt. Sie verneinte überdies jeglichen Leistungsanspruch bezüglich der Ellbogenbeschwerden, da diese nicht natürlich unfallkausal seien. Daran hielt die SUVA auf Einsprache des Versicherten hin fest. Sie verneinte dabei hinsichtlich der Ellbogenbeschwerden auch eine unfallähnliche Körperschädigung (Entscheid vom 9. August 2011). B. Beschwerdeweise beantragte F._, in Aufhebung des Einspracheentscheids vom 9. August 2011 sei ein medizinisches Gutachten einzuholen resp. anzuordnen und sei festzustellen, dass die SUVA aus Unfall resp. unfallähnlicher Körperschädigung, eventuell aus Berufskrankheit, ab 1. Mai 2011 weitere Leistungen, insbesondere Heilbehandlung und Taggeld, zu erbringen habe. Das Kantonsgericht Basel-Landschaft gewährte ihm die unentgeltliche Rechtspflege und wies die Beschwerde mit Entscheid vom 3. Mai 2012 ab. Es verneinte dabei namentlich auch eine Berufskrankheit. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt F._ die Aufhebung des vorinstanzlichen Entscheids und eventualiter die Rückweisung der Sache zur Neubeurteilung an das kantonale Gericht beantragen sowie seine vorinstanzlichen Beweis- und Leistungsbegehren wiederholen. Weiter wird um Gewährung der unentgeltlichen Rechtspflege für das letztinstanzliche Verfahren ersucht. Die SUVA schliesst auf Abweisung der Beschwerde.