Sachverhalt:
A. Der 1954 geborene, zuletzt als Schaler tätig gewesene J._ meldete sich am 16. September 2003 unter Hinweis auf Rückenbeschwerden und eine Depression nach dem Tod seines Sohnes bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen in erwerblicher und medizinischer Hinsicht lehnte die IV-Stelle Uri das Leistungsgesuch mit Verfügung vom 4. Dezember 2006 ab. Nachdem das Obergericht des Kantons Uri die von J._ eingereichte Beschwerde mit Entscheid vom 11. Januar 2008 teilweise gutgeheissen hatte, gelangte die IV-Stelle beschwerdeweise ans Bundesgericht. Dieses hiess die Beschwerde gut, hob den angefochtenen Entscheid auf und wies die Sache an das Obergericht des Kantons Uri zurück, damit es über die Beschwerde gegen die Verfügung vom 4. Dezember 2006 materiell entscheide (Urteil vom 13. Oktober 2008; 8C_125/2008).
B. Mit Entscheid vom 29. Januar 2010 hob das Obergericht des Kantons Uri die Verfügung der IV-Stelle vom 4. Dezember 2006 in Gutheissung der Beschwerde auf und stellte fest, dass J._ ab 1. März 2004 Anspruch auf eine halbe Invalidenrente habe.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die IV-Stelle, der vorinstanzliche Entscheid sei aufzuheben.
Während J._ auf Abweisung der Beschwerde schliessen lässt und um die Bewilligung der unentgeltlichen Rechtspflege ersucht, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2. Die Vorinstanz hat die Bestimmungen und Grundsätze über Voraussetzungen und Umfang des Rentenanspruchs (<ref-law> in der seit 1. Januar 2008 geltenden Fassung), die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (<ref-law>) und die Bedeutung ärztlicher Auskünfte für die Belange der Invaliditätsschätzung (<ref-ruling> E. 4 S. 261 mit Hinweisen) zutreffend wiedergegeben. Darauf wird verwiesen.
3. 3.1 Das Obergericht gelangte zum Schluss, es sei nicht auf das von der Verwaltung eingeholte interdisziplinäre Gutachten des Instituts X._ vom 11. August 2006 abzustellen, wonach der Beschwerdegegner in einer körperlich angepassten Tätigkeit voll arbeitsfähig ist. Im Rahmen einer Gesamtwürdigung aller medizinischen Gutachten, worunter der Schlussberichte der BEFAS (vom 8. Februar 2005) und der Stiftung Y._ vom 22. August 2005, welche auf einer längeren Beobachtungsperiode beruhen, stellte die Vorinstanz fest, dass der Beschwerdegegner trotz der ihm bescheinigten positiven Grundeinstellung nicht in der Lage sei, eine angepasste Tätigkeit zu mehr als 50 % auszuüben; die erwartete Leistungssteigerung sei ausgeblieben.
3.2 Die IV-Stelle wirft dem Obergericht vor, die Beweise nicht pflichtgemäss gewürdigt zu haben. Es bestehe kein Grund, nicht auf das von ihr angeordnete Gutachten des Instituts X._ vom 11. August 2006 abzustellen. Die Feststellung der Vorinstanz, der Versicherte sei ausser Stande, ein Arbeitspensum vom mehr als 50 % zu erfüllen, sei offensichtlich unrichtig.
3.3 Der Auffassung der Beschwerdeführerin kann nicht beigepflichtet werden. Es besteht keine Beweisregel, welche besagen würde, dass bei einander widersprechenden Expertisen und medizinischen Berichten in erster Linie auf ein bestimmtes, von der Verwaltung eingeholtes Gutachten abzustellen ist. Die Vorinstanz hat ihren Standpunkt begründet und sämtliche ärztlichen Stellungnahmen, welche aus ihrer Sicht von Belang sind, dargelegt. Von einer offensichtlich unrichtigen oder sonstwie bundesrechtswidrigen Feststellung des rechtserheblichen medizinischen Sachverhalts kann daher entgegen den Ausführungen der IV-Stelle nicht die Rede sein. Die Beschwerdeführerin beschränkt sich im Weiteren auf eine appellatorische Kritik an der Beweiswürdigung des Obergerichts. Da es sich bei der Entscheidung über den Grad der Arbeitsunfähigkeit um eine Tatfrage handelt (<ref-ruling> E. 3.2 S. 397 f.), ist blosse Kritik an der vorinstanzlichen Feststellung, wonach der Beschwerdegegner in einer leidensangepassten Tätigkeit nur hälftig einsatzfähig sei, einer Überprüfung durch das Bundesgericht nicht zugänglich. Auf die entsprechenden Einwendungen der Beschwerdeführerin ist daher nicht einzugehen.
4. Die Vorinstanz hat dem Beschwerdegegner unter Aufhebung der Verwaltungsverfügung vom 4. Dezember 2006 mit Wirkung ab 1. März 2004 eine halbe Invalidenrente bei einem Invaliditätsgrad von 57 % zugesprochen. Die Beschwerdeführerin zieht die Invaliditätsbemessung als solche, soweit letztinstanzlich überprüfbar, richtigerweise nicht in Zweifel, macht jedoch geltend, gestützt auf <ref-law> in der vorliegend anwendbaren Fassung gemäss 4. IVG-Revision (in Kraft seit 1. Januar 2004) wäre die halbe Rente bereits seit September 2003 geschuldet. Sie stellt jedoch keinen entsprechenden Eventualantrag für den Fall, dass sie mit ihrem Hauptbegehren um Aufhebung des kantonalen Gerichtsentscheides unterliegen sollte. Der Beschwerdegegner wiederum hat den vorinstanzlichen Entscheid nicht selbstständig angefochten, sondern schliesst einzig auf Abweisung der Beschwerde der IV-Stelle. Weil das Bundesgericht nach <ref-law> nicht über die Begehren der Parteien hinausgehen darf, ist die Frage, ob die Vorinstanz den Rentenbeginn zu Recht auf den 1. März 2004 festgelegt hat, einer letztinstanzlichen Überprüfung entzogen.
5. Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden IV-Stelle aufzuerlegen (<ref-law>). Diese hat dem Beschwerdegegner überdies eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG). Das Gesuch des Beschwerdegegners um unentgeltliche Rechtspflege ist damit gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'000.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Uri, Verwaltungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. Juni 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer