Sachverhalt: A. Der 1954 geborene, zuletzt als Schaler tätig gewesene J._ meldete sich am 16. September 2003 unter Hinweis auf Rückenbeschwerden und eine Depression nach dem Tod seines Sohnes bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen in erwerblicher und medizinischer Hinsicht lehnte die IV-Stelle Uri das Leistungsgesuch mit Verfügung vom 4. Dezember 2006 ab. Nachdem das Obergericht des Kantons Uri die von J._ eingereichte Beschwerde mit Entscheid vom 11. Januar 2008 teilweise gutgeheissen hatte, gelangte die IV-Stelle beschwerdeweise ans Bundesgericht. Dieses hiess die Beschwerde gut, hob den angefochtenen Entscheid auf und wies die Sache an das Obergericht des Kantons Uri zurück, damit es über die Beschwerde gegen die Verfügung vom 4. Dezember 2006 materiell entscheide (Urteil vom 13. Oktober 2008; 8C_125/2008). B. Mit Entscheid vom 29. Januar 2010 hob das Obergericht des Kantons Uri die Verfügung der IV-Stelle vom 4. Dezember 2006 in Gutheissung der Beschwerde auf und stellte fest, dass J._ ab 1. März 2004 Anspruch auf eine halbe Invalidenrente habe. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die IV-Stelle, der vorinstanzliche Entscheid sei aufzuheben. Während J._ auf Abweisung der Beschwerde schliessen lässt und um die Bewilligung der unentgeltlichen Rechtspflege ersucht, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.