Sachverhalt: A. Am 30. Juni 2011 verfügte der Kantonstierarzt der Urkantone ein vollständiges, zeitlich uneingeschränktes Tierhalteverbot gegenüber X._ aus A._, der auf seinem Hof Kühe, Rinder und Kälber hält. Er wurde verpflichtet, alle ihm gehörenden Tiere bis zum 15. Oktober 2011 zu veräussern. Für den Widerhandlungsfall wurde ihm u.a. eine strafrechtliche Anzeige und die Beschlagnahmung seiner Tiere angedroht. Eine dagegen gerichtete Einsprache wies der Kantonstierarzt der Urkantone ab. B. Am 3. Oktober 2011 erhob X._ gegen den Einspracheentscheid Beschwerde an den Regierungsrat des Kantons Uri, welche dieser am 22. November 2011 abwies. Eine hiergegen gerichtete Eingabe ans Obergericht des Kantons Uri blieb ohne Erfolg. C. Mit Beschwerde vom 30. April 2012 beantragt X._, das Urteil des Obergerichts des Kantons Uri vom 9. März 2012 sei aufzuheben. Eventuell sei Z._, A._, zu beauftragen, den Beschwerdeführer zu beraten und eine wöchentliche Kontrolle über die Tierhaltung und die Auflagen des Kantonstierarztes vorzunehmen. Subeventualiter sei die Sache zur Durchführung eines neuerlichen Beweisverfahrens an die Vorinstanz zurückzuweisen. Der Kantonstierarzt der Urkantone beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten ist. Die Justizdirektion des Kantons Uri verzichtet auf eine Vernehmlassung. Das Eidgenössische Volkswirtschaftsdepartement (EVD) beantragt die Abweisung der Beschwerde. X._ hält an seinen Anträgen fest.