Sachverhalt:
A. X._ führt einen Landwirtschaftsbetrieb im Weiler W._, auf welchem er u.a. Rindvieh und Pferde hält. Am 6. März 2007 führte das Veterinäramt des Kantons Thurgau auf dem Betrieb eine Kontrolle durch und forderte in der Folge mit Verfügung vom 4. April 2007 X._ auf, alle Tiere gemäss den Tierschutzvorschriften zu halten. Am 28. April 2009 führte das Veterinäramt eine weitere Kontrolle durch und stellte fest, dass die Anforderungen an eine artgerechte Pferde- und Rinderhaltung nicht in allen Teilen erfüllt seien und sich im Vergleich zur Kontrolle vom Frühjahr 2007 weitere Mängel ergeben hätten. Mit Schreiben vom 15. Mai 2009 gewährte das Veterinäramt X._ das rechtliche Gehör zum festgestellten Sachverhalt. Nachdem sich X._ nicht hatte vernehmen lassen, verfügte das Veterinäramt am 14. Juli 2009 wie folgt:
"1. Die Minimalanforderungen für die Pferde- und Rinderhaltung auf dem Betrieb von X._ sind noch immer nicht in allen Teilen eingehalten und bestehen teilweise noch seit den Kontrollen vom 16. März 2007 (Entscheid vom 4. April 2007, Beilage 1) beziehungsweise vom 9. Juli 2007 (Amtsbericht vom 16. August 2007, Beilage 2). Neue Mängel im gleichen Sinn sind bei der Kontrolle vom 28. April 2009 dazugekommen. Sie stellen eine wiederholte und schwere Zuwiderhandlung gegen die Tierschutzvorschriften dar.
2. Wenn bei einer weiteren Kontrolle wiederum Mängel in der Tierhaltung festgestellt werden, insbesondere wenn
nicht alle Pferdeboxen den Mindestanforderungen der Tierschutzgesetzgebung entsprechen,
den Pferden, vor allem bei der Gruppenauslaufhaltung, keine qualitativ genügende Silage zur Verfügung gestellt wird,
keine Rückzugsmöglichkeiten in der Gruppenauslaufhaltung von erwachsenen Pferden zur Verfügung steht,
keine sachgemässe Abtrennung zwischen den Pferden und Maschinen und Gerätschaften in der Maschinenhalle angebracht ist,
Tiere ohne fachgerechte Pflege und Behandlung und
Tiere ohne genügende Wasserversorgung angetroffen werden,
wird X._ und allen im gleichen Haushalt lebenden Personen ein sofortiges unbefristetes Tierhalteverbot auferlegt.
3. X._ darf die improvisierte Anbindehaltung für die Pferde ohne seitliche Abgrenzung nicht mehr benutzen. Entweder ist diese abzubrechen oder wie in der Erwägung festgehalten einzurichten und zu betreiben.
4. X._ wird aufgefordert, bis am 31. August 2009 dem Veterinäramt Thurgau einen Termin an einem Arbeitstag zwischen 1. - 18. September 2009 zur Abnahme der verfügten Massnahmen betreffend improvisierter Anbindevorrichtung zu melden. Es ist darzulegen, wo und wie die bisher darin untergebrachten Pferde zukünftig gehalten werden sollen.
5. Ohne diese Abnahme dürfen keine Pferde von der Alp auf den Heimbetrieb zurückgebracht werden. Verläuft die Frist bis am 31. August 2009 unbenützt, erfolgt die sofortige Ersatzvornahme durch das Veterinäramt auf Kosten von X._, d.h. die Beschlagnahme derjenigen Pferde, für die keine andere Haltung als in der improvisierten Anbindevorrichtung möglich ist.
6. X._ wird aufgefordert, die Vorschriften der Tierseuchengesetzgebung einzuhalten. Insbesondere ist dafür zu sorgen, dass alles Rindvieh korrekt gekennzeichnet ist.
7. Wenn X._ den in diesem Entscheid erlassenen Anordnungen nicht Folge leistet, muss er mit einer Bestrafung wegen Ungehorsam im Sinne von Art. 292 des Strafgesetzbuches rechnen. Dieser Artikel lautet:
"Ungehorsam gegen amtliche Verfügungen: Wer der von einer zuständigen Behörde oder einem zuständigen Beamten unter Hinweis auf die Strafandrohung dieses Artikels an ihn erlassenen Verfügung nicht Folge leistet, wird mit Haft oder mit Busse bestraft."
8. (...)"
B. X._ erhob am 3. August 2009 Rekurs beim Departement für Inneres und Volkswirtschaft des Kantons Thurgau (DIV) mit dem Begehren, die Verfügung vom 14. Juli 2009 sei aufzuheben; zudem beantragte er unentgeltliche Rechtspflege. Das DIV wies mit Zwischenentscheid vom 22. September 2009 das Gesuch um unentgeltliche Rechtspflege wegen Aussichtslosigkeit ab. In der Folge bezahlte X._ den einverlangten Kostenvorschuss. Im Rahmen des Rekursverfahrens reichte das Veterinäramt am 16. Dezember 2009 eine Stellungnahme an das DIV ein, worin es u.a. ausführte, anlässlich einer Nachkontrolle vom 13. November 2009 hätten keine Mängel mehr bestanden. Mit Entscheid vom 26. Februar 2010 wies das DIV den Rekurs ab.
C. X._ erhob dagegen Beschwerde an das Verwaltungsgericht des Kantons Thurgau mit dem Rechtsbegehren, der Rekursentscheid des DIV vom 26. Februar 2010 sei aufzuheben, eventualiter sei die Sache an die Vorinstanz zurückzuweisen. Zudem beantragte er unentgeltliche Rechtspflege. Das Verwaltungsgericht wies mit Urteil vom 14. Juli 2010 die Beschwerde ab, soweit darauf einzutreten war. Zugleich wies es das Gesuch um unentgeltliche Rechtspflege wegen Aussichtslosigkeit ab.
D. Mit Eingabe vom 23. September 2010 erhebt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde. Er beantragt, der Beschwerdeentscheid des Verwaltungsgerichts sei aufzuheben, eventualiter sei die Sache zur Neubeurteilung zurückzuweisen. Zudem sei ihm für das bundesgerichtliche wie für die vorinstanzlichen Verfahren die unentgeltliche Rechtspflege zu gewähren.
Das Verwaltungsgericht, das DIV und das Eidgenössische Volkswirtschaftsdepartement beantragen Abweisung der Beschwerde. Das Veterinäramt äussert sich zur Sache, ohne einen konkreten Antrag zu stellen.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den kantonal letztinstanzlichen Endentscheid ist grundsätzlich zulässig (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Art. 90 BGG).
Da die Beschwerde in öffentlich-rechtlichen Angelegenheiten zur Verfügung steht, kann somit auf die vom Beschwerdeführer gleichzeitig erhobene subsidiäre Verfassungsbeschwerde nicht eingetreten werden (<ref-law>).
1.2 Näher zu prüfen ist, was in der Sache Streitgegenstand bildet:
1.2.1 Die von der Vorinstanz bestätigte Verfügung vom 14. Juli 2009 enthält in Ziff. 1 eine blosse Feststellung, gewisse Mängel (die nicht ausdrücklich genannt sind) stellten eine wiederholte und schwere Zuwiderhandlung gegen die Tierschutzvorschriften dar. Ziff. 2 führt weitere Mängel auf; für den Fall von deren Wiederholung wird ein Tierhalteverbot angedroht. Ziff. 3-5 ordnen eine bestimmte Massnahme an, nämlich das Verbot der improvisierten Anbindehaltung für Pferde ohne seitliche Abgrenzung, die Kontrolle der Umsetzung dieser Massnahme und das Verbot, vorher Pferde zurückzubringen, unter Androhung der Beschlagnahmung der Pferde, für die keine andere Haltung möglich ist. Ziff. 6 fordert in allgemeiner Weise den Beschwerdeführer auf, die Vorschriften der Tierseuchengesetzgebung einzuhalten, insbesondere das Rindvieh korrekt zu kennzeichnen. Ziff. 7 enthält sodann die Strafandrohung nach <ref-law> für Zuwiderhandlung gegen die Anordnungen.
1.2.2 Das Verwaltungsgericht stellte fest, aufgrund der Kontrolle vom 13. November 2009 seien die gerügten Mängel vollumfänglich behoben worden. Es erwog, es sei daher fraglich, ob der Beschwerdeführer überhaupt noch ein geschütztes Rechtsschutzinteresse habe. Zwar sei für die Ausrichtung von Direktzahlungen die Einhaltung u.a. der Tierschutzbestimmungen vorausgesetzt; deren Nichteinhalten müsse durch rechtskräftigen Entscheid festgestellt worden sein. Da sich die Rechtskraft einer Verfügung aber nur auf das Dispositiv beziehe, sei fraglich, ob die nur in den Erwägungen erwähnte Niveaudifferenz zwischen Lager- und Krippenboden die Direktzahlungen beeinflusse, womit ein Rechtsschutzinteresse entfiele (vgl. angefochtener Entscheid E. 3.2.1). Weiter führte das Gericht aus, das Abtrennen des Maschinenparks lediglich mit einer Schnur genüge den Anforderungen nicht; die Anbindehaltung ohne seitliche Abtrennung sei vorschriftswidrig; der Beschwerdeführer habe seine Pflicht, kranke oder verletzte Tiere zu pflegen und zu behandeln, ganz offensichtlich verletzt, er habe auch die Vorschriften über die Versorgung der Kälber und Rinder mit Flüssigkeit verletzt; er habe gegen die Vorschrift verstossen, wonach jedes Tier der Rindergattung gekennzeichnet sein müsse; er habe sodann eine Dosiereinrichtung für das Zumischen von Medikamenten verwendet, die von einem dazu nicht ausgebildeten Tierarzt übergeben worden sei; das Futter sei verschmutzt gewesen; die Hufe der Pferde seien nicht vorschriftsgemäss gepflegt worden; zwei Stuten mit Fohlen hätten sich in zu kleinen Aussenboxen aufgehalten; in der Gruppenauslaufhaltung der Pferde habe keine Rückzugsmöglichkeit festgestellt werden können (vgl. angefochtener Entscheid E. 3.2.2 - 3.2.11). Die Androhung des Tierhalteverbots gegenüber dem Beschwerdeführer sei nicht zu beanstanden. Der Beschwerdeführer sei nicht legitimiert, die Ausdehnung der Androhung des Tierhalteverbots auf die übrigen Familienmitglieder anzufechten. Zudem habe die Androhung lediglich informativen Charakter, da sie den anderen Familienmitgliedern nicht eröffnet worden sei. Diesbezüglich sei auf die Beschwerde nicht einzutreten (vgl. angefochtener Entscheid E. 3.3).
1.2.3 Aus diesen Erwägungen ergibt sich, dass das Verwaltungsgericht in Bezug auf die in den Erwägungen 3.2.2 - 3.2.11 erörterten Aspekte auf die Beschwerde eingetreten ist und entsprechende Feststellungen gemacht hat; ebenso eingetreten ist es auf die Beschwerde in Bezug auf die Androhung des Tierhalteverbots gegenüber dem Beschwerdeführer und hat diese Androhung bestätigt. Nicht eingetreten ist es auf die Androhung gegenüber den übrigen Familienmitgliedern. Dieses teilweise Nichteintreten wird vom Beschwerdeführer nicht beanstandet, so dass es nicht Streitgegenstand des Verfahrens bildet. Sodann hat der Beschwerdeführer die vom DIV am 22. September 2009 ausgesprochene Verweigerung der unentgeltlichen Rechtspflege für das Rekursverfahren beim Verwaltungsgericht nicht mehr angefochten; darüber wurde im angefochtenen Entscheid nicht befunden, so dass sie auch nicht Streitgegenstand vor Bundesgericht bilden kann. Nicht gerügt wird ferner die Feststellung der Vorinstanz, dass alle festgestellten Mängel inzwischen behoben seien. Soweit die Verfügung Anordnungen für das künftige Verhalten enthält, erweist sie sich somit - wie auch die dagegen erhobene Beschwerde - als gegenstandslos. Sodann enthält Ziff. 6 der Verfügung nichts anderes als was sich bereits aus der Gesetzgebung ergibt und hat damit keine selbstständige Bedeutung.
1.2.4 Angefochten ist an sich auch die Verweigerung der unentgeltlichen Rechtspflege für das verwaltungsgerichtliche Verfahren. Indessen stützt sich die unentgeltliche Rechtspflege im kantonalen Verfahren einerseits auf kantonales Recht, andererseits auf <ref-law>. Für beides gilt eine qualifizierte Rügepflicht (<ref-law>), die nicht eingehalten ist, so dass darauf nicht weiter einzugehen ist.
1.2.5 Gegenstand des Verfahrens vor Bundesgericht bildet deshalb nur die Feststellung, der Beschwerdeführer habe (in der Vergangenheit) gegen Bestimmungen der Tierschutzgesetzgebung verstossen sowie die gegen den Beschwerdeführer ausgesprochene Androhung eines Tierhalteverbots.
2. Der Beschwerdeführer beantragt die Durchführung einer mündlichen Verhandlung mit Partei- und Zeugenbefragung. Wie sich aus dem Nachfolgenden ergibt, ist eine Verhandlung zwecks Feststellung des Sachverhalts nicht erforderlich, zumal das Bundesgericht ohnehin grundsätzlich auf den von der Vorinstanz festgestellten Sachverhalt abstellt (<ref-law>). Eine Verhandlung gemäss Art. 6 EMRK hat der Beschwerdeführer vor der Vorinstanz nicht verlangt; ein allfälliger Anspruch auf Verhandlung wäre damit verwirkt (<ref-ruling> E. 2.3 S. 333 f.), so dass offen bleiben kann, ob die vorliegende Streitsache überhaupt in den Anwendungsbereich von Art. 6 EMRK fällt.
3. Der Beschwerdeführer rügt eine Verletzung des rechtlichen Gehörs.
3.1 Er beanstandet, dass das Schreiben vom 15. Mai 2009 wie auch die Verfügung vom 14. Juli 2009 direkt dem Beschwerdeführer zugestellt worden seien, obwohl dieser anwaltlich vertreten gewesen sei. Die Vorinstanz hat dazu grundsätzlich verbindlich (<ref-law>) festgestellt, der frühere Vertreter habe dem Veterinäramt am 21. Oktober 2008 mitgeteilt, er habe das Mandat für den Beschwerdeführer niedergelegt; dieser habe keine neue Mandatsaufnahme angezeigt. Der Beschwerdeführer bringt dagegen vor, das Veterinäramt sei bereits am 15. Mai 2009 davon ausgegangen, dass der Beschwerdeführer vom neuen Vertreter vertreten sein würde, habe sie doch diesem Schreiben eine Kopie zur Weiterleitung an den Rechtsanwalt beigelegt. Damit wird aber nur gesagt, dass das Veterinäramt davon ausging, der Beschwerdeführer würde einen Anwalt mandatieren; dass das Mandat dem Amt bereits angezeigt worden wäre, ergibt sich daraus nicht. Dass der Anwalt den Beschwerdeführer im Verfahren betreffend Direktzahlungen vertrat, lässt noch nicht zwingend auf eine Vertretung auch im Tierschutzverfahren schliessen. Zudem hat der Anwalt des Beschwerdeführers gegen die Verfügung vom 14. Juli 2009 am 3. August 2009 form- und fristgerecht Rekurs erhoben; selbst wenn die Verfügung fehlerhaft eröffnet worden sein sollte, ist dem Beschwerdeführer dadurch offensichtlich kein Nachteil entstanden.
3.2 Sodann rügt der Beschwerdeführer eine Verweigerung der Akteneinsicht. Die Vorinstanz hat eingehend dargelegt, dass sich der angefochtene Entscheid nicht auf Akten stütze, die dem Beschwerdeführer nicht bekannt gewesen seien; namentlich seien ihm der Entscheid des Veterinäramts vom 4. April 2007 sowie der Bericht zu Handen des Bezirksamts Arbon vom 16. August 2007 bekannt gewesen. Der Beschwerdeführer legt nicht dar, dass und inwiefern diese Feststellung offensichtlich unrichtig sein soll. Er macht auch nicht geltend, es sei ihm ein Akteneinsichtsbegehren abgelehnt oder ein bestimmtes entscheiderhebliches Aktenstück nicht zugänglich gewesen.
4. 4.1 Staatliche Massnahmen müssen sich auf eine gesetzliche Grundlage stützen (Legalitätsprinzip, <ref-law>). Das Tierschutzgesetz vom 16. Dezember 2005 (TSchG; SR 455) enthält nebst den materiellrechtlichen Vorschriften für den Umgang mit Tieren (Art. 4 sowie 2. Kapitel [Art. 6-21] TSchG) ein Kapitel über Verwaltungsmassnahmen und Behördenbeschwerde (Art. 23-25 TSchG) sowie Strafbestimmungen (Art. 26-31 TSchG). Nach <ref-law> kann die zuständige Behörde Tierhalteverbote aussprechen gegenüber Personen, die wegen wiederholter oder schwerer Zuwiderhandlung gegen Vorschriften dieses Gesetzes und seiner Ausführungserlasse oder gegen Verfügungen bestraft worden sind oder aus anderen Gründen unfähig sind, Tiere zu halten oder zu züchten. Nach <ref-law> schreitet die zuständige Behörde unverzüglich ein, wenn festgestellt wird, dass Tiere vernachlässigt oder unter völlig ungeeigneten Bedingungen gehalten werden; sie kann die Tiere vorsorglich beschlagnahmen und auf Kosten des Halters an einem geeigneten Ort unterbringen; wenn nötig lässt sie die Tiere verkaufen oder töten. Werden strafbare vorsätzliche Verstösse gegen die Vorschriften dieses Gesetzes festgestellt, so erstatten gemäss <ref-law> die für den Vollzug von Tierschutzvorschriften zuständigen Behörden Strafanzeige. Das Tierschutzgesetz sieht also zur Durchsetzung der Tierschutzvorschriften einerseits präventiv Tierhalteverbote und andere Massnahmen vor, um künftige Vorschriftsverletzungen zu vermeiden, andererseits repressiv Strafbestimmungen, um in der Vergangenheit erfolgte Vorschriftsverletzungen zu sanktionieren.
4.2 Im Unterschied zu anderen Bundesgesetzen (z.B. Art. 96 Abs. 2 AuG [SR 142.20], Art. 12 Abs. 6 lit. b BPG [SR 172.220.1], <ref-law> [SR 211.412.41], <ref-law> [SR 741.01], Art. 21 Abs. 4 und Art. 43 Abs. 3 ATSG [SR 830.1], <ref-law> [SR 935.61]) sieht das Tierschutzgesetz nicht ausdrücklich eine Verwarnung, Mahnung oder Androhung einer künftigen Massnahme als Verwaltungssanktion vor. Nach Lehre und Rechtsprechung können aber dort, wo bestimmte Sanktionen oder Handlungsanweisungen vorgesehen sind, solche Anordnungen auch zunächst als milderes Mittel bloss angedroht werden (<ref-ruling> E. 6.3 S. 467; <ref-ruling> E. 5.2 S. 365; Urteil 2C_1/2009 vom 11. September 2009 E. 4.4.2; vgl. insbesondere zum Tierschutzrecht Urteil 2C_829/2009 vom 27. August 2010 E. 2.2 betr. Androhung eines Bewilligungsentzugs). Das kann sich aus Gründen der Verhältnismässigkeit sogar aufdrängen, selbst wenn es nicht ausdrücklich gesetzlich vorgesehen ist (IMBODEN/RHINOW, Schweizerische Verwaltungsrechtsprechung, Band I, 1986, S. 323; RHINOW/KRÄHENMANN, Schweizerische Verwaltungsrechtsprechung, Ergänzungsband, 1990, S. 172; vgl. zum Schulausschluss: <ref-ruling> E. 10.2 S. 46; <ref-ruling> E. 9.4 S. 26; <ref-ruling> E. 4b S. 341). Eine solche Androhung hat jedenfalls dann in Form einer anfechtbaren Verfügung zu ergehen, wenn sie den Vorwurf rechtswidrigen Verhaltens in sich schliesst oder konkrete Handlungsanweisungen enthält und in einem späteren Verfahren erschwerend berücksichtigt wird (Urteil P.1636/1983 vom 22. Dezember 1983 E. 1, in: ZBl 85/1984 S. 308; IMBODEN/RHINOW, a.a.O., S. 219; HÄFELIN/MÜLLER/UHLMANN, Allgemeines Verwaltungsrecht, 2010, S. 265).
4.3 Das Veterinäramt hat in diesem Sinne in Ziff. 2 der Verfügung vom 14. Juli 2009 für den Fall, dass bei einer weiteren Kontrolle wiederum bestimmte Mängel festgestellt würden, ein Tierhalteverbot angedroht. Dass die in dieser Ziffer genannten Verhaltensweisen Verstösse gegen die Tierschutzvorschriften darstellen, liegt auf der Hand und wird auch vom Beschwerdeführer nicht ernsthaft bestritten. Zudem ist aktenkundig und gerichtsnotorisch, dass der Beschwerdeführer letztinstanzlich mit Urteil des Bundesgerichts vom 26. Februar 2010 (6B_711/2009) wegen mehrfacher Übertretung des Tierschutzgesetzes im Zusammenhang mit seiner Pferde- und Rinderhaltung verurteilt wurde. Es bestand daher Grund für eine Androhung des Tierhalteverbots. Daran vermögen auch die vom Beschwerdeführer nachträglich geltend gemachten angeblichen (teilweisen) Freisprüche in einem weiteren erstinstanzlich durchgeführten Strafverfahren (Verhandlung vom 4. November 2010) - soweit es sich ohnehin nicht um ein unzulässiges Novum handelt - nichts zu ändern.
4.4 Das Veterinäramt hat darüber hinaus in Ziff. 1 seiner Verfügung festgestellt, es bestünden Mängel in der Pferde- und Rinderhaltung, die wiederholte und schwere Zuwiderhandlungen gegen die Tierschutzvorschriften darstellten. Die Vorinstanz hat sich ausführlich mit verschiedenen dem Beschwerdeführer vorgeworfenen Mängeln auseinandergesetzt und die Feststellungen des Veterinäramts bestätigt. Der Beschwerdeführer bestreitet im Einzelnen diese Feststellungen.
4.5 Nach der verbindlichen Feststellung der Vorinstanz (vgl. E. 1.2.2 hiervor) sind inzwischen alle Mängel behoben; damit enthält die Verfügung vom 14. Juli 2009 bzw. der sie bestätigende Entscheid der Vorinstanz keinerlei konkreten handlungsbezogenen Anordnungen mehr, sondern erschöpft sich in einer blossen Feststellung.
4.6 Eine selbstständige Feststellungsverfügung der Verwaltungsbehörden, es sei in der Vergangenheit gegen Tierschutzvorschriften verstossen worden, ist im Gesetz nicht ausdrücklich vorgesehen (vgl. E. 4.1 hiervor). Nach der Rechtsprechung sind Feststellungsverfügungen dort, wo sie nicht spezialgesetzlich vorgesehen sind, nur zulässig, wenn ein schutzwürdiges, unmittelbares und aktuelles Interesse rechtlicher oder tatsächlicher Natur an der betreffenden Feststellung besteht, das nicht durch eine rechtsgestaltende Verfügung gewahrt werden kann (<ref-ruling> E. 3.3.2 S. 75; <ref-ruling> E. 1 S. 259; <ref-ruling> E. 2.4 S. 391; <ref-ruling> E. 2c S. 303; ULRICH MEYER, Über die Zulässigkeit von Feststellungsverfügungen in der Sozialversicherungspraxis, in: Sozialversicherungsrechtstagung 2007, S. 47 f.; ISABELLE HÄNER, in: Waldmann/Weissenberger [Hrsg.], Praxiskommentar zum Bundesgesetz über das Verwaltungsverfahren, 2009, N. 20 zu <ref-law>; BEATRICE WEBER-DÜRLER, in: Auer/Müller/Schindler [Hrsg.], Kommentar zum Bundesgesetz über das Verwaltungsverfahren [VwVG], 2008, N. 16 zu <ref-law>; RHINOW/KOLLER/KISS/THURNHERR/BRÜHL-MOSER, Öffentliches Prozessrecht, 2. Aufl. 2010, S. 352 f.). Diese Voraussetzungen gelten nicht nur für Feststellungsverfügungen, welche ein Hoheitsträger auf Ersuchen hin erlässt, sondern auch dann, wenn er von Amtes wegen verfügt (BGE <ref-ruling> E. 2.4 S. 392; MEYER, a.a.O., S. 49). Das Bedürfnis nach Feststellungen zur Rechtslage kann sodann auch bestehen, wenn ein Betroffener gegen einen beanstandeten Verwaltungsakt trotz Hinfalls des aktuellen Interesses Beschwerde führt. Die Rechtsmittelbehörde kann das erforderliche Rechtsschutzinteresse in einem solchen Fall dann bejahen, wenn sich die aufgeworfenen Fragen unter gleichen oder ähnlichen Umständen jederzeit wieder stellen können, eine rechtzeitige Überprüfung im Einzelfall kaum je möglich wäre und die Beantwortung wegen deren grundsätzlicher Bedeutung im öffentlichen Interesse liegt (<ref-ruling> E. 1.1 S. 103; <ref-ruling> E. 1.1 S. 81). Ist eine Feststellungsverfügung ergangen, ohne dass diese Voraussetzungen erfüllt sind, ist sie durch die Beschwerdeinstanzen aufzuheben (<ref-ruling> E. 3.3 S. 292; <ref-ruling> E. 3f S. 520).
4.7 Diese zurückhaltende Praxis ergibt sich aus dem Wesen der Verfügung: Diese ist darauf ausgerichtet, konkrete Anordnungen zu treffen oder das Bestehen oder Nichtbestehen von Rechten und Pflichten festzustellen (<ref-law>); sie dient aber nicht der blossen Feststellung vergangener Ereignisse, wenn damit keine konkreten Rechtsfolgen verbunden sind. Stehen hingegen konkrete Rechtsfolgen oder Anordnungen zur Diskussion, so sind Feststellungen nur ein Schritt auf dem Weg zur Verfügung und es besteht kein Anlass, darüber eine gesonderte Verfügung zu erlassen (vgl. BGE 2C_344/2010 vom 11. April 2011 E. 6).
4.8 Der Beschwerdeführer leitet ein Feststellungsinteresse daraus ab, dass die Feststellung von Verstössen gegen die Tierschutzgesetzgebung für die landwirtschaftlichen Direktzahlungen von Bedeutung sei. Nach Art. 70 Abs. 1 des Bundesgesetzes vom 29. April 1998 über die Landwirtschaft (Landwirtschaftsgesetz, LwG; SR 910.1) ist Voraussetzung für Direktzahlungen u.a. ein ökologischer Leistungsnachweis, der auch eine tiergerechte Haltung der Nutztiere umfasst (<ref-law>). Voraussetzung und Auflage für die Ausrichtung von Direktzahlungen ist die Einhaltung der für die landwirtschaftliche Produktion massgeblichen Bestimmungen der Gewässerschutz-, der Umweltschutz- und der Tierschutzgesetzgebung (<ref-law>; Art. 5 der Verordnung vom 7. Dezember 1998 über die Direktzahlungen an die Landwirtschaft [Direktzahlungsverordnung, DZV; SR 910.13]). Nach Art. 70 Abs. 1 lit. e DZV werden die Beiträge gekürzt oder verweigert, wenn der Gesuchsteller landwirtschaftsrelevante Vorschriften des Gewässerschutz-, des Umweltschutz- oder des Natur- und Heimatschutzgesetzes nicht einhält. Die Nichteinhaltung dieser Vorschriften muss mit einem rechtskräftigen Entscheid festgestellt werden (Art. 70 Abs. 2 DZV). Tierschutzvorschriften sind in diesem Zusammenhang nicht genannt. Im parallel zum vorliegenden Verfahren beim Bundesgericht hängigen Verfahren 2C_560/2010 des Beschwerdeführers in Bezug auf die Direktzahlungen für das Jahr 2008 hat denn auch die Verwaltung die Direktzahlungen verweigert, ohne dass die Verletzung von Tierschutzvorschriften rechtskräftig festgestellt worden war. Es bleibt dem Beschwerdeführer ohne weiteres möglich, im Direktzahlungsverfahren solche Verletzungen zu bestreiten. Ein schutzwürdiges Interesse an einer gesonderten Feststellungsverfügung kann daraus nicht abgeleitet werden. Auch sonst ist ein selbstständiges Feststellungsinteresse nicht ersichtlich: Soweit die Vorwürfe identisch sind mit denjenigen, die im rechtskräftig erledigten Strafverfahren beurteilt wurden, besteht ohnehin kein Anlass mehr zu einer entsprechenden Feststellung seitens der Verwaltungsbehörden. Dasselbe gilt, soweit die Vorwürfe Gegenstand allenfalls noch hängiger Strafverfahren sein sollten; der Beschwerdeführer kann sich im Rahmen dieser Strafverfahren wehren.
4.9 Die Feststellung, es seien Tierschutzvorschriften verletzt worden, hat damit nur als Grundlage für die Androhung eines allfälligen künftigen Tierhalteverbots gedient. Sie ist ein Schritt auf dem Weg zu dieser Androhung, kann aber nicht Gegenstand einer selbstständigen Feststellungsverfügung bilden (vgl. E. 4.7 hiervor). Richtigerweise hätte daher die Vorinstanz die Ziff. 1 der Verfügung vom 14. Juli 2009 aufheben sollen, ohne sich im Einzelnen mit den Feststellungen auseinanderzusetzen. Das ist hier nachzuholen.
5. Die Aufhebung der vom Verwaltungsgericht bestätigten Ziff. 1 der Verfügung vom 14. Juli 2009 des Veterinäramts entspricht zwar teilweise dem Rechtsbegehren des Beschwerdeführers und führt damit formell zu einer teilweisen Gutheissung der Beschwerde. Dieser Ausgang kann aber nicht als teilweises Obsiegen bewertet werden, weil damit nicht festgestellt wird, die betreffenden Zuwiderhandlungen seien nicht erfolgt. Der Beschwerdeführer trägt damit die Kosten des Verfahrens (<ref-law>). In Bezug auf die materiell einzig zu beurteilende Androhung des Tierhalteverbots ist die Beschwerde angesichts der rechtskräftigen strafrechtlichen Verurteilung als aussichtslos zu bezeichnen, so dass das Gesuch um unentgeltliche Rechtspflege abzuweisen ist (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird teilweise gutgeheissen. Das Urteil des Verwaltungsgerichts des Kantons Thurgau vom 14. Juli 2010 wird insoweit aufgehoben, als darin Ziff. 1 der Verfügung des Veterinäramts vom 14. Juli 2009 bestätigt wird.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
4. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird dem Beschwerdeführer, dem Departement für Inneres und Volkswirtschaft, dem Veterinäramt und dem Verwaltungsgericht des Kantons Thurgau sowie dem Eidgenössischen Volkswirtschaftsdepartement schriftlich mitgeteilt.
Lausanne, 18. Juni 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Winiger