Sachverhalt: A. Die IV-Stelle Thurgau sprach der 1959 geborenen S._ mit Verfügung vom 22. Oktober 2008 rückwirkend ab dem 1. Mai 2007 eine ganze Invalidenrente samt Kinderrenten zu. Die Rente wurde auf der Basis eines für massgebend betrachteten durchschnittlichen Jahreseinkommens von Fr. 27'846.- berechnet. A.a. Mit Schreiben vom 23. November 2008 wies S._ die IV-Stelle auf die fehlende Berücksichtigung der in den Jahren 1989 bis 2008 erzielten Einkünften aus der Landwirtschaft hin. Daraufhin änderte die IV-Stelle am 23. Januar 2009 die ursprüngliche Verfügung dahingehend ab, als sie die Renten nunmehr auf die Grundlage eines massgeblichen durchschnittlichen Jahreseinkommens von Fr. 80'712.- stellte, korrigierte dies aber mit Verfügung vom 11. September 2009 wegen nachträglich gemeldeter Einkommen erneut und ging alsdann von einem massgeblichen durchschnittlichen Jahresverdienst von Fr. 82'080.- aus. Im September 2010 bemerkte die IV-Stelle, dass bei den beiden letzten Berechnungen S._ fälschlicherweise auch Einkommen einer anderen versicherten Person mit gleichem Namen und Jahrgang hinzugerechnet waren. Sie legte die Rentenauszahlungen mit Verfügung vom 11. Februar 2011 neu auf die Basis eines massgeblichen durchschnittlichen Jahreseinkommens von Fr. 29'232.- und forderte für die Zeit vom 1. Mai 2007 bis 18. Februar 2011 Rentenleistungen im Umfang von insgesamt Fr. 109'740.- zurück. Auf Entscheid des Verwaltungsgerichts des Kantons Thurgau hin legte die IV-Stelle mit Verfügung vom 28. November 2011 die Rentenansprüche neu auf der Grundlage eines durchschnittlichen Jahresverdienstes von Fr. 43'152.- fest und reduzierte den Rückerstattungsbetrag auf Fr. 84'272.-. A.b. Am 13. Februar 2012 ersuchte S._ die IV-Stelle um Erlass der zwischenzeitig in Rechtskraft erwachsenen Rückerstattungsforderung. Das Gesuch wurde mit Verfügung vom 4. Juli 2012 wegen fehlenden guten Glaubens abgewiesen. B. Auf Beschwerde hin bejahte das Verwaltungsgericht des Kantons Thurgau mit Entscheid vom 13. Februar 2013 den guten Glauben, prüfte als zweite, kumulativ zu erfüllende Erlassvoraussetzung das Vorliegen einer grossen Härte, bejahte diese teilweise und verfügte gestützt darauf den Erlass der Rückerstattungsforderung im Umfang von Fr. 53'302.95. C. Dagegen führt die IV-Stelle Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben. S._ lässt sich zur Beschwerde nicht vernehmen.