Sachverhalt: A. Die A._ AG mit Sitz in B._/ZH bezweckt die Durchführung von Wartung, Unterhalt und Reparatur von Flugzeugen und Flugzeugkomponenten. Sie ist seit dem 1. April 2002 im Register der Mehrwertsteuerpflichtigen eingetragen. Am 31. Juli 2009 schlossen die C._ (UK) Ltd, deren Sitz in D._ (UK) liegt, als Verkäuferin und die A._ AG als Käuferin einen Kaufvertrag um ein Warenlager. Die zu übertragenden Waren hatten sich bereits auf dem Gelände der A._ AG befunden, wo die C._ (UK) Ltd ein Konsignationslager unterhielt. Die Verkäuferin war zu dieser Zeit im Register der Mehrwertsteuerpflichtigen eingetragen. Die Parteien verständigten sich auf einen Kaufpreis von USD vvv. Mit Datum vom selben Tag stellte die C._ (UK) Ltd der A._ AG Rechnung in genannter Höhe. Die Rechnung wies die Mehrwertsteuer zum Normalsatz von 7,6 Prozent aus (USD www) und lautete insgesamt auf USD xxx. Auf der im Übrigen formell vollständigen Rechnung war einzig die schweizerische Mehrwertsteuernummer der C._ (UK) Ltd nicht angebracht. Dennoch überwies die A._ AG den geschuldeten Betrag (Valuta vom 3. August 2009) und beanspruchte sie in der betreffenden Quartalsabrechnung die in Landeswährung umgerechnete Vorsteuer von Fr. yyy. In der Folge wurde in Grossbritannien über die C._ (UK) Ltd ein Nachlassverfahren eröffnet. Am 30. Juni 2010 löschte die Eidgenössische Steuerverwaltung (ESTV) sie aus dem Register der Mehrwertsteuerpflichtigen. Die C._ (UK) Ltd hat mit der ESTV über den Umsatz nicht abgerechnet und die Umsatzsteuer entsprechend nicht abgeführt. Dadurch ist der Eidgenossenschaft ein Steuerausfall entstanden. B. Die ESTV führte im Oktober/November 2010 bei der A._ AG eine Kontrolle durch und erliess am 6. Dezember 2010 die "Einschätzungsmitteilung Nr. 215'828 / Verfügung" über insgesamt Fr. zzz. Im Umfang von Fr. yyy stand die Nachbelastung im Zusammenhang mit der Position "Einmaliger Fall - zu Unrecht geltend gemachte Vorsteuern auf Bezügen der C._ (UK) Ltd". Die ESTV begründete diese Position folgendermassen: "Die Rechnung des Leistungserbringers entspricht nicht den Anforderungen von Art. 37 MWSTG (fehlende MWST-Nummer). Eine Bestätigung des Leistungserbringers über die korrekte Ablieferung der Steuer konnte anlässlich der Kontrolle nicht beigebracht werden bzw. wäre nach aktuellen Erkenntnissen tatsachenwidrig. Würde die ESTV diesen Vorsteuerabzug trotz formell unrichtigem Beleg gewähren, entstünde ihr ein Steuerausfall in dieser Höhe. Art. 45a MWSTGV ist somit nicht anwendbar." C. Die A._ AG kam der Zahlungsaufforderung gemäss Einschätzungsmitteilung Nr. 215'828 / Verfügung bereits im November 2010 nach. Alsdann erhob sie am 21. Januar 2011 Einsprache, welche aber erfolglos blieb (Einspracheentscheid vom 4. Oktober 2012). Dagegen gelangte die A._ AG am 6. November 2012 an das Bundesverwaltungsgericht. Mit Urteil A-5800/2012 vom 19. November 2013 hiess dieses die Beschwerde gut und wies es die ESTV an, der A._ AG den Betrag von Fr. yyy (nebst bereits geleistetem Verzugszins und aufgelaufenem Vergütungszins) gutzuschreiben. D. Mit Eingabe vom 14. Januar 2014 erhebt die ESTV beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten. Sie beantragt, das Urteil A-5800/2012 vom 19. November 2013 sei aufzuheben und der Einspracheentscheid vom 4. Oktober 2012 sei zu bestätigen. Die A._ AG ersucht mit Schreiben vom 27. Januar 2014 um Akteneinsicht. Sie begründet das Gesuch damit, dass die ESTV in ihrer Beschwerde geltend mache, die C._ (UK) Ltd habe die Steuer auf dem streitbetroffenen Umsatz "weder abgerechnet noch abgeliefert". Dies wolle sie überprüfen. Da die Fragestellung eine am Verfahren nicht beteiligte Gesellschaft - die C._ (UK) Ltd - betrifft, wies der Präsident der II. öffentlich-rechtlichen Abteilung mit Verfügung vom 3. April 2014 das Gesuch ab. Gleichzeitig teilte er der A._ AG aber mit, dass die betreffenden Unterlagen tatsächlich die Zahlungsunfähigkeit der C._ (UK) Ltd und die Nichtbezahlung der streitbetroffenen Mehrwertsteuer belegten. Während die Vorinstanz von einer Vernehmlassung zur Beschwerde vom 14. Januar 2014 absieht, schliesst die A._ AG (nachfolgend: die Steuerpflichtige ) auf Abweisung der Beschwerde und Bestätigung des angefochtenen Entscheids.