Sachverhalt: A. X._ bezog seit dem 1. April 2002 eine AHV-Rente, die sie jedoch erst ab der Steuerperiode 2004 deklarierte. Kantonal letztinstanzlich verurteilte sie das Verwaltungsgericht des Kantons Zug mit Urteil vom 27. Januar 2007 wegen vollendeter Steuerhinterziehung. Infolge geringen Verschuldens, mangelnder Aufmerksamkeit der Steuerbehörde sowie einer "gewissen Verletzung des Beschleunigungsgebots" beschränkte das Gericht die Busse auf je Fr. 300.-- für die Kantons- und Gemeindesteuern sowie die direkte Bundessteuer, obschon es grundsätzlich von einer Selbstanzeige ausging. B. Am 18. März 2009 hat die Eidgenössische Steuerverwaltung beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen das Urteil des Verwaltungsgerichts eingereicht. Sie beantragt, das angefochtene Urteil in Bezug auf die direkte Bundessteuer aufzuheben und die Busse auf einen Fünftel der hinterzogenen Steuer (d.h. Fr. 1'120.60) festzusetzen. C. X._ und das Verwaltungsgericht schliessen auf Abweisung der Beschwerde. Die kantonale Steuerverwaltung hat auf eine Vernehmlassung verzichtet.