Sachverhalt:
A. Die D._ AG bezweckt die Herstellung und den Vertrieb von Frischbeton sowie von Beton-Fertigteilen. Am 16. November 2007 reichte sie ein Baugesuch für den Neubau einer Betonzentrale sowie für eine Stützmauer und ein Rückhaltebecken ein. Die Bauten sollen in der Gemeinde Düdingen auf den Grundstücken Nr. 4728 und Nr. 4729 erstellt werden. Zugleich stellte die D._ AG zwei Ausnahmegesuche für die Erstellung von vier Bindemittelsilos und einer neuen Zufahrt.
Das Baubewilligungs- und die Ausnahmegesuche wurden am 23. November 2007 öffentlich aufgelegt. Gegen die Begehren gingen mehrere Einsprachen ein.
Am 27. August 2008 erteilte die Raumplanungs-, Umwelt- und Baudirektion des Kantons Freiburg (RUBD) das Einverständnis zur Bewilligung der ersuchten Ausnahmen (Silos und Zufahrt) durch die Gemeinde Düdingen. Mit Verfügung vom 9. September 2008 genehmigte der Gemeinderat von Düdingen in der Folge die Ausnahmegesuche. Gegen diesen Entscheid erhoben mehrere Einsprecher am 15. Oktober 2008 Beschwerde beim Oberamtmann des Sensebezirks, welcher diese am 28. Oktober 2008 guthiess, die Verfügung vom 9. September 2008 aufhob und die Sache zum neuen Entscheid an den Gemeinderat zurückwies.
Der Gemeinderat erteilte am 25. November 2008 (erneut) die Ausnahmebewilligungen. Dagegen wurde am 14. Januar 2009 (wiederum) Beschwerde beim Oberamtmann erhoben. Mit Verfügungen vom 30. April 2009 gewährte dieser die Bau- und Ausnahmebewilligungen und wies die Einsprachen ab, soweit er darauf eintrat. Einen Teil der Einsprachegründe verwies er an den Zivilrichter.
Die von mehreren Einsprechern gegen diese Verfügungen am 2. Juni 2009 eingereichte Verwaltungsgerichtsbeschwerde wies das Kantonsgericht des Kantons Freiburg mit Urteil vom 11. März 2010 ab, soweit es darauf eintrat.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 27. April 2010 beantragen die Einsprecher A._, Eheleute B._ sowie Eheleute C._, das Urteil des Kantonsgerichts sei aufzuheben, und die Sache sei zur Neubeurteilung an die Vorinstanz zurückzuweisen. Des Weiteren ersuchen sie, ihrer Beschwerde die aufschiebende Wirkung zuzuerkennen.
Das Kantonsgericht stellt den Antrag auf Beschwerdeabweisung. Die Gemeinde Düdingen verzichtet auf eine Stellungnahme. Die D._ AG beantragt, die Beschwerde sei abzuweisen, soweit darauf eingetreten werden könne.
C. Mit Verfügung vom 20. Mai 2010 hat der Präsident der I. öffentlich-rechtlichen Abteilung der Beschwerde die aufschiebende Wirkung zuerkannt.

Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Entscheid des Kantonsgerichts aus dem Sachgebiet Raumplanung und Bauwesen. Es handelt sich somit um eine Streitigkeit, die mit Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht weitergezogen werden kann (Art. 82 lit. a i.V.m. <ref-law>). Es liegt keiner der gesetzlichen Ausschlussgründe vor (<ref-law>).
Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht ist gemäss <ref-law> berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a), durch den angefochtenen Entscheid besonders berührt ist (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung besitzt (lit. c).
Das Beschwerderecht setzt neben der formellen Beschwer voraus, dass die Beschwerdeführer über eine spezifische Beziehungsnähe zur Streitsache verfügen und einen praktischen Nutzen aus der Aufhebung oder Änderung des angefochtenen Entscheids ziehen. Die Beziehungsnähe zum Streitgegenstand muss bei Bauprojekten insbesondere in räumlicher Hinsicht gegeben sein. Ein schutzwürdiges Interesse liegt vor, wenn die Beschwerdeführer durch den angefochtenen Akt persönlich und unmittelbar einen Nachteil erleiden.
Ob die Voraussetzungen von Art. 89 Abs. 1 lit. b und c BGG vorliegend erfüllt sind, kann jedoch offen gelassen werden. Denn ungeachtet ihrer Legitimation in der Sache können die Beschwerdeführer die Verletzung von Parteirechten rügen, deren Missachtung auf eine formelle Rechtsverweigerung hinausläuft (<ref-ruling> E. 1.3.2 S. 253). Die Beschwerdeführer haben am vorinstanzlichen Verfahren teilgenommen und machen eine Verletzung ihres Anspruchs auf rechtliches Gehör gemäss <ref-law> geltend. Auf ihre Beschwerde ist einzutreten. Für die eventualiter erhobene subsidiäre Verfassungsbeschwerde besteht demnach kein Raum (<ref-law>).
2. 2.1 Die Beschwerdeführer rügen, ihnen sei trotz ihres ausdrücklichen Ersuchens mit Schreiben vom 7. Dezember 2009 an die Vorinstanz keine Gelegenheit eingeräumt worden, sich zu den Stellungnahmen der RUBD und des Tiefbauamts vom 20. November 2009 sowie zu den (unverlangten) Eingaben der Gemeinde Düdingen vom 26. Oktober 2009 und der Beschwerdegegnerin vom 4. Dezember 2009 zu äussern. Die Vorinstanz habe mit Schreiben vom 9. Dezember 2009 zwar explizit in Aussicht gestellt, später auf ihren Antrag zurückzukommen. Am 12. Februar 2010 habe sie jedoch sämtliche Beweisanträge abgewiesen und das Beweisverfahren geschlossen, und am 11. März 2010 habe sie ihr Urteil eröffnet. Hierdurch habe die Vorinstanz wider Treu und Glauben gehandelt und den ihnen verfassungsrechtlich garantierten Gehörsanspruch missachtet.
2.2 Nach ständiger Rechtsprechung des Europäischen Gerichtshofs für Menschenrechte (EGMR) umfasst das Recht auf ein faires Verfahren gemäss Art. 6 Ziff. 1 EMRK das Recht der Parteien, von jedem Aktenstück und jeder dem Gericht eingereichten Stellungnahme Kenntnis zu nehmen und sich dazu zu äussern, sofern sie dies für erforderlich halten. Unerheblich ist nach der Rechtsprechung des EGMR, ob eine Eingabe neue Tatsachen oder Argumente enthält und ob sie das Gericht tatsächlich zu beeinflussen vermag (Urteil Nideröst-Huber gegen Schweiz vom 18. Februar 1997, Recueil CourEDH 1997-I S. 101 § 24 auch in VPB 61/1997 Nr. 108 S. 959).
Nach der bundesgerichtlichen Rechtsprechung gelten diese allgemeinen Verfahrensgrundsätze des "fair trial" gemäss Art. 6 Ziff. 1 EMRK und <ref-law> für alle gerichtlichen Verfahren (<ref-ruling> E. 4.6 S. 104). Der Anspruch einer Partei, im Rahmen eines Gerichtsverfahrens zu replizieren, bildet zugleich einen Teilgehalt des verfassungsmässigen Anspruchs auf rechtliches Gehör nach <ref-law>. Im Hinblick auf das Replikrecht in gerichtlichen Verfahren kommt <ref-law> und Art. 6 Ziff. 1 EMRK dieselbe Tragweite zu (<ref-ruling> E. 2.1 S. 99).
Gehen in einem Gerichtsverfahren Vernehmlassungen und Stellungnahmen von Parteien und Behörden ein, so werden diese den übrigen Verfahrensbeteiligten zur Kenntnisnahme zugestellt. Das Kantonsgericht kann einen zweiten Schriftenwechsels anordnen, ist dazu aber nicht verpflichtet (vgl. Art. 89 f. des Gesetzes über die Verwaltungsrechtspflege des Kantons Freiburg [VRG/FR]). Möchten Verfahrensbeteiligte, die eine Eingabe ohne Fristansetzung erhalten haben, nochmals zur Sache Stellung nehmen, haben sie dies umgehend zu tun. Das Gericht wartet mit der Entscheidfällung zu, bis es annehmen darf, die Adressaten hätten auf eine weitere Eingabe verzichtet (vgl. <ref-ruling> E. 2.2 S. 99).
2.3 Die Beschwerdeführer ersuchten im vorinstanzlichen Verfahren ausdrücklich und umgehend - nämlich am 7. Dezember 2009 - darum, zu den Eingaben der anderen Verfahrensbeteiligten vom 26. Oktober 2009, vom 20. November 2009 und vom 4. Dezember 2009 Position beziehen zu können (vorinstanzliche Akten act. 45). Die Vorinstanz teilte mit Schreiben vom 9. Dezember 2009 mit, sie werde später auf die Eingabe der Beschwerdeführer vom 7. Dezember 2009 zurückkommen (vorinstanzliche Akten act. 46). Vor diesem Hintergrund bestand für diese keine Veranlassung zu reagieren, und es kann nicht angenommen werden, sie hätten auf weitere Äusserungen verzichtet. Ausgehend von der dargestellten Rechtslage (E. 2.2 hiervor) wäre die Vorinstanz vorliegend gehalten gewesen, dem Ersuchen der Beschwerdeführer um Stellungnahme - allenfalls unter Ansetzung einer kurzen Frist - zu entsprechen. Indem sie stattdessen deren Antrag am 12. Februar 2010 abwies (vorinstanzliche Akten act. 47) und am 11. März 2010 den angefochtenen Entscheid erliess, missachtete sie das Replikrecht der Beschwerdeführer und verletzte hierdurch deren Anspruch auf rechtliches Gehör gemäss <ref-law>.
3. Die Beschwerde ist damit gutzuheissen, das angefochtene Urteil aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
Aufgrund ihres Unterliegens hat die private Beschwerdegegnerin die Kosten des bundesgerichtlichen Verfahrens zu tragen (<ref-law>) und den Beschwerdeführern eine angemessene Parteientschädigung auszurichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und das Urteil des Kantonsgerichts des Kantons Freiburg, II. Verwaltungsgerichtshof, vom 11. März 2010 aufgehoben. Die Angelegenheit wird zur neuen Beurteilung im Sinne der Erwägungen an das Kantonsgericht zurückgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführern eine Parteientschädigung von Fr. 2'000.-- zu bezahlen.
4. Dieses Urteil wird den Parteien, der Gemeinde Düdingen, dem Oberamt des Sensebezirks und dem Kantonsgericht Freiburg, II. Verwaltungsgerichtshof, schriftlich mitgeteilt.
Lausanne, 5. Juli 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Stohner