Sachverhalt:
A. Am 28. Februar 2008 stellte die Y._ AG bei der Einwohnergemeinde Ostermundigen ein Baugesuch für den Anbau einer gedeckten Verladerampe an der Ostfassade des bestehenden Gebäudes Obere Zollgasse .., unter Ausbruch von zwei Fassadenöffnungen (Türen), sowie für das Erstellen von 14 zusätzlichen Parkplätzen auf der Ostseite des Gebäudes. Auf Aufforderung der Gemeinde hin reichte sie am 16. Mai 2008 ein Ausnahmegesuch nach für das Bauen in der Bauverbotszone. Der Standort des Vorhabens befindet sich in der Gewerbezone Gb. Gegen das Bauvorhaben erhob unter anderen X._ Einsprache. Mit Amtsbericht vom 25. Juni 2008 stimmte das kommunale Tiefbauamt dem Vorhaben zu. Die Einwohnergemeinde Ostermundigen bewilligte das Bauvorhaben mit Gesamtentscheid vom 26. September 2008.
Gegen diesen Entscheid erhob X._ am 30. Oktober 2008 bei der Bau-, Verkehrs- und Energiedirektion des Kantons Bern (BVE) Beschwerde. Mit Entscheid vom 28. Juli 2009 hiess die BVE die Beschwerde teilweise gut und hob den Gesamtentscheid der Einwohnergemeinde Ostermundigen vom 26. September 2008 insoweit auf, als er die Bau- und Ausnahmebewilligung für den Anbau einer gedeckten Verladerampe unter Ausbruch von zwei Fassadenöffnungen in der Ostfassade des bestehenden Gebäudes betrifft. lm Übrigen wies sie die Beschwerde ab und bestätigte den erstinstanzlichen Gesamtentscheid.
B. Gegen diesen Entscheid reichten sowohl X._ als auch die Y._ AG am 28. bzw. 31. August 2009 Verwaltungsgerichtsbeschwerde ans Verwaltungsgericht des Kantons Bern ein.
Mit Urteil vom 19. Januar 2010 wies das Verwaltungsgericht die Beschwerde von X._ ab, soweit es darauf eintrat. Die Beschwerde der Y._ AG hiess es gut und hob den angefochtenen Entscheid der BVE auf. Es bestätigte den Gesamtentscheid der Einwohnergemeinde Ostermundigen vom 26. September 2008, wobei es den Entscheid durch die Auflagen ergänzte, dass die Verladerampe in Holz auszuführen und mittels Winkelelementen mit dem bestehenden Gebäude zu verschrauben sei, und dass der nördliche Eingang der Verladerampe mit einer Lärmschleuse zu versehen sei.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 24. Februar 2010 beantragt X._, das Urteil des Verwaltungsgerichts sei aufzuheben, und die Angelegenheit sei zur weiteren Sachverhaltsfeststellung und Neubeurteilung an die Einwohnergemeinde Ostermundigen als Bewilligungsbehörde zurückzuweisen. Eventualiter sei die Sache zu neuer Entscheidung an das Verwaltungsgericht zurückzuweisen.
Die Y._ AG beantragt die Beschwerdeabweisung. Die Einwohnergemeinde Ostermundigen und das Verwaltungsgericht des Kantons Bern stellen den Antrag, auf die Beschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen.
In seiner Stellungnahme zu den Vernehmlassungen hält der Beschwerdeführer an seinen Rechtsauffassungen und Anträgen fest.
D. Mit Präsidialverfügung vom 23. März 2010 wurde ein Gesuch des Beschwerdeführers um aufschiebende Wirkung abgewiesen.

Erwägungen:
1. 1.1 Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob und inwieweit auf ein Rechtsmittel eingetreten werden kann (<ref-law>; <ref-ruling> E. 1.1 S. 251).
Angefochten ist ein kantonal letztinstanzlicher Entscheid (<ref-law>), der eine öffentlich-rechtliche Angelegenheit im Sinne von <ref-law> betrifft. Ein Ausschlussgrund gemäss <ref-law> liegt nicht vor. Beim angefochtenen Urteil handelt es sich um einen Endentscheid (<ref-law>). Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen, ist als Nachbar durch den angefochtenen Entscheid besonders berührt und hat ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung (<ref-law>).
1.2 Nach <ref-law> ist in der Begründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Zwar wendet das Bundesgericht das Recht grundsätzlich von Amtes wegen an (<ref-law>). Das setzt aber voraus, dass auf die Beschwerde überhaupt eingetreten werden kann, diese also wenigstens die Begründungsanforderungen von <ref-law> erfüllt.
1.3 Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt, was in der Beschwerde näher darzulegen ist (<ref-law>; <ref-ruling> E. 2.2.1 S. 226; <ref-ruling> E. 3 S. 395).
1.3.1 Der Beschwerdeführer rügt erstmals vor Bundesgericht, durch die Erteilung der Baubewilligung werde "eine neue Lärm-Immissionsquelle zugelassen, obwohl die Lärm-Immissionsgrenzwerte für die Obere Zollgasse bereits überschritten" seien. Dies ergebe sich explizit aus zwei Verfügungen des Departements Tiefbau der Einwohnergemeinde Ostermundigen vom 17. November 2009, welche ihm am 24. November 2009 zugestellt worden seien. Die Nichtbeachtung dieser Grenzwertüberschreitung verletze die Grundsätze des USG (SR 814.01) und die Art. 7-9 und Art. 36 der Lärmschutz-Verordnung vom 15. Dezember 1986 (LSV; SR 814.41). Zudem habe die Einwohnergemeinde Ostermundigen seinen Anspruch auf rechtliches Gehör missachtet und sich wider Treu und Glauben verhalten, indem sie die ihr mindestens seit Beginn des Jahres 2009 bekannten Messergebnisse verheimlicht habe. Er selbst hingegen habe keine Gelegenheit gehabt, diese neuen Tatsachen bereits früher geltend zu machen.
1.3.2 Im Verfahren vor der Vorinstanz thematisierte der Beschwerdeführer die vorbestehende Lärmbelastung an der Oberen Zollgasse und die (mutmassliche) Überschreitung der Lärmimmissionsgrenzwerte durch die geplante Erstellung von 14 neuen Parkplätzen nicht, obwohl er durch den Entscheid der BVE beschwert war und es ihm möglich gewesen wäre, die dem Bundesgericht eingereichten Verfügungen des Departements Tiefbau der Einwohnergemeinde Ostermundigen vom 17. November 2009 bereits im vorinstanzlichen Verfahren einzubringen. Der angefochtene Entscheid erging erst am 19. Januar 2010, und nach kantonalem Recht dürfen die Parteien so lange neue Tatsachen und Beweismittel in das Verfahren einbringen als weder verfügt noch entschieden noch mit prozessleitender Verfügung das Beweisverfahren förmlich geschlossen wurde (Art. 25 des Gesetzes vom 23. Mai 1989 über die Verwaltungsrechtspflege im Kanton Bern [VRPG; BSG 155.21]). Entgegen der in der Beschwerde vertretenen Auffassung traf die Einwohnergemeinde Ostermundigen als Baubewilligungsbehörde keine rechtliche Verpflichtung, die mit dem vorliegenden Verfahren nicht in direktem Zusammenhang stehenden Verfügungen vom 17. November 2010 von sich aus der Vorinstanz zur Kenntnis zu bringen, weshalb auch der Anspruch des Beschwerdeführers auf rechtliches Gehör und der Grundsatz von Treu und Glauben nicht verletzt wurden. Für die Vorinstanz jedenfalls bestand bei dieser Sachlage kein Anlass, sich in ihrem Urteil zur mutmasslichen Lärmbelastung zu äussern.
1.3.3 In seiner Beschwerde ans Bundesgericht setzt sich der Beschwerdeführer in keiner Weise mit der Begründung des angefochtenen Urteils auseinander. Vielmehr beschränken sich seine Ausführungen auf den neu vorgebrachten Aspekt, wonach durch die zukünftige Nutzung der Parkfelder Mehrverkehr entstehe, welcher zwangsläufig zu mehr Lärm führe. Insoweit ist nicht ersichtlich und wird vom Beschwerdeführer auch nicht aufgezeigt, inwiefern erst der Entscheid der Vorinstanz zum Geltendmachen der neuen Tatsachen und Einreichen der neuen Beweismittel - sprich der beiden Verfügungen vom 17. November 2009 - Anlass bot. Soweit der Beschwerdeführer im Übrigen auf angeblich vom Betrieb der Verladerampe ausgehende Lärmimmissionen hinweist, substanziiert er seine Rüge nicht näher. Insbesondere legt er nicht dar, weshalb die behauptete Lärmproblematik trotz der von der Vorinstanz neu festgesetzten Auflage, die Verladerampe mit einer Lärmschleuse zu versehen, (weiterhin) bestehen sollte.
1.3.4 Der Beschwerdeführer bringt im Verfahren vor Bundesgericht somit neue Tatsachen und Beweismittel vor, ohne dass der Entscheid der Vorinstanz dazu Anlass bot. Die weiteren Rügen substanziiert er nicht hinreichend. Auf die Beschwerde ist daher nicht einzutreten.
2. Bei diesem Ausgang des Verfahrens sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Dieser hat der Beschwerdegegnerin eine angemessene Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, der Einwohnergemeinde Ostermundigen, der Bau-, Verkehrs- und Energiedirektion sowie dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 15. Juli 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Stohner