Bei den Kongresswahlen des Jahres 1998 wurde Ose im dritten Wahlbezirk von Kalifornien in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 3. Januar 1999 die Nachfolge von Victor H. Fazio antrat. Nach zwei Wiederwahlen konnte er bis zum 3. Januar 2005 drei Legislaturperioden im Kongress absolvieren. In seine Zeit als Kongressabgeordneter fielen die Terroranschläge am 11. September 2001, der Irakkrieg und der Militäreinsatz in Afghanistan. Ose war zwischenzeitlich Vorsitzender des Ausschusses für Regierungsreformen. Da er bei seiner ersten Wahl versprochen hatte, nur drei Legislaturperioden im Kongress verbleiben zu wollen, verzichtete er im Jahr 2004 auf eine weitere Kandidatur.