Etter å ha tatt mastergraden, var Ma ansatt i et advokatfirma på Wall Street i New York og som juridisk rådgiver for First National Bank of Boston (senere BankBoston) i Massachusetts. I en periode i 1981 var han forsker ved University of Maryland School of Law og advokat i Cole & Deitz LLP i New York, deretter viseadministrerende direktør ved president Chiang Ching-kuos kontor i Taipei 1981–1988 og assisterende generalsekretær i Kuomintang 1984–1988. Han hadde ulike roller i regjeringsapparatet før han ble justisminister i 1993 og konsultativ minister i 1996.