Jabarkan Seni Bina dari Masjid Raya Koto Baru dalam bahasa melayu

Perpaduan pelbagai unsur terserlah dalam seni bina masjid, umumnya Parsi dan Minangkabau. Seperti masjid vernakular Minangkabau yang lain, bumbung masjid terdiri daripada beberapa tingkat yang sedikit cekung. Terdapat sebuah bilik persegi dengan empat bumbung berdentang ke arah empat penjuru di tingkat atas bumbung. Menurut Thamrin, ketua masyarakat setempat, empat gonjong melambangkan empat raja empat suku yang menetap di kawasan Surambi kawasan Sungai Pagu iaitu orang Melayu, orang Kampai, orang Panai, dan orang Tigo Lareh, manakala menara itu setinggi 1.5 meter yang menjadikannya lambang empat raja kepercayaan kepada keesaan Tuhan.

Keseluruhan seni bina masjid ini menyerupai reka bentuk Masjid Rao Rao di Kabupaten Tanah Datar. Dalam sambutan ulang tahun ke-100 Masjid Rao Rao pada tahun 2008, Shodiq Pasadigoe, bupati Tanah Datar ketika itu menyebut bahawa Masjid Besar Kota Baru diminta dibina serupa dengan Masjid Rao Rao. Walau bagaimanapun, tidak seperti Masjid Rao Rao, masjid ini mempunyai dua menara, walaupun bentuknya menyerupai Masjid Rao Rao.