Inicialmente fue creado por Alejo I Comneno hacia el siglo XI, el título correspondía al comandante en jefe de la flota de guerra, equivalente al de almirante. Pero durante el gobierno imperial de la dinastía Paleólogo, el megaduque se convirtió en primer ministro del emperador bizantino, pasando por encima de toda la burocracia bizantina. El último megaduque antes de la caída del Imperio Bizantino fue Lucas Notaras (? - 3 o 4 de junio de 1453).