書き出しの対象に使用している素材のファイル形式や解像度などが、書き出し設定と一致していないと、書き出しエラーになる可能性があります。書き出し設定を確認して、読み込み素材の情報と一致していることを確認してください。
また、
書き出し形式
解像度
フレームレート
ビットレート
エンコード方法
などを設定し直してみるのも有効です。