4分割交差検証手法では汎化性能保証上限りあまり十分ではありません。
大規模データセットで汎化性能評価したい場合、「ホールドアウト法」や「K-分割交差検証」等別手法採用すべきです。
これら手法ではデータ集約・ランダムシャッフル・再サンプリング等行って汎化性能向上対処可能。
また新しいデータ収集して追加実験行った後比較・改善点見出す有益だろう。