У часы іспанскай каланізацыі тэрыторыя сучаснай Гранмы ўваходзіла ў склад старой правінцыі Арыентэ. У 1959 на ўзбярэжжы правінцыі адбылася высадка мексіканскіх рэвалюцыянераў з яхты «Гранма», узначальваемых Фідэлем Кастра. Менавіта тут разгарнуліся асноўныя падзеі кубінскай рэвалюцыі. Назва правінцыі паходзіць ад назвы рэвалюцыйнай яхты, Гранма з'яўляецца адзінай правінцыяй Кубы, якая не носіць назву сваёй сталіцы.