Faits: A. Le 23 décembre 2009, l'Office cantonal genevois de la population a notifié à X._, ressortissant équatorien, une décision de renvoi de Suisse qui est entrée en force. Le 15 septembre 2010, le prénommé a été condamné par la Cour correctionnelle de Genève à une peine privative de liberté de 30 mois, dont 15 sans sursis, pour viol. Libéré le 11 mars 2011 par les autorités genevoises, il a été remis aux autorités argoviennes sur mandat d'arrêt de ces dernières pour exécution du solde d'une peine pécuniaire de 115 jours-amendes non payée et convertie en peine de prison. Le 8 juin 2011, les autorités argoviennes ont prononcé la libération conditionnelle de X._ avec effet au 10 juin 2011, ainsi que sa remise le même jour aux autorités genevoises compétentes en matière de police des étrangers. Le 10 juin 2011, X._ a pris le train en Argovie à 10h. en wagon cellulaire et est arrivé à Genève à 17h.15; à 18h.10, l'Officier de police a prononcé sa mise en détention administrative pour une durée de trois mois en application de l'art. 76 al. 1 let. b ch. 1 LEtr. Le 14 juin 2011 à 11h., le Tribunal administratif de première instance a entendu X._ et a confirmé l'ordre de mise en détention administrative pour une durée de 3 mois, soit jusqu'au 9 septembre 2011. B. Par arrêt du 6 juillet 2011, la Cour de justice (Chambre administrative) du canton de Genève (ci-après: la Cour de justice) a rejeté le recours de X._ à l'encontre du jugement du 14 juin 2011. Il en ressort en substance que la décision de mise en détention ordonnée par l'Officier de police avait été contrôlée dans le délai légal de 96 heures, que la détention administrative du recourant devait être admise dans son principe puisqu'il faisait l'objet d'une décision de renvoi en force et qu'il avait été condamné pour un crime. En outre, l'intéressé avait affirmé à plusieurs reprises ne pas être d'accord de retourner en Equateur et n'avait accompli aucune démarche en vue de se faire établir un nouveau passeport par les autorités équatoriennes permettant son retour dans ce pays, alors qu'il se savait indésirable en Suisse depuis fin 2009. Il a également été constaté que les démarches en vue de son renvoi étaient en bonne voie, de sorte que la mesure apparaissait nécessaire et adéquate. C. A l'encontre de l'arrêt du 6 juillet 2011, X._ forme un recours en matière de droit public au Tribunal fédéral. Il conclut à l'annulation de l'arrêt attaqué et à sa mise en liberté immédiate. Il demande par ailleurs le bénéfice de l'assistance judiciaire. Se référant à son arrêt, la Cour de justice a renoncé à présenter des observations, à l'instar du Service de la population. L'Officier de police a pris position et a conclu à la confirmation de l'arrêt du 6 juillet 2011. Dans ses remarques finales, X._ a rappelé sa position quant au non-respect du délai de 96 heures, tout en se référant à son mémoire de recours pour le surplus. Par ordonnance du 17 août 2011, le Président de la IIe Cour de droit public a rejeté la requête d'effet suspensif présentée à l'appui du recours.