Faits : A. A._, carreleur de profession, a déposé une demande de prestations auprès de l'Office cantonal AI du Valais (ci-après: l'office AI) le 26 août 2008. Se fondant sur l'avis de son Service médical régional (SMR; rapport final du 8 janvier 2010), l'office AI a octroyé à l'assuré des mesures d'orientation professionnelles (communication du 12 janvier 2010). A la suite de l'interruption le 22 octobre 2012 d'une formation en cours au centre B._ (rapport d'observation du 19 novembre 2012), l'office AI a repris l'instruction au niveau médical (rapport du 4 décembre 2012) et requis des informations auprès du docteur C._ (rapport du 27 décembre 2012). Il a proposé différentes formations à A._ (courrier du 29 janvier 2013), que ce dernier a refusées. L'assuré a demandé de pouvoir entreprendre une formation de technicien dentiste (courrier du 14 février 2013). Une place de stage lui a été trouvée du 29 avril au 26 mai 2013 (communication du 29 avril 2013), malgré les réserves émises par l'office AI lors de l'entretien du 8 avril 2013 au sujet du maintien d'une capacité de gain suffisante dans une telle activité (rapport intermédiaire du 1 er mai 2013). L'administration a renoncé à financer le coût de la formation en question (courrier du 11 juillet 2013). Pour les périodes où il n'était pas en formation mais en incapacité de travail, A._ a requis le versement d'indemnités journalières (courriers des 23 octobre et 3 décembre 2013). Par décision du 4 septembre 2014, confirmant le projet de décision du 4 juin précédent, l'office AI lui a accordé le droit à une indemnité journalière pour la période du 23 octobre au 25 novembre 2012 et le lui a refusé pour les périodes du 26 novembre 2012 au 28 avril 2013 et du 27 mai au 9 septembre 2013, en l'absence de projet professionnel. B. Par jugement du 26 février 2016, la juridiction cantonale a partiellement admis le recours de l'assuré en ce sens que le droit de A._ à l'indemnité journalière est reconnu du 23 octobre au 25 novembre 2012, refusé du 26 novembre 2012 au 28 avril 2013 et accordé du 27 mai au 9 septembre 2013. C. L'assuré interjette un recours en matière de droit public contre ce jugement dont il requiert la modification du dispositif en ce sens qu'il est mis au bénéfice de l'indemnité journalière du 26 novembre 2012 au 28 avril 2013. L'office AI a proposé le rejet du recours tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé.