Sachverhalt: A. A.a. X._ (1964) wurde mit Verfügung vom 16. August 1996 erstmals wegen paranoider Schizophrenie im Rahmen fürsorgerischer Freiheitsentziehung in eine Anstalt eingewiesen. Am 27. Oktober 2006 wurde er in das Wohn-Pflegeheim A._ in B._ verlegt. A.b. Im November 2011 stellte X._ ein Entlassungsgesuch, welches die Verwaltungsrekurskommission des Kantons St. Gallen am 30. August 2012 abwies. B. Mit einem persönlichen Schreiben und mit einem Schreiben seines Rechtsanwalts Edmund Schönenberger je vom 6. März 2013 ersuchte X._ erneut um Entlassung. Mit Verfügung vom 13. März 2013 trat die Kindes- und Erwachsenschutzbehörde Y._ auf das Gesuch nicht ein. Dagegen gelangte X._ an die Verwaltungsrekurskommission des Kantons St. Gallen. In diesem Verfahren beantragte er den Ausstand des Abteilungspräsidenten der Verwaltungsrekurskommission, Urs Gmünder. Dessen Stellvertreter wies das Begehren mit Verfügung vom 22. März 2013 ab. Diese Verfügung blieb unangefochten. Mit Entscheid vom 5. April 2013 wies die Verwaltungsrekurskommission des Kantons St. Gallen die gegen den Nichteintretensentscheid der Kindes- und Erwachsenenschutzbehörde erhobene Beschwerde von X._ ab. Mit Urteil vom 2. Mai 2013 trat das Kantonsgericht St. Gallen auf eine dagegen erhobene Beschwerde wegen fehlender Begründung der Eingabe nicht ein. C. X._, weiterhin vertreten durch Rechtsanwalt Schönenberger, hat am 5. Mai 2013 gegen das Urteil des Kantonsgerichts St. Gallen vom 2. Mai 2013 beim Bundesgericht Beschwerde in Zivilsachen erhoben. Er beantragt die Aufhebung des vorinstanzlichen Urteils, die Entlassung aus der Einrichtung sowie die Feststellung der Verletzung von Art. 5 Ziff. 1, Art. 5 Ziff. 4, Art. 6 Ziff. 1 und Art. 13 EMRK. Für das bundesgerichtliche Verfahren ersucht er um unentgeltliche Rechtspflege und Verbeiständung. D. Mit Präsidialverfügung vom 13. Mai 2013 wurde das Gesuch des Beschwerdeführers um aufschiebende Wirkung abgewiesen. E. Die Kindes- und Erwachsenenschutzbehörde und die Vorinstanz haben auf Vernehmlassung zur Sache verzichtet.