Inspirado por el trabajo de Willie Wilson, House se vio atraído por el blues, a pesar de la oposición de la Iglesia acerca de este estilo musical por los pecados que lo rodeaban, comenzando a tocar la guitarra a mediados de la década de 1920.