两度暂任行政局非官守议员。退出有利银行后，宾臣决定以香港为家，除了担任多家工商机构的主席和董事职务，又热心从事社会公职，并特别关注儿童福利，当中包括在1953年至1964年出任儿童法庭法官，任内他常对犯事的贫苦家庭儿童予以特别体恤。另外，他曾任香港游乐场协会会长、香港保护儿童会执行委员会委员，以及参与香港儿童安置所和香港童军总会等组织的工作。宾臣还早于1940年参与草创香港防痨会，同时出任该会义务司库，战后他于1948年出任该会董事一职，翌年更获选为董事会副主席，后来于1963年出任主席，到1964年6