砂岩是由碎屑沉积形成的，和生物沉积形成的如煤，以及化学沉积形成的如石膏、碧玉不同，碎屑可以是其他岩石的或某些矿物晶体的，胶结这些碎屑的物质可以是方解石、黏土或硅土。碎屑的粒径在0.0625至2mm之间，如果碎屑粒径过小会形成片岩或页岩，过大会形成砾岩或角砾岩。砂岩的形成分为两个阶段，首先砂粒一层层地沉积，可能是水或大气搬运造成的；然后在压力的大气压力下，被从上面淋滤下的碳酸钙或硅质胶结到一起，其中含有的铁、硅、锰等元素会造成砂岩不同的颜色。由于沉积环境的差别，使得各种砂岩有不同的节理、粒径、颜色和性质