Les matériaux abrasifs les plus courants dans le papier de verre sont l'oxyde d'aluminium et le carbure de silicium. Bien qu'ils fonctionnent de manière très similaire et qu'à première vue il n'y ait pas de différences, il y a quelques détails entre eux qui peuvent rendre l'expérience de l'utilisateur meilleure, ou simplement mieux fonctionner.
Oxyde d'aluminium : C'est le matériau le plus courant et le moins cher et il est légèrement plus durable que le carbure de silicium, c'est pourquoi il est utilisé dans les ponceuses automatiques. La matière abrasive se décompose au fur et à mesure de son utilisation, laissant place à de nouveaux angles vifs. Il n'est généralement pas imperméable à moins d'utiliser une base qui permet de l'utiliser mouillé.
Carbure de silicium : Ce matériau s'use beaucoup plus rapidement que l'oxyde d'aluminium mais est moins durable, il n'est donc pas très utilisé avec des outils comme les ponceuses automatiques. Son autre avantage est que le papier de verre au carbure de silicium est en grande partie imperméable, ce qui permet de l'utiliser sur des surfaces humides.