La gomma per cancellare funziona per abrasione del foglio: strofinata sulla carta ne porta via lo strato più superficiale e quindi la scrittura che vi si trova. Per la matita basta una gomma morbida, poiché la grafite lascia un segno leggero. Per l’inchiostro, che impregna maggiormente la carta, la gomma è più dura e più abrasiva, per eliminare uno strato più spesso. La gomma è fatta di caucciù o di gomme sintetiche. Contiene inoltre polveri abrasive (come il carbonato di calcio) e altre sostanze che servono a darle la giusta consistenza affinché, quando viene sfregata, si consumi eliminando con le briciole anche la scrittura cancellata, che altrimenti rimarrebbe attaccata alla gomma stessa.