Kelime kökeni Arapça'dan gelen kalem, Yunanca’da kamış anlamına gelen kalamos kelimelerinin bir araya gelmesi ve zaman içinde Türkçeleşmesi ile oluşmuş bir kelimedir. Türkçe'de kurşun kalem anlamında karataş kelimesi de kullanılmaktadır. Kurşun kalemin tarihçesi ise çok eskiye dayanmaktadır.
Kurşun kalem yumuşak bir tahtanın içine grafit ve balçık karışımı bir malzemenin yerleştirilmesi ile meydana gelir. Tarihi ise yaklaşık olarak beş bin yıl önceye dayanmaktadır. Ancak bugün de kullanılan kurşun kalemin 1790 yılında icat edildiği bilinmektedir. 1790 yılında seramiğin bulunması ile birlikte kurşun kalemlerin içinde bir miktar kil eklenmiştir ve bu sayede kalemler belli bir ideal sertlik seviyesine erişmiştir.
1792 yılında Josep Hardmuth tarafından Viyana’da KOH NORR isimli bir firma kurulmuştur ve bu firma dünya üzerindeki en eski kırtasiye firmalarından bir olarak kabul edilmiştir. İlk kurşun kalemlerin ise bu firmada üretildiği bilinmektedir.
Bugün de hayatın her alanında kullanılabilen kurşun kalemlerin en ilkel örneklerine 5000 yıl önce rastlandığı kabul edilmektedir. Beş bin yıl önce Mısır’da kullanıldığı tespit edilen kurşun kalemlerin sazlardan ya da papirüs bitkisinden elde edildiği farz edilmektedir. Ayrıca bu kalemler uç kısımlara kurşun dökülerek oluşturulmaktadır.
1500’lü yıllarda İngiltere’de Gri Knotts bölgesinde yaşamakta olan kişiler bir fırtına sonrasında devrilen ağacın kökünde yapışkan ve siyah bir madde bulmuşlardır. Kısa süre içinde bu maddenin boyama özelliği olduğunu farkına varmışlardır ve bölge sakinleri koyunları boyamak için bu maddeden yararlanmışlardır.
1575 yılında tarihçi olan Conrad Gesner, kurşun kalemin üretilmesinde kurşunun kullanılmadığını kalemin boyama özelliğini sağlayan maddenin doğal bir karbon olan grafit olduğunu kanıtlamıştır.