中国发现和利用石墨的历史悠久。古籍中曾有不少关于石墨的记载。如《水经注》载“洛水侧有石墨山。山石尽黑，可以书疏，故以石墨名山矣。”从考古挖掘出来的甲骨、玉片、陶片发现，早在3000多年前商代就有用石墨书写的文字，一直延续至东汉末年（公元220年），石墨作为书墨才被松烟制墨所取代。清朝道光年间（公元1821～1850年），湖南郴州农民开采石墨做燃料，称之为“油碳”。
20世纪初期，用石墨制造电池和铅笔的技术传入中国，当时称为“电煤”和“笔铅”的石墨，开始用于近代工业，推动了中国石墨采掘业的发展。兴和、南江、磐石石墨矿于1916～1928年相继开采，1929年湖南耒阳、郴州、宜章等地办起7个石墨矿山，1932年湖南桂阳发现优质石墨，十余家笔铅公司参与开采或收购矿砂。陕西眉县1936年成立笔铅矿业公司，年产石墨矿砂约3000t。
1931年9月后磐石、柳毛、兴和矿和1937年7月后南墅、定安等矿，曾遭受日本侵略者掠夺开采，估计掠走石墨5万t以上。当时抗战后方四川南江坪河地区有9家矿山和2家公司采掘石墨和碾粉，年产量200t，1947年停产。抗日战争胜利后，解放区人民政府于1948年接管柳毛、磐石、南墅矿并恢复生产；国民党统治区曾有20余家笔铅公司，至1949年只剩郴州、眉县两家，共计年产石墨5915t。
随着石墨矿山的开发，中国石墨矿床地质工作自本世纪20年代起，一些学者就曾进行过石墨矿地质调查，如梁津对福建南屏笔铅矿的调查，侯德封、曾世录、南延宗、廖友仁、卢衍豪、高俊西、李均衡、王曰伦等人对四川、河南、福建、陕西、甘肃等地的一些矿点的调查。但是，1949年以前开采矿山都未做过正规的地质勘查工作。
1949年，中华人民共和国成立后，国家对石墨矿投入了大量地质勘查工作。早在50年代初，华东工业部就派地质队开始勘查南墅石墨资源。其后，建材和地矿等系统的地质队，在60年代勘探南墅、兴和、鲁塘、磐石等矿，70年代勘探南江、北墅、什报气、三岔垭等矿，80年代勘探柳毛、金溪等矿，90年代勘探穆棱、赤城等矿。40多年来，不仅查明扩大老矿山储量，而且还新发现大批矿产地，探明了大量可供工业利用的储量和丰富的后备资源，全面掌握了中国石墨矿产资源特征和分布规律，丰硕的地质成果为中国石墨矿业持续发展提供了可靠的依据。
中华人民共和国成立后，随着冶金、机械、电气等工业发展的需要，石墨生产得到蓬勃发展。1950～1952年国家投资建设南墅、柳毛、兴和、鲁塘、南江等矿，1952年生产石墨1.22万t。1953～1957年经过技术改造和工艺设备填平补齐，初步改变石墨矿山落后的面貌，1957年全国8个矿山生产石墨4.33万t，开始有产品出口。1958年新办21个小矿，全国产量15万t，但出现采掘失衡，产品质量下降的情况。经过1962年的调整，产品质量好转，但产量有所下降，至1966年年产量为8.9 t，1970年起才有提高，并有漳平、冷水江、穆棱、麻山、灵宝等矿相继建设，1977年全国产量达到20.6万t。1978年以后，石墨工业出现4年徘徊，全国年产量保持18万t左右。
中国实行改革、开放方针后，石墨工业出现新的生机。80年代恢复发展了莱西、武川、伍园、西峡等矿，广东佛冈煤矿和鸡西磷矿兼有石墨生产矿场。至1985年全国县属以上的大、中型石墨企业有25家，乡镇小型企业200多家，全国年产量27.9万t，出口量从1978年的1.37万t增长至8.1万t，成为非金属矿中的大宗出口产品。1990年中国石墨生产出现高峰，年产量67.9万t，出口量14.1万t，1992年降为50.8万t，出口量15.5万t。1995年又出现新的高峰，年产量达216.3万t，其中鳞片石墨产量54.9万t，出口量15.4万t。目前共有国有骨干矿山9座，地方国有矿山15座，集体及乡镇采选厂矿187家，各种加工厂180余家，形成以黑龙江柳毛、山东南墅、内蒙古兴和为重点的晶质石墨生产基地和以湖南鲁塘为中心的隐晶质石墨生产基地，国有骨干矿山的产量占全国产量的38%，集体及乡镇企业产量占62%。
中国石墨矿业历经70多年沧桑，自中华人民共和国成立后，虽然也有几次曲折，但总体发展显著，至1995年不仅年产量为1949年产量的365倍，而且已形成为采矿、选矿、加工、质量提纯和石墨制品一系列配套的综合性产业。目前年产量约占世界产量的一半，居于首位。产品品种20多种，产品牌号272种，产品质量、粒度分级及粉碎加工方法达世界先进水平。同时，由于不断开拓深加工产品，产品结构也发生较大的改善，已能生产代表当代国际先进水平的彩电管石墨乳，GRT节能减磨添加剂、可膨胀石墨、石墨板材、石墨密封件和石墨耐火材料等6大类近1000种深加工产品。长期以来，石墨一直是中国非金属优势矿产之一，今后仍将继续稳步发展。