中国是世界上利用铁最早的国家之一。早在19000年前，周口店“山顶洞人“就开始使用赤铁矿粉作为赭红色顔料，涂于装饰品上或者随葬撒在尸体周围。这是类利用天然矿物顔料的开始。到新石器时代（距今10000～4000年），兴起了制陶业，并发明绘制各种风格的彩陶。绘制赭红色彩陶的原料就是赭石（赤铁矿）。
人类使用铁器制品至少有5000多年历史，开始是用铁陨石中的天然铁制成铁器。最早的陨铁器是在尼罗河流域的格泽（Gerzeh）和幼发拉底河流域乌尔（Ur）出土于公元前4000多年前的铁珠和匕首。目前中国最早的陨铁文物是1972年在河北藁城台西村商代中期（公元前13世纪中期）遗址中发现的铁刃青铜钺。这件古兵器，经全面的科学考查，确定刃部是陨铁加热锻造成的。它表明我国商代人们已掌握一定水平的锻造技术和对铁的认识，熟悉铁加工性能，并认识铁与青铜在性质上的差别。但那时人们还不会利用铁矿石炼铁，而铁陨石又很少，所以当时的铁制品是十分珍贵的物品。
我国用铁矿石直接炼铁，早期的方法是块炼铁，后来用竖炉炼铁。在春秋时代晚期（公元前6世纪）已炼出可供浇铸的液态生铁，铸成铁器，应用于生产，并发明了铸铁柔化术。这一发明加快了铁器取代铜器等生产工具的历史过程。战国冶铁业兴盛，生产的铁器制品以农具、手工工具为主，兵器则青铜、钢、铁兼而有之。据记载，今山东临淄和河北邯郸铁矿等，春秋战国时期都已进行开采。