中国是世界上最早利用煤的国家。辽宁省新乐古文化遗址中，就发现有煤制工艺品，河南巩义市也发现有西汉时用煤饼炼铁的遗址。
《山海经》中称煤为石涅，魏、晋时称煤为石墨或石炭。明代李时珍的《本草纲目》首次使用煤这一名称。
希腊和古罗马也是用煤较早的国家，希腊学者泰奥弗拉斯托斯在公元前约300年著有《石史》，其中记载有煤的性质和产地；古罗马大约在2000年前已开始用煤加热。