长白朝鲜族自治县的名称，是沿袭当年设长白府时，以县域北部的长白山而得名的。“长白山”的名称，历史上曾有过多次变化。远在夏周以前，长白山称为不咸山，“不咸”是蒙古语，音“不尔干”，即神巫，是“此山有神在”的意思。汉朝时叫单单大岭，《后汉东夷列传·七十五》载“昭帝始元五年，元搜徒句骊，自单单大岭以东，沃沮秽，悉属乐浪………”“单单与满州语珊延相近，即长白山”（载自《满州源流考·按》）。魏称盖马大山，后魏又称为徒太山、太白山。南北朝称为从太山。唐朝称为太白山。金代始称长白山。《元一统志·开元路》载“长白山在会宁县南六十里。”《明一统志》载“长白山在三万卫东北千余里，横亘千里”。满语称长白山为“果勒敏珊延阿林”，“果勒敏”满语是“长”的意思，“珊延”是“白”的意思，“阿林”是“山”的意思。因山顶每年都有八、九个月白雪皑皑，故而得名。
秦朝时，境域属“辽东外徼”。西汉，初属苍海郡，后为乐浪郡。 东汉至唐朝初年，属中国东北地方少数民族政权高句丽，后属满族先祖靺鞨建立的渤海国西京鸭绿府丰州。 辽代，先属东丹国，后属定安国东京道渌州长白山部，鸭绿江女真大王府。金代，属上京路会宁府曷懒路。元代，属辽阳中书行省开元路。明代，属努尔干都司建洲卫地。因县内长白山为女真发祥地，故清朝统治者将此地列为封禁之地，后属兴京府。清康熙十六年（1677年）后200年时间里，这里被划为封禁区。民国二年（1913年），民国政府改长白府为长白县，直接隶属奉天省。
1945年12月25日，长白县解放，改属安东省。1946年1月23日，改归吉辽省通化分省管辖。1946年春，长白县成立人民政府，划归安东省通化专区管辖，驻长白镇。1947年1月，长白县改为辽宁省直辖县。6月，复归辽宁省第一专区。1948年2月11日，撤销第一专区，长白县改为省辖县。1949年2月，改归辽东省管辖，4月，划归辽东省通化专区，成立长白县人民政府。1954年7月23日，由辽东省划归吉林省通化专区管辖。 1956年，长白县人民政府更名为长白县人民委员会。 1968年，撤销长白朝鲜族自治县人民委员会，成立长白朝鲜族自治县革命委员会。1980年，撤销长白朝鲜族自治县革命委员会，成立长白朝鲜族自治县人民政府。 1985年4月1日，划归浑江市（现为白山市）管辖。
