美国直到1980年才有了正式的教育部。在这之前,联邦政府中有一个叫“健康、教育和福利部”的部门,教育是它的一个分部。1979年10月17日,卡特总统签署法令，将“教育部”与“健康和人道服务”分开。次年5月4日,教育部正式开始运作。教育部是所有内阁级部中最小的。1995年,雇员约5千人,与农业部的10万雇员或国防部的80万雇员相比,简直不算什么。当时美国有7千万人从事教育工作,教育经费是500亿美元,教育部的款项支配只占其中的百分之八,美国的大部分教育经费来自地方税收。

1867年美国曾设有一个类似教育部的机构,但寿命不长,一年后就降格成为一个“办事处”。1979年设部,在此期间的111年中,美国不曾有过一个专管教育的“部”。联邦政府没有专门的教育部,不等于没有管教育的政府部门,更不等于没有教育。美国的教育是由公民社会主导,而不是由政府权力管理或管制的。美国教育发生巨大变革的时代是19世纪初,当时根本就没有教育部, 变革是在州里由社会的自主、自治、自理力量推动的。

1837年,教育改革推动者曼恩(Horace Mann)被任命为马萨诸塞州教育秘书,他走遍全州,到处演说,推动免费公立学校,让原本在家里学习的学生到学校,不光学习知识,而且学习公民习惯。1821年,纽约州Troy市的市民要求教育家爱玛·威拉德(Emma Willard)建立第一所女子大学,到1872年，在该校学习过的女生总数已经多达12，000名。1837年,俄州的Oberlin学院成为美国第一所男女混合的大学。这所大学是“第二次觉醒运动”的长老会教士们创立的。1829年，豪威(Samuel Gridley Howe)建立了美国的第一所盲校。1930年代，哈佛和达特茅斯学院等长春藤大学开始招收黑人学生。

在美国，推动教育改革和发展的是有社会抱负、有公民理想的启蒙者、知识精英、教育家，不是政府和官僚。同时，民选的立法机构也发挥了很大作用。美国教育的重大政策都是在国会中推动的,如二战后帮助退伍军人入学的“退伍军人权利法案”和1958年为加强国防科学(与苏联进行太空竞争)的“国防教育法案”。

1960年代的民权运动,使得教育更注重社会公正,更重视弱势群体。1965年通过的“中、小学教育法案”配合约翰逊总统提出的“向贫困宣战”计划,设立了一系列帮助经济和文化弱势儿童的教育计划,国会为此立即拨款1亿美元。福特总统期间(1974-1977),国会又通过“公共法94-142”,规定3至21岁的残障儿童和成人必须能在“最不受限制的环境下”接受教育,并作出了许多具体规定。卡特总统期间(1977-1981)设立教育部，其职责就是落实公民权利的教育政策和为有关教育项目拨款。

一直到今天，美国教育部不管考试,不管升学,不管评估,不管具体教学,不管政治思想。它自述的功能只有短短的一句话:“设立与教育有关的联邦资助项目和执行与私人和公民权利有关的联邦法规”。这两项工作都是服务性的，关系到教育的两个关键条件:钱和法规,尤其是与公民权利有关的法规。例如,大学前(K-12)教育是每个公民的权利,不能因为贫富、城乡的差别有任何损害、入学机会应当公平,不允许入学分数线特别优待某地方的考生、学费资助标准应当公平、保障家长为子女选择不同学校的权利(如K-12教育有公立学校、私立学校、家庭学校、私助公立(charter)学校,等等)、维护教育中立,不能在学校进行宗教、政党宣传,等等。

从1980到1990年代，共和党的总统竞选一直以取消教育部为主要诉求，理由是联邦政府无权干涉各州和社会的教育事务。里根于1980年竞选总统时曾允诺要取消教育部,当选之后,由于民主党多数的众议院反对未能实现。1996年,共和党的鲍勃·多尔在总统竞选时,也承诺要取消教育部。2000年,共和党的竞选决策会议再次通过了取消教育部的决定。但是,小布什就任总统后,并没有延续这一政策，不仅是因为他重视发展教育，更是因为这么多年来教育部推动公民权利和社会公正的工作已经得到了美国社会的认可。