Về cơ cấu tổ chức, Bộ Giáo dục và Đào tạo có 26 đơn vị gồm: 1- Vụ Giáo dục Mầm non; 2- Vụ Giáo dục Tiểu học; 3- Vụ Giáo dục Trung học; 4- Vụ Giáo dục Đại học; 5- Vụ Giáo dục dân tộc; 6- Vụ Giáo dục thường xuyên; 7- Vụ Giáo dục Quốc phòng và An ninh; 8- Vụ Giáo dục Chính trị và Công tác học sinh, sinh viên; 9- Vụ Giáo dục thể chất; 10- Vụ Tổ chức cán bộ; 11- Vụ Kế hoạch - Tài chính; 12- Vụ Khoa học, Công nghệ và Môi trường; 13- Vụ Pháp chế; 14- Vụ Thi đua - Khen thưởng; 15- Văn phòng; 16- Thanh tra; 17- Cục Quản lý chất lượng; 18- Cục Nhà giáo và Cán bộ quản lý giáo dục; 19- Cục Công nghệ thông tin; 20- Cục Hợp tác quốc tế; 21- Cục Cơ sở vật chất; 22- Viện Khoa học Giáo dục Việt Nam; 23- Học viện Quản lý giáo dục; 24- Trường Cán bộ quản lý giáo dục Thành phố Hồ Chí Minh; 25- Báo Giáo dục và Thời đại; 26- Tạp chí Giáo dục.
Như vậy, so với cơ cấu tổ chức Bộ GD&ĐT trước đây vốn gồm 27 đơn vị thì cơ cấu tổ chức mới của Bộ GD&ĐT giảm còn 26 đơn vị và đã có một số thay đổi, trong đó có một số cục, vụ sáp nhập, một số cơ quan cấp cục, vụ mới, một số cơ quan không còn trực thuộc Bộ và một số cơ quan đổi tên gọi so với trước đây.
Cụ thể, Cục Đào tạo với nước ngoài và Vụ Hợp tác quốc tế sáp nhập thành Cục Hợp tác quốc tế; Cục Khảo thí và Kiểm định chất lượng giáo dục đổi tên thành Cục Quản lý chất lượng; Vụ Giáo dục Quốc phòng đổi tên thành Vụ Giáo dục Quốc phòng và an ninh; Vụ Công tác học sinh và sinh viên đổi tên thành Vụ Giáo dục chính trị và Công tác học sinh, sinh viên; Cục Cơ sở vật chất và thiết bị trường học, đồ chơi trẻ em đổi tên thành Cục Cơ sở vật chất…
Ngoài ra, trong nhóm các đơn vị giúp Bộ trưởng thực hiện chức năng quản lý Nhà nước có sự xuất hiện mới của Vụ Giáo dục thể chất. Tuy nhiên, trong danh sách 26 đơn vị này, không còn có tên cơ quan đại diện của Bộ GD&ĐT tại TPHCM như trước đây.