Năm 1979, ông thi đỗ vào Đại học Kỹ thuật Quân sự, khóa 14. Sau một năm học tại Đại học Kỹ thuật Quân sự đạt kết quả xuất sắc, ông được Bộ Quốc phòng tuyển chọn đi du học kỹ sư quân sự tại Liên Xô.
Ông Nguyễn Mạnh Hùng từng tốt nghiệp kỹ sư chuyên ngành Điện tử viễn thông ở Liên Xô (cũ), thạc sĩ viễn thông ở Australia, thạc sĩ quản trị kinh doanh ở Đại học Kinh tế Quốc dân.
Năm 1995, ông Nguyễn Mạnh Hùng giữ các vị trí trợ lý kỹ thuật, Phó trưởng phòng rồi Trưởng phòng Đầu tư Phát triển. Đến năm 2000, ông được bổ nhiệm giữ chức Phó Giám đốc Công ty Viễn thông Quân đội. Năm 2010, ông được bổ nhiệm giữ chức Phó Tổng giám đốc Viettel.
Sau đó khoảng 4 năm, ông Nguyễn Mạnh Hùng được bổ nhiệm giữ chức Tổng giám đốc Viettel thay ông Hoàng Anh Xuân. Ông được thăng quân hàm Thiếu tướng năm 2012.
Năm 2016, tại Đại hội đại biểu toàn quốc lần XII của Đảng, ông Nguyễn Mạnh Hùng trúng cử vào Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam.
Từ điểm xuất phát tổng tài sản của Viettel vẻ vẹn chỉ có 34 tỉ đồng, đến nay, Viettel trở thành nhà cung cấp dịch vụ viễn thông lớn nhất Việt Nam.
Hiện Viettel đã đầu tư ở 10 nước thuộc 3 châu lục. Tại các quốc gia như Lào, Campuchia, Mozambique, Haiti… các doanh nghiệp của Viettel đã trở thành doanh nghiệp viễn thông có hạ tầng mạng lưới, thuê bao và doanh thu lớn nhất. Mục tiêu của Viettel sẽ đạt quy mô thị trường 1 tỉ dân vào năm 2020. Theo khảo sát và các báo cáo của nhà phân tích GSMA Intelligence, Viettel xếp thứ 19 trên tổng số 813 nhà mạng trên thế giới.
Tháng 1-2018, Chính phủ đã ban hành Nghị định số 05/2018/NĐ-CP về điều lệ tổ chức và hoạt động của công ty mẹ - Tập đoàn Viettel. Theo đó, Tập đoàn Viettel là doanh nghiệp quốc phòng, an ninh, do Nhà nước nắm giữ 100% vốn điều lệ, trực thuộc Bộ Quốc phòng; chịu sự lãnh đạo về mọi mặt của Quân ủy Trung ương.
Tập đoàn Viettel là nhóm công ty gồm công ty mẹ, công ty con, các doanh nghiệp thành viên và công ty liên kết, không có tư cách pháp nhân, phối hợp vừa thực hiện nhiệm vụ sản xuất kinh doanh, vừa thực hiện nhiệm vụ quân sự, quốc phòng.
Vốn điều lệ của Viettel tại thời điểm thay đổi điều lệ, tổ chức hoạt động (ngày 5-1-2018) là 121.520 tỉ đồng; vốn điều lệ của Viettel giai đoạn từ 2015 đến hết năm 2020 là 300.000 tỉ đồng.