Ông Nguyễn Xuân Sơn sinh năm 1962, quê quán Hà Tĩnh. Ông Sơn tốt nghiệp cấp đào tạo đại học chuyên ngành vật giá và Trường Đào tạo cán bộ Dầu khí tại Đại học Kinh tế Quốc dân và tốt nghiệp khóa đào tạo chuyên ngành Quản trị kinh doanh, cấp đào tạo trên đại học tại Trường Đại học Nam Carolina (Mỹ).
Từ năm 2003 đến tháng 10/2006, ông Sơn giữ chức Phó Tổng giám đốc Công ty Tài chính Dầu khí (PVFC), rồi giữ chức Tổng giám đốc PVFC đến tháng 5/2007.
Từ tháng 12/2008 đến tháng 11/2010, ông Sơn được bổ nhiệm và nắm giữ chức vụ TGĐ OceanBank. Đầu năm 2011, OceanBank thông báo ông Sơn thôi chức TGĐ và thay vào đó là bà Nguyễn Minh Thu.
Ngày 8/7/2014, ông Sơn được bổ nhiệm giữ chức Chủ tịch HĐTV PVN thay cho ông Phùng Đình Thực nghỉ hưu theo chế độ (1/6/2014). Từ năm 2011 tới giữa năm 2014, ông Sơn giữ chức Phó TGĐ PetroVietnam.
Ngày 19/7, xét đề nghị của Bộ Công Thương và Bộ Nội vụ, Thủ tướng Nguyễn Tấn Dũng đã ký Quyết định số 1105/QĐ-TTg về việc cho thôi giữ chức Chủ tịch Hội đồng thành viên Tập đoàn Dầu khí Quốc gia Việt Nam đối với ông Nguyễn Xuân Sơn
