Ngày 5/2/2004, ông Trần Sỹ Thanh được bổ nhiệm giữ chức Chánh Văn phòng Kho bạc Nhà nước Việt Nam. 3 năm sau, trước khi được điều chuyển tham gia Tỉnh ủy Đắk Lắk, ông đã giữ chức Phó Tổng giám đốc Kho bạc Nhà nước Việt Nam.
Ngày 12/11/2008, ông được Thủ tướng Nguyễn Tấn Dũng phê chuẩn bổ nhiệm vào chức vụ Phó Chủ tịch UBND tỉnh Đắk Lắk.
Ngày 3/10/2010, tại Đại hội Đại biểu Đảng bộ tỉnh Đắk Lắk lần thứ XV, ông được bầu giữ chức Phó Bí thư Tỉnh ủy Đắk Lắk, sau đó được bầu làm Ủy viên dự khuyết Ban Chấp hành Trung ương, tham gia Ủy ban Kiểm tra Trung ương.
Ngày 4/6/2012, ông thôi tham gia Ủy ban Kiểm tra Trung ương để tham gia Ban Chấp hành, Ban Thường vụ và giữ chức Bí thư Tỉnh ủy Bắc Giang nhiệm kỳ 2010 - 2015 thay người tiền nhiệm là ông Nông Quốc Tuấn về giữ chức Phó Chủ nhiệm Ủy ban Dân tộc.
Ngày 11/1/2015, tại Hội nghị lần thứ 10, Ban Chấp hành Trung ương Đảng (khóa XI) đã bầu bổ sung ông vào Ủy ban Kiểm tra Trung ương Đảng (khóa XI). Đến ngày 13/2/2015, ông được bổ nhiệm làm Phó Chủ nhiệm Ủy ban kiểm tra Trung ương.
Từ 28/10/2016, ông được Bộ Chính trị điều động làm Bí thư Tỉnh ủy Lạng Sơn.