Hoàng Vân sinh 24 tháng 7 năm 1930 tại Hà Nội. Ông sinh ra trong một gia đình Nho học, cha và ông nội đều là nhà nho. Gia đình ông sống ở phố Hàng Thùng. Hoàng Vân vẫn tự hào là ít có người sống trong phố cổ Hà nội từ lúc sinh ra đến năm hơn 80 tuổi.
Năm 16 tuổi, ông gia nhập Đội thiếu niên cứu quốc Mai Hắc Đế, là liên lạc viên tự vệ khu Đông Kinh Nghĩa Thục (Liên khu I), Hà Nội, rồi làm phụ trách Thiếu sinh quân Trung đoàn 165, Sư đoàn 312. Sau đó ông tham gia Đội Tuyên truyền võ trang Lao Hà, làm báo chí và công tác địch vận của trung đoàn, sư đoàn, và sau đó phụ trách văn nghệ ở Sư đoàn 312.
Sau 1954, hòa bình lập lại, ông được gửi đi tu nghiệp tại Nhạc viện Bắc Kinh, Trung Quốc. Khi về nước, ông chỉ huy dàn nhạc đoàn ca nhạc Đài Tiếng nói Việt Nam kiêm chỉ đạo nghệ thuật, đồng thời tham gia giảng dạy môn sáng tác và phối khí tại Nhạc viện Hà Nội cho đến năm 1989. Từ năm 1963 đến năm 1989, ông là uỷ viên Ban Chấp hành Hội nhạc sĩ Việt Nam, là trưởng ban sáng tác thanh nhạc và công tác tại Hội cho đến năm 1996. Năm 1975, ông đi thực tập một thời gian tại Nhạc viện Sofia, Bulgaria.
Hiện tại ông đang sống ở Hà Nội. Ngoài ra ông còn có sở thích viết thư pháp, chơi đồ cổ và đọc sách.
