李俊1922年3月2日出生于山西夏縣，1937年參加革命。先后在八路軍和解放軍從事文藝工作。1951年調入八一電影制片廠任新聞攝影總編室副主任、導演，從事新聞紀錄片拍攝。1959年起擔任故事片導演。
李俊生前曾先后指導了故事片《回民支隊》、《農奴》、《閃閃的紅星》、《歸心似箭》和《大決戰(zhàn)》影片，其中《閃閃的紅星》中塑造的潘冬子形象是幾代少年兒童的英雄偶像。《大決戰(zhàn)》獲得第十五屆《大眾電影》百花獎最佳故事片獎、第十二屆金雞獎最佳故事片獎、最佳導演獎、最佳美術獎、最佳剪輯獎、最佳道具獎和最佳煙火獎。李俊曾獲“中國電影世紀獎導演獎”。
李俊于2013年1月7日上午10時因病逝世，享年91歲。