朱霖5岁开始学习音乐，师从南京艺术学院的徐步高。1981年考入中国音乐学院附中，师从李大仲、聂靖宇、刘长福等名家。之后也升入中国音乐学院本科，师从安如砺，同时随刘明源学习广东音乐。

1990年在北京音乐厅发表个人独奏会，中国中央电视台现场录制节目并播出。1991年考入中国中央民族乐团，曾任乐团副首席。他分别在1993及19 9 5年获得全国比赛、国际大赛一等奖。1997年加入新加坡华乐团，是现任二胡II首席。并先后发表多张个人独奏激光唱片。他也曾首演了多首二胡协奏曲的首演。2006年，他与印度小提琴之父 — L. Subramaniam大师在新加坡首演了《二胡与小提琴双协奏曲》。并曾受邀赴台湾艺术大学，上海音乐学院及中国音乐学院讲学。现为中国音乐学院客席教授。