张建一出生于浙江湖州，原是湖州玻璃厂工人。1978年考入杭州歌舞团任独唱演员；1981年考入上海音乐学院声乐系，师从著名女高音歌唱家、声乐系教育家周晓燕教授；毕业后于1986年以优异成绩考入美国纽约朱莉亚音乐学院歌剧中心学习并获全额奖学金。1989年毕业后开始职业演唱生涯，曾多次在国际歌唱比赛中获奖，包括1984年获第三节维也纳国际歌剧歌唱家比赛第一名、1988年获卢恰诺·帕瓦罗蒂国际声乐比赛大奖、1989年获美国音乐家基金会歌唱比赛第一名等等。1999年英国剑桥国际船级中心向张建一颁发了二十世纪杰出人才奖。