张雨生，1966年6月7日出生于澎湖县马公镇笃行十村。父亲是来自浙江嘉兴的军人张建民，母亲是台中县和平乡梨山松茂部落泰雅族人张惠美。
澎湖马公的笃行十村是个眷村，眷户多半为官阶较高之军官眷属，曾有多位名人居住于此，其中一位为已故歌手张雨生之故居，另一位是已故歌手潘安邦旧居。潘安邦病逝后，该处改名为「潘安邦纪念馆」，而张雨生之故居则整理为「张雨生纪念馆」，以上两个馆舍已于民国98年（2009年）开放参观。2007年，澎湖县政府把这些眷舍列为澎湖县历史建筑保存，并规划成为眷村文化园区。
家中排行老大，下有二弟二妹，因出生后连日的大雨，命名「雨生」，昵称「小宝」。9岁时，举家迁居台中县丰原市，进入瑞穗国小就读，国中就读丰南国中，高中联考考上就读省立丰原高中(是当时台中区的第三志愿公立高中)。大学联考，第一年只考上私立大专；重考后，考上国立政治大学外交学系。据说，他那年的第一志愿是国立台湾大学历史学系。
1986年，大一的他初试啼声，因为妹妹的去世，参加木船西餐厅「木船民谣歌唱大赛」，自弹自唱进到决赛并获得优胜，使张雨生对歌唱开始产生信心与兴趣，大二开学后随即进了吉他社。
大二(1987年)与吉他社同学自组了「Thunder Spot（雷击点）」乐团，也加入政大吉他社学长组成的乐团「Yeah」，开始校际与校外的演唱生涯；同年5月23日，张雨生和Yeah乐团代表政大到台大参加台大吉他社一年一度的Pop & Rock演唱会，独特的嗓音被同场演出的「Metal Kids（金属小子）」乐团的团长孙寰东所注意。也因一次主唱的顶替，开启了日后合作之门。
大三上，张雨生以一首描述退役军人生活的歌曲「他们」，得到学校创作歌谣比赛第一名。1988年3月29日，他与所属的「Metal Kids」乐团荣获「第一届全国热门音乐大赛」(热音赛)优胜及最佳主唱，也因此获得唱片制作人翁孝良的发掘，加盟翁孝良的「铭声传播公司」。4月，张雨生以一首黑松沙士的广告曲《我的未来不是梦》引起歌坛注意。5月，张雨生参加音乐合辑《六个朋友》的制作、并演唱成名曲《我的未来不是梦》及《以为你都知道》。
《我的未来不是梦》由陈家丽作词，翁孝良作曲，陈志远编曲。70年代，有着与上一代人完全不同的生活方式和价值观念。虽出生于和平年代，生活优越，但他们并不希望依赖父母享受生活，他们更渴望通过自己的劳动去证明自己存在的价值。词曲创作者根据这个背景创作了这首歌曲，在歌曲中塑造了一个不懈奋斗的形象：可能也彷徨过，但对未来充满希望，所以认真地生活，不虚度时日。
1988年8月，第一届热门音乐大赛推出《烈火青春》合辑，张雨生以《最佳主唱奖》得奖人的身份特别演出《烈火青春》及《Heaven on fire》两首歌曲。
1988年10月张雨生入围金龙奖最有前途歌艺新人奖，并在11月时发行第一张个人专辑《天天想你》。《天天想你》创下35万张的销售记录，使张雨生成为1988年度唱片风云人物。
张雨生参与电影《七匹狼》的原声带专辑演唱，收录《永远不回头》、《如果你冷》、《我喜欢疯狂》和《看见》四首歌曲。《七匹狼》创下新台币3000万元的票房佳绩，张雨生还获得1989年中时晚报年度十大歌唱新人榜榜首。
张雨生在艺工队期间，努力充实自己，增进自己的词曲能力，并学习keyboard。
入伍前，发表的第二张个人专辑《想念我》，此张专辑加入大学时亲自创作的得奖歌曲《他们》，及为王丹创作之《没有烟抽的日子》一诗谱曲。入伍的第二年，1990年8月台湾漫画家曾正忠发表总共三集的漫画《张雨生大兵日记》；该年9月发表词曲《我爱你》，收录在郭富城《对你爱不完》专辑；10月，以《想念我》入围第2届金曲奖最佳男演唱人奖。1991年6月退伍，为军旅生活画下句点。
1992年2月，发表《张雨生创作专辑》。此张专辑中的音乐和词曲创作全由张雨生一手包办，并远赴美国进行录音。《带我去月球》的音乐录影带后来代表亚洲区入围1992年的全美音乐录影带奖。同年11月，再接再厉发表第四张个人专辑《大海》（而该作品曾被温拿乐队成员钟镇涛改成粤语版本与日本JAYWALK翻唱为日语版本）。《大海》销售突破六白金、并入围金曲奖。
1993年张雨生将演艺触角发展到舞台剧。1997年8月，参与果陀剧场的音乐剧《吻我吧娜娜》，担任该剧之音乐总监一职。
1994年9月，张雨生发表个人第六张创作专辑《卡拉ＯＫ Live‧台北‧我》，所有词曲皆雨生自己创作。
1995年3月，发表第7张个人专辑《还是朋友》，这也是张雨生与飞碟唱片约满前的最后一张专辑。
1996年1月正式加盟至丰华唱片。1996年8月，张雨生发表加盟至丰华唱片的双EP专辑《两伊战争》，《两伊战争－红色热情》以市场取向为主、《两伊战争－白色才情》以自己创作为主。其中《最爱的人伤我最深》与张惠妹合唱，也是张惠妹的出道曲。1996年11月，参予制作张惠妹首张专辑《姐妹》，并且亲自创作《姐妹》及《水蓝色眼泪》二首歌曲。《姐妹》在IFPI榜上蝉连9周销售第一名、销售量超过121万张。次年1997年3月再次制作张惠妹的音乐专辑《Bad Boy》中的《一想到你呀》、《孤单 Tequila》及 《Bad Boy》3首歌。《Bad Boy》在台湾销售138万张，打破于先前纪录保持者张学友于1993年发行的《吻别》专辑。也奠定张惠妹在华语乐坛「天后」的地位。
1997年10月14日发表个人创作专辑《口是心非》，因为这张专辑是他在制作张惠妹专辑之后首次出版自己的唱片，颇受各方瞩目。
1997年10月20日凌晨2时40分左右，张雨生在返回淡水镇沙仑租住处途中，行经台北县淡水镇(今新北市淡水区)淡金路（俗称登辉大道）与中正东路路口左转淡水镇方向时，在「红树林保龄球馆」前发生严重车祸。被送到医院时，已是到院前死亡（OHCA）状态，经医护人员紧急施以心肺复苏术（CPR）及心脏电击后，才恢复呼吸与心跳。经过两个多小时的抢救后，情况回稳，于凌晨5时50分送入一般外科加护病房。
不过，在加护病房里的张雨生，仍要靠呼吸器维持生命，昏迷指数只有三分，病况随时可能恶化。由于头部和胸部受到了致命撞击，脑部和腹部严重挫伤，已濒临脑死状态，生命垂危。
经过24天与死神的缠斗后，1997年11月12日晚上11时48分，张雨生因併发吸入性肺炎，急救无效，病逝于马偕纪念医院淡水分院，享年31岁。
张雨生以其高亢清透的嗓音及千变万化的创作才华，闻名整个华语乐坛，故有「音乐魔术师」之称。也是华语乐坛史上被认为是最优秀的歌手之一。