为了兑现在战场上对战友的承诺，将贵州山区建设成理想中的乐园，从抗美援朝下来的英雄徐宏良，放弃了更加美好的前途回到了穷山僻壤的山沟沟里。为了欢迎他的到来村领导陈大任许诺中午管饭，这才凑齐了几个人列队欢迎，徐宏良特意询问了草王坝村是否有人来，陈大任猜想徐宏良可能有故人，但草王坝村是真的没人来。
徐宏良似乎有些失望，告诉大家他来这里是安家的，解散了欢迎的队伍。陈大任只好带着徐宏良一起去草王坝村，一路上打听了草王坝村的特点，得知那里主要就是缺水，对此陈大任也给出了解释，除了山高路远就是他责任不到位。
草王坝村有个名叫黄大发的人，一身的功夫，飞檐走壁不在话下，和张巧玲两情相悦，但父亲张老倔却一直反对两人婚事，提出的条件就是要水，至少出嫁之前要让张巧玲洗脸。为此，黄大发四处找水，从小就失去亲人的黄大发是在二伯家里长大成人，奶奶身体不好，黄大发前来探望，二伯家的大儿子怀春拦住了黄大发，误以为是来要水的。小儿子茂春却处处向着黄大发，放了黄大发进去，奶奶非要给水，黄大发跪着不肯要，二伯夫妇却拿着水壶为黄大发灌满，在他们的眼中黄大发和亲生的一样。
今天是张老倔带着张巧玲来相亲的日子，好不容易凑了两壶水要招待张巧玲家的人，张老倔没想到家里穷成了那样，张老倔带着四样大礼来的，可是却没看见黄大发的诚意，连喝的水都少的可怜。黄大发声称自己没有钱，但是一辈子都会对巧玲好，张老倔一碗水泼在地方，提出让黄大发来倒插门到张村。
黄大发一心想要报恩二伯和奶奶，因此并未答应，可没想到二伯来了，一口答应下来，只要黄大发有个不错的姻缘就行。黄大发不得已也妥协了，可没想到张老倔再次提出条件，要让黄大发改姓张，一生不能回来草王坝，以后为他养老送终。黄大发怒火中烧表示自己决不改姓，宁可终生不娶，张老倔一气之下要带着一家人回去，可没想到张巧玲却要跟着黄大发，从此要斩断和张老倔的关系。
张老倔因此非常生气，出手要打张巧玲被黄大发拦住，警告张老倔以后不许打张巧玲母女俩，张老倔迫于黄大发的气势吓得离开了。
晚上张老倔就带着族人来闹事，眼看着双方就要打起来了，徐宏良带着人赶来了，命令双方放下了棍棒，徐宏良看到双方打起来心中难过也痛心，尤其是黄大发当年还是参与剿匪的小英雄，徐宏良也是在战场上认识的黄大发。徐宏良提醒大家所有棍棒应该一致对外而不是打自己人，张老倔指责黄大发抢走了他的女儿，徐宏良承诺会代为解决赶走了张家村的人。
黄大发生气的扔掉了棍子，一屁股坐在地上，心中憋屈到不行，徐宏良当晚就住在了黄大发家里，还赞成黄大发娶媳妇，但却警告他不许打架，新社会所有都要讲平等和法制，有问题就可以找党找组织。
黄大发立刻表示自己结婚想要收拾房子和被褥，想要床，想要肉招待客人，徐宏良忍不住笑了，倒是认为黄大发并不贪，也劝说黄大发自己的幸福要靠着自己去创造。黄大发认为草王坝人命不好，和天无法抗争，这里连水都没有，也寸草不生。祖祖辈辈都觉得这里是得罪了神仙才没有水的。
徐宏良来之前就做了大量的工作，也知道是地质的原因，也和黄大发讲述了很多，也点燃了黄大发心中的火把。
黄大发也打算将张巧玲送回去，陈大任昨天也和张老倔说好了，他想要通过努力，为了幸福奋斗争取到张巧玲，而不是通过这种方式。黄大发来到河滩挑水却发现干涸了，张巧玲感叹是命，可黄大发却表示自己不相信命，张巧玲也不许相信。
德宝爷认为这是山神的惩罚，昨天如果打一仗赢了就不至于河滩干涸了，黄大发却认为徐宏良说的没有错，怀春更是责怪黄大发顶撞德宝爷，德宝爷认为八年前正是他祭奠了七天七夜下了大雨，这才救活了大家，草王坝的事情也只能草王坝来解决。德宝爷提出要将所有的水集中起来集中发配，度过难关，让二伯山林负责发水，不能徇私枉法，可以给女人孩子多分一些，男人可以受委屈。
黄大发提出应该找水，但立刻遭到了德宝爷的反驳，他们祖辈一直找水，但是找什么干什么，所以他们的命就是大山的，必须听大山的安排，黄大发心中却憋着一股劲。山林也叮嘱黄大发不管做什么他都支持，但首先黄大发也要弄清楚自己在干什么。
德宝爷带着草王坝的人祈求山神，可黄大发却不信，还给开美、茂春等人开会，商议要找到水源引来草王坝村。怀春因为喜欢开美，但开美围绕着黄大发转悠，因此怀春对黄大发心存嫉妒，怒斥黄大发就是想要出风头才去找水，黄大发坚持认为徐宏良说的对，幸福就应该自己争取，两人也因为意见不合发生争吵。
当天晚上奶奶因为咳嗽不止，怀春跑去偷水被吴瞎子听到，吴瞎子也要喝水，怀春将其打晕。次日这件事闹出来，怀春当着所有人的面被山林鞭打，黄大发为了要替怀春脱罪，分析当时一定是吴瞎子想要水喝，才会被怀春打晕的，怀春不领情，坚持说就是自己偷水，愿意被打。黄大发为此很生气，也不明白为什么年轻人不找水，却愿意在这里挨打。
黄大发告诉张巧玲自己可以翻山越岭将水引过来，张巧玲对黄大发的话都深信不疑，黄大发感叹只有张巧玲一个人相信他，张巧玲告诉黄大发山歌传十里，山雀叫喳喳，但却并不是所有人都能听懂他们说什么，这也是母亲经常说的话，黄大发忽然有了主意。
黄大发和茂春、开富、开美等人商议要立大功，几个年轻人立刻表示都会配合黄大发，黄大发看着大家跪在地上祈雨，已经来了决心要推翻这个旧世界的旧思想。正在祈雨的吴瞎子装神弄鬼，黄大发忽然倒地口吐白沫，起来的时候就拿着扇子去打吴瞎子，还声称自己是山神的大德宝爷，吴瞎子总是自称山神上身，此时也不能自我拆穿，只好顺着黄大发的话来说。
黄大发为了揭穿吴瞎子的把戏，带着他要上山头去飞一下，吴瞎子吓得屁滚尿流，承认了自己是假的山神。陈大任也来主持了公道，将吴瞎子交给村子里劳动改造。
徐宏良称赞黄大发干得好，黄大发也骄傲的告诉徐宏良他也是共产D员了。为了村子里找水，黄大发带着大家一起去山林找水，也打破了村子里不找水的规矩，同时黄大发也成为了民兵。山林称赞黄大发一股拧劲像极了他父亲，可同时也叮嘱他不能一个人找水，山林也不能一个人进去。
黄大发坚持去找水，由于不会写字，还留下了一幅画，意思说明奶奶病了需要山林照顾，其他人留下种地，他去找水了，如果找不到坚决不回来了。山林生怕黄大发出事赶紧去大山寻找黄大发，几个年轻人想要跟着，被山林厉声阻止了。
山林带着几个熟悉山上环境的人一起去找黄大发，黄大发在山林中看到草丛中有东西，凑近一看窜出来一个黑乎乎的东西，还没等黄大发看清楚就吓得连连后退掉入了山坡下。山林带着大家一起寻找黄大发，也来到了这个山坡处，但是这里大家从未下去过，劝说山林回家去明天再来，可是山林生怕黄大发出事坚持一个人下去，绳子在下去的过程中断裂，山林掉了下去重重摔在了地上。
黄大发察觉到是二伯，奋力的爬向他，可突然昏迷了过去，昏迷中依然听到有人叫着他的名字。
徐宏良带着人将黄大发和山林救回来的，一直昏迷了两天的黄大发醒来，从张巧玲的表情里看出山林一定出事了，黄大发拖着受伤的身体赶去看山林，却看到了满院子的白矾，怀春怒不可遏打了黄大发，责怪他害死了父亲，黄大发苦苦哀求只想为山林送行，为二婶养老，可怀春根本容不得他，二婶也因为伤心过度晕死过去，黄大发跪在外面台阶上大声向二伯忏悔道歉。
陈大任认为山林的牺牲就是因为黄大发的一意孤行造成的，在徐宏良面前要求必须调查黄大发的动机是什么。
德宝爷也因为山林的去世而难过，气愤指责黄大发这次和村子里的仇算是结下了，老祖宗立下的规矩在这里也在他眼里什么都不是了。德宝爷要求黄大发将欠山林的，欠草王坝村的都还了，黄大发承诺愿意一辈子当牛做马为草王坝还债，可怀春并不认可怒斥了黄大发。德宝爷最终决定不要債了，要求黄大发离开草王坝村，随便去外地安家，村子里的人如果有人收留黄大发从此也就和他为敌了。众人交头接耳，也都不敢收留，德宝爷提议愿意让黄大发离开的和愿意让黄大发走的分开站队。开美和赵大山都毫不犹豫站在了黄大发身边，可川子和山宝、茂春却并未过去。
开美提出找徐宏良评理，德宝爷却认为开美是要拿徐宏良压他更加生气，黄大发要求开美和赵大山站到德宝爷那边去，黄大发也流着眼泪忏悔，承认自己的过错，他想要继续找水，找到水也一定会回来，黄大发对着父老乡亲深鞠躬正准备离开的时候张巧玲、栓子带着奶奶来了。
怀春小时候因为发病，是黄大发父亲救了他的命，这个恩德不能忘了，怀春记得黄父的好，可是却无法忘记自己的父亲。奶奶劝说德宝爷，相信山林在天有灵也不会赶走黄大发，德宝爷最终决定让黄大发继续留下。奶奶捧着黄大发的脸，心疼的望着他，黄大发泪如雨下。
新的找水小分队成立了，黄大发依然被选举为队长，陈大任却坚持非要处理黄大发，徐宏良训斥了陈大任，认为干部应该帮助村民，而不是拆台，陈大任只好作罢。
张云念是国民党潜藏起来的特务，和女儿朵朵在张村生活，这天特务苗江找到这里，张云念通过对暗号发现了对方的身份，特意用一个小板凳作为暗号通知了民兵来抓人。却没想到被苗江识破了，苗江用朵朵的性命威胁张云念将房屋给点燃了，同时苗江带着朵朵离开，警告张云念不许跟着。
黄大发和张巧玲恰好看见，听张云念说了来龙去脉，黄大发进入山林中去营救朵朵，让张巧玲带着张云念随后跟上去。
黄大发在找特务的时候，忽然听到了水流声，当看见河沟之后黄大发喜出望外刚要过去，就听见了朵朵的哭喊声，黄大发匆忙躲起来，趁着苗江喝水的时候突袭了苗江，但黄大发并不是苗江的对手被苗江打倒在地，正当朵朵遭遇危险的时候，黄大发拼命扑上去勒住了苗江，累得苗江气喘吁吁，承诺给黄大发三根金条让他去喝水，但黄大发就是不撒手，太阳也越来越猛烈了，黄大发渴到不行，就让朵儿帮忙弄点水过来。
朵儿捧水的时候发现里面有鱼，黄大发大喜，水里只要有鱼就是活水，上面一定还能有河，苗江讽刺黄大发可能没命去报信，黄大发让朵儿藏起来等着妈妈过来，如果他死了就告诉张巧玲河水有小鱼。
在太阳的暴晒之下，黄大发和苗江都晕了过去，醒来的时候已经躺在医院的病床上了，张巧玲和赵大山看见他醒过来激动不已，张巧玲当即就哭了出来，生怕黄大发已经死了。徐宏良也随后赶来，告诉黄大发他立下了大功，苗江是特务的头子，从他那里还搜来不少金条和枪支，还要给黄大发开表彰大会。黄大发打断了徐宏良的话，认为这些都是自己该做的，他最关心的就是自己已经找到水了。
陈大任却告诉黄大发，那个水源距离草王坝还有三座山，更何况还是在低处的水，水也不可能往高处流，但黄大发坚信一定可以将水流入草王坝。
怀春也参与到了找水的队伍里，却不愿意和黄大发说话，黄大发表示自己活着只为了草王坝找到水，否则自己的命早就给了怀春。茂春小声告诉黄大发，其实怀春早就原谅他了，就在奶奶求情的时候他就哭成了泪人。
黄大发和小伙伴们，也凭着一股不服输的劲头，踏上了寻找水源的征程。可实际上黄大发也已经忘记了自己究竟在哪里找的水源，绕了几圈之后，黄大发在怀春的提醒下凝神静气的听着，真听到了水流之声，几个年轻人直奔水流而去，看到水源的那一刻，几个人一起跳进去疯狂玩耍。黄大发却上了岸爬上了高处的山头望过去。