这部电影的开头是描写著名音乐指挥家皮埃尔在一个夜晚，打开了自己小时候的音乐老师马修教他所在的放牛班时所写的日记，并回忆着当时所发生的故事。
马修是一个失败的音乐家，在失职后被转到一个叫“池塘底部”的辅育院当代课老师，那是一个犹如监狱的房子，连里边的孩子们和老师都像是囚犯和看守监狱的人。那里全都是一些问题儿童，面对马修的是悲伤难过的命运。孩子们的一个恶作剧就让教师麦神父出了意外，眼睛旁边有一个大创伤，这事件让马修决定，要在这些孩子们心中树立威严，但是他不想像其他教师一样，孩子一犯错就处罚，他认为应该给他机会，让他们在爱中悔改，让他们感受世界的温暖，而不是恨。所以他觉得这些孩子们不是无药可救，而是缺少教育。
那里的所有都让他忍受不了，而唯一能让他忍耐的理由就是放牛班的每个孩子都有自己的梦想和他们隐藏在心里的慈爱。其实马修知道伤害麦神父的凶手，可他没有说出来，因为他相信这个孩子会悔改。马修刚开始对他们也不是很亲切，也比较严厉，但他从不体罚他们，再三地替他们向院长隐蔽错误。孩子们虽然在慢慢的改变，但依旧搞恶作剧。他们也很担心麦神父的性命。上课时，只上了几节课就让马修累的精疲力尽，这生活马修根本过不下去，马修悲病欲绝写下了第一页日记。他在“池塘底部”的未来不敢想象。
"马修是个王八蛋，马修是个秃子，啦啦啦……",这令怒气满懵的音乐把他从宁静、安详的梦想强行逼出来。没有头发的马修，像头上冒起火一样大步走向男宿舍，那门一下子推开时的声音像在空中响了个霹雳，宿舍里除了没有看见马修的人，其他人都鸦雀无声。这也许令别人很恼怒，但对马修来言，这或许是上帝给他的机会，因为他发现班里有一大半人都是天籁之音，马修连夜写了一张乐谱，第二天，马修立即组了个乐团，但当时只有皮埃尔恶作剧被关禁闭，没有被选中，他们对马修的态度一天天变好，他们也找到了自己感兴趣的事，在马修的带领下，大家渐渐对音乐产生了好感，他们体会到了大家一起唱歌时的乐趣。马修的努力并不是毫无意义的。在他的认真努力中，教会了孩子们懂得感恩、交流、团结，大家一起合声同唱，在一个像监狱的教室里，孩子们的眼神和歌声为放牛班增添了光彩。马修此刻也露出了期待的微笑，但他们依旧是老搞恶作剧。
与此同时，在被罚做劳力的皮埃尔在门后露出了羡慕的眼神，他对唱歌也有了特殊的感情，在半夜，皮埃尔偷偷地从教室里拿了张乐谱练习唱歌，无论在做劳力还是被禁足时都在默默练习，有一次在教室练习时被马修偶然听到，被马修安排唱主唱，有了皮埃尔的加入，马修的乐团好像升了一个级别似的，最让他惊讶的是皮埃尔不用教，只是自觉就会唱自己从没听过的歌曲。马修觉得自己非常了不起，因为他让一些问题儿童组成了一个接近完美的乐队，出院的麦神父对放牛班的变化而吃惊，大家每天都进步神速，马修每天写日记都满心喜悦。
这支乐团也受到了大人物的赞赏，放牛班的成就非同小可，孩子们都在茁壮成长，但好景不长，一次院长去远方颁奖，辅育院放假，马修和麦副院长带着孩子们私自去树林里玩耍，但不料起了大火，多亏马修和麦神父带孩子们都跑出来了，但院长把责任推给了马修，还开除了马修，马修觉得自己的未来再次破灭，就在那天，他一声不吭地要离开，走到窗口下，突然从屋子里不断的飞出纸飞机，上面写满了对马修感恩，感谢的话，从窗户里不断伸出手，不停地挥……
故事到这里也就结束了，也许这只是个回忆，但在我看来，这里有更深层的含义，马修看似是个失败的音乐家，但他却勇敢的面对命运，他把一群问题儿童培养成了一支完美的乐队，他没有放弃自己，而是迷茫的寻找自己的价值，他觉得自己只是教会了别人音乐，可在孩子们眼中却是给予他们未来。
世界并不狭窄，只要你敢于探索，就会有无数的道路在等你。
