百丈怀海禅师，俗姓王，福州长乐人。幼年出家，初依潮阳西山慧照和尚，后依衡山法朗和尚受具足戒。往庐江（今安徽庐江县）浮槎寺阅读藏经多年，具备了深厚的佛学知识。

大历初年（766），听说马祖道一禅师在南康（今属江西）竖立法幢，师遂往投。马祖非常器重怀海禅师，让他做自己的侍者，以便随时随地提携点拨他，令他早日明心见性，传承禅门心灯。每当施主送斋饭来的时候，怀海禅师刚揭开饭筐的盖子，马祖便拈起一块胡饼，对着怀海禅师问：“是什么？”三年之中，马祖总是以这样的方式向他开示佛法的大意。

有一天，怀海禅师陪同马祖在野外行脚。这时恰好有一群野鸭子从附近飞过，马祖问：“是甚么？”怀海禅师道：“野鸭子。”马祖问：“甚处去也？”怀海禅师道：“飞过去也。”马祖突然转过身，使劲地拧怀海禅师的鼻子。怀海禅师疼得失声大叫。马祖道：“又道飞过去也！”怀海禅师言下恍然大悟。

事后，怀海禅师回到侍者寮，悲伤地大哭起来。同寮见他这个样子，便问：“汝忆父母耶？”怀海禅师道：“无。”同寮又问：“被人骂耶？”怀海禅师道：“无。”同寮道：“哭作甚么？”怀海禅师道：“我鼻孔被大师扭得痛不彻。”同寮问：“有甚因缘不契？”怀海禅师道：“汝问取和尚去。”于是，同寮来到方丈室问马祖：“海侍者有何因缘不契，在寮中哭。告（请）和尚为某甲说。”马大师道：“是伊会也（他已经开悟了）。汝自问取他。”同寮重新回到寮房，说：“和尚道汝会也，教我自问汝。”怀海禅师于是呵呵大笑起来。同寮感到莫名其妙，问道：“适来（刚才）哭，如今为甚却笑？”怀海禅师道：“适来哭，如今笑。”同寮听了罔然不知所以。

第二天，马祖升堂说法。大众才集在一起，怀海禅师却走出来，把马祖的座席卷走了。马祖于是下座，回到方丈室。怀海禅师也跟着进去了。马祖问：“我适来未曾说话，汝为甚便卷却席？”怀海禅师道：“昨日被和尚扭得鼻头痛。”马祖问：“汝昨日向甚处留心？”怀海禅师道：“鼻头今日又不痛也。”马祖道：“汝深明昨日事。”怀海禅师遂作礼而退。

又有一天，怀海禅师再参马祖，侍立在马祖身边。马祖拿起绳床边的拂子，高高擎起。怀海禅师问：“即此用，离此用？”马祖于是将拂子放回原处。过了一会儿，马祖问：“汝向后开两片皮，将何为人（你今后开口说法，将如何教人）？”怀海禅师也擎起绳床边的拂子。马祖道：“即此用，离此用？”怀海禅师听了，也将拂子放回原地。这时，马祖忽然振威一喝。这一喝如此厉害，直震得怀海禅师三日耳聋！

上述两则公案，极富戏剧性，充满了禅机。千百年来，它们一直在禅林中传颂着，成为参禅者参究的主要话头之一。百丈禅师在马祖座下开悟，与当时的西堂智藏、南泉普愿，并为马祖座下的三大入室弟子。

唐贞元四年（788），马祖圆寂，怀海禅师掬一把清泪，曾一度住在石门山马祖塔旁隐修。后周游四方，来到了江西新吴（今奉新县）大雄山下。一时，四方衲子争相参礼。因为此山高峻，人称百丈山，所以怀海禅师也就被称为百丈和尚，或者百丈怀海。

从初祖达摩到三祖僧璨，禅宗的教化与修行，还只是个别现象。当达摩禅法传到四祖道信的时候，道信大师的门下就有了五百余人的盛况；传到了五祖弘忍的时候，就有了七百人的盛况；再传到六祖慧能的时候，四方学者云集，终于出现“缁白千余人”的盛况。慧能大师之后，禅宗学人越来越多，并且大都居住在律寺里。律寺里的教育方法与修行方法，有许多方面是不适应于禅宗的，对于这一点，百丈禅师“常尔介怀”，于是针对禅宗的特点，结合佛教的大小乘戒律创立了“从林规式”。由于百丈禅师住锡在百丈山，所以他所创立的“丛林规式”自然被称之为《百丈清规》。

自从百丈禅师制订了《百丈清规》，禅宗也就有了自己的规章制度，这一制度保障极大推动了禅宗的发展壮大。在百丈清规中，有“普请”制度。“普请”就是共同参加劳动，上至大方丈，下至小沙弥，所有的出家人都必须参加集体劳动，无人例外。把集体劳动制度化，这是需要超人的胆识与魄力的。因为古代印度的佛教制度，一直就是托钵乞食制，不许从事耕种劳作，并且把比丘的耕种劳作视为不正确的活命方式。百丈禅师从中国文化的实际出发，及时地对佛教制度作了大胆的调整，提倡“农禅并重”的丛林作风。而且身体力行，除了领着大众修行之外，还亲自参加集体劳动，并且留下了“一日不作，一日不食”的丛林佳话。

根据灯录上的记载：凡是“普请劳作”，百丈禅师总是随众共作，直到晩年，他每天仍下田干活。徒弟们多次恳求说：“师父，您这么大年纪了，就在家休息吧。”百丈禅师总是笑笑，依然随众干活。首座和尚就和大家商量，把师父的劳动工具悄悄地藏了起来，百丈禅师找不到自己的劳动工具，无奈只好留在寺里。吃饭之时，大家都到齐了，斋堂里唯独不见百丈禅师的身影。几位弟子来到方丈室，看到师父端坐禅床，便问：“师父，您怎么不去吃饭呢？”百丈禅师说：“既未劳作，即不应吃饭。”弟子们端来饭菜请师父吃，百丈禅师异常坚定地说：“一日不作，一日不食。”第二天，弟子只好将工具还给他。从此，“一日不作，一日不食”的精神，成了千古传颂的丛林佳话，百丈禅师则成了禅僧们效法的榜样。

百丈禅师入灭于元和九年（814）春秋九十四岁。禅师嗣法弟子甚多，最著名的有沩山灵祐、黄檗希运、长庆大安等十五人。百丈禅师生前所创立的农禅并重的丛林生活制度和清规（百丈清规），对中国禅宗的发展产生了极为深刻的影响。