法融读了许多儒家的经典和佛经后说：
“儒家的义理和许多世俗的文章，象糠粃一般，而佛家般若止观等道法，可以渡人到幸福的彼岸。”
法融从此出家为僧。
法融投奔炅法师学道。炅法师道法出众，享誉当时。法融一边干活，一边闻道。法融认为，求道的根本在于心神归一，否则虚妄的念头就永远难以除掉。法融于是凝心静坐，精修二十年，各种佛法一时全都通晓。
想独自修炼，离开炅法师，法融在牛头山幽栖寺北面的山岩下建草房做禅室。法融在房中日夜苦修，以求至道。几年之内，前来向他求道者达上百人。
起初建造的禅室，四面墙壁不全。弟子道系、道凭正在禅室修炼，半夜里有一只象羊的怪兽窜进禅堂，踢腾怪叫，用脚踏两人。两人一动不动，凝神修持。那只怪兽见他们不受干扰，就走出禅室不见了。
法融在山中的一个石房内坐禅，房子有十步深。夜晚，法融正在修炼，一只神蛇爬到石室门口示威。神蛇长有一丈，眼睛象灯笼。神蛇在门口呆了一夜，见法融丝毫不动，就爬走了。
法融修炼的山中，虎狼成群，打猎的人也不敢入山。法融却在山中往来自如。法融在禅室给众僧讲法，群鹿前来伏地听讲，一点儿也不怕。有两只大鹿就干脆住在法融的禅室中，听法三年才离去。法融和禽兽的关系融洽，许多野兽常常从他的手上取食。
法融和众僧在山崖上做饭，山崖上有瀑布，只是水流很小，使用不便。一天法融漫步徐走，他用手指着东边的山岭说：
“过去远公用手中锡杖拄地，地下就流出泉水来，耿将整了整衣冠，于是破瓮中的水就自然溢满。这全是诚心所感。如果这个地方可以久居，一定会清泉日溢。”
过了一夜，东边的山岭果然清泉飞流，清澈甘美，冬暖夏凉。泉水可以飞溅到山崖上，法融等山顶上用饭锅接水，煮出饭来，香气扑鼻。
又有一次，法融在山岩下讲法华经，当时大雪纷飞。一会儿，就看见两枝仙花从空中飘然而下，象芙蓉一般灿烂无比，经过七天之后，花却突然消失，众人无不称奇。
牛头山的附近有佛窟寺，其中有七藏经书，即佛经、道书、佛经史、俗经史、医药偏方等43种。这寺是刘宋初年，一个姓刘的司空所造，他家巨富，于是寻找七经，并抄写出来，用来镇寺。
法融经常到佛窟寺中，与炅法师探讨佛经，炅法师掌管七藏，法融每天前去请教，过了很久，炅法师对法融的人品才学有所了解，才让他看七经。法融夜以继日地阅读经书，经过八年，已将七经了然于心。
这之后，法融再次回到山中，闭门守静，他的禅房之内，此时已是空空荡，只有一个坐垫，其它的地方长满了青草。他坐的床已有二寸厚的尘土。法融对此并不在意，只是凝思修炼，遗形忘骸。
武德（唐高祖李渊年号）七年，王师前去讨伐长江一带的叛乱。那个地方有僧人近五千人。为稳定秩序，左仆射房玄龄上奏：
“贼众所居各州，僧尼很多，可以依照关东旧制，每州只设一寺，每寺只留三十人，其他的人全部遗归乡里，编入户籍。”
法融不能容忍这样苛刻的法律，前往京城辩明事理，御史韦挺仔细看过法融的表奏，发现其论理充足，文词华美。过了三个月，韦挺把法融领到房玄龄那里，房玄龄很佩服大师的高风亮节，但却固执于以前的看法：
“并不是说您的意见没有道理，但我曾经上书奏明此事，怎么能更改呢？当然，我也不会让象您这样的高僧从俗，您那里留一些德行较高的，其他的人就不用您照顾了。”
法融虽然坚持自己的意见，但知道目前的局势一时难以改变，而且也不会延续很久。他回到寺中，仍坚持度僧，讲法不辍。
永徽（唐高宗年号)三年，有地方官请法融到建初寺讲大乘之道，听讲的有上千人。当法融讲到灭谛品时，他雄辩滔滔，张扬义理。大地被他的宣讲所震动，听者顿时骚动不安，钟二罄、香炉、坐床都先后摇动起来。这些，寺外没有听讲的人没有感觉到。
永徽年中，右仆射季静之的长子，江宁县令季修，生来就心向佛道，推崇大乘。季修非常钦佩法融的美德，和许多名士俗众一起请法融前往州中讲法。法融没有答应，季修领众人三次前来，法融才同意。
州中宿儒，许多人不信佛法，对请法融讲法多次阻挠。等到法融登上讲席，弘讲妙法，回答提问，阐明佛理时，众人无不折服，法融讲道，似云雨淋漓，又好象大河滔滔。听讲的僧俗达三千人，拥满了讲法的院子。
其中有一些修持很久的僧人，他们傲气十足，目空一切。可当他听到法融的高论时，个个惶恐不安。无法挽回面子，只是硬着头皮责备法融，法融总是承认自己学识寡薄，难以和至道之人相比，并不和他们计较。对他们所提出的问题，则一一解答，并无阻碍。
法融告诫听讲的众人：
“先前如来说法，现在佛理犹存。人虽有凡圣三分，但佛理至道只有一个。可是你们不可能一次听讲就能悟彻大道，还要闻道见行，心不要被外物所累。只要我们克服贪、瞋、痴等烦恼之根，我们就可以解脱了。”
讲听者扪心自问，若有所得。
此时，睦州妖女陈硕真，用邪术蛊惑人心，遗误良善。四方的僧人许多到建业聚会，州县的官府认为他们是妖徒，派人搜捕他们。众僧四处逃难，却没有寺院敢收留他们。
法融正在山中幽舍修持。寺中僧众早已因缺粮而饥寒交迫。可是，每天又有逃难的僧人前来投奔，总数已超过了三百人。连原来的僧人都想散去，现在又有这么多新来的。何况县令还下告示，不许僧众聚集在一起。但法融却对众人说：
“各位道友，山寺虽然萧条，但已足以庇身。有无都不能长久，这是佛法之理。不要因官府的管制而心想逃离，要遇寺而归。你们如果要逃，能逃到何处呢？大家还是各自安心修业，有福有祸共同担当。各种欲望是人生之苦的根本，一直追逐人，来生还有地狱之苦。我们如果心离不开世俗迷悟，老想着世俗之苦，不是修正法来超脱，却是想逃离，这便是为尘世所障碍。这是我们修道的大忌啊！现在我们应当立即铲除它，把心思放到修法中来。”
众人听后，非常惭愧，不再想逃离了。
山中有如此众多的僧人，自然就要许多的粮食，法融亲自前往丹阳广告世俗。众人听说山中缺粮，纷纷节省食粮，给山上送去。法融亲自和众人担粮，一次担一石八斗，送去再担。每天来往多次，毫无倦意。经过一百天的运送，寺中粮食充足，僧人都安心学法。那些不听劝告的，跑下山去，被官府抓住，受到了严刑拷打。
显庆(唐高宗年号)元年，司空萧元善再次邀请法融前往建初寺弘法。法融对诸僧说：
“从今一去，再无会期，有离有合，本是自然。”
法融向众僧道别后，走出山门。这时，禽兽哀号，一天不停。山间的泉水，沙子涌上来，将泉眼堵死。房前的大梧桐树，在繁茂时突然凋零了。
在建初寺不远，有一座寺院，寺里有一个亘法师，他陈时就是有名的高僧，现在已经年过八十，是金陵的众僧之首，许多法事都由他主持。法融在幽栖寺时，就曾前去拜访。法融对亘法师讲出自己的疑：
“经中的明佛说法，闻法者能于言中悟道，不必在经论之中分析文句，猜测内容。想您这样的大德，得到佛的真传。我却没有听过真传至道。我自己的脑袋又不开窍，堵塞壅蔽得厉害，所以不能悟道。处在愚昧不化之中，我自己也感到很惶恐，渴望得到指教。我希望您能指点迷津，使我不再糊涂，我愿听您的教诲。”
亘法师沉吟很久，才说：
“我以前在陈朝时，也遇过一个禅师，是诸位王侯重臣都归依相敬的，他登上讲席讲法，宣扬致道，和你一样。我这个人才能平庸，怎么能得到高师的遗教呢？”
二人言不投机而散。亘法师那时是对法融道法不信任，所以才推辞不讲。
法融第二次来到建初寺时，仍然勤修不止。此时法融的名声已传遍天下。亘法师改变了原来的看法，对法融的德行非常敬重，于是拄着拐杖去找法融。到了建初寺，有个叫德善的禅师见亘师远道而来，很高兴。两人谈了一会儿。亘法师说：
“我因为法融才来这里。”
德善禅师和法融同住一寺，最初并不看重他的道行。经亘法师这样一说，他很想见识一下法融的道法，于是他们把法融请来，让他谈论佛家至理。法融正襟危坐，即兴弘讲。法融一开口就是三百对工整的韵文，没有一点浮饰不实的地方。二位大德交口称赞，亲自为法融在寺中主持法席。
法融心怀慈悲，与人为善，胸怀宽广。他从不与人为敌，也不记别人的过错。
有一个僧人，听到有人诽谤法融，骂法融不是人。他向法融说了此事。法融却责备他说：
“过去的咒骂就象风一样，一吹过去就没有了，出口也就不见了。你怎么能把这种虚谈对我讲呢？一切无住无著才是我们的本愿。这样才能安然忍受刀剑。”
曾有人登上宝座厉声辱骂，有人当众对他诽谤，他都当做耳旁风，丝毫不起瞋怨之心，反而面露笑容，和颜悦色，那些前来辱骂者则丑态百出。
法融于显庆二年，死于建初寺。道俗之众为之悲哀。后葬于鸡笼山中，幢盖飘动，笳哀萧悲，惊动天云。前往送葬者达一万多人。