1867年，牛兆濂出生在西安市蓝田县华胥镇新街村。据说在他出生时，父亲牛文博曾梦见宋代理学家“濂溪先生”周敦颐来到家中，便给儿子取名“兆濂”，字“梦周”。牛文博也读过几年书，因为家里穷，辍学做了生意，因而对孩子的教育极重视。
牛兆濂小时候就是乡里出名的“神童”，21岁时考中举人，却因要赡养父母，没有去北京参加会试。26岁时他北上三原县，拜理学家贺瑞麟为师。贺先生提及此事。他说这是奉母亲之命（当时父亲已死），母亲只要我学做好人，其他的不指望。贺先生指点他遵循程朱理学之路，他自此专注儒家为己之学，身体力行。
儒家的关中学派注重格物致知、经世致用，具有积极的入世精神。牛兆濂一生也奉行“学为好人”之道，有求必应，德行乡里。1900年，关中遭遇大饥荒，牛兆濂不辞辛劳，主动站出来主持蓝田全县的赈恤救济事务，做事极为清正。他儿子想在赈济局里谋个差事，获得一点微薄薪水养家，也被牛兆濂拒绝。
1893年赴三原拜贺复斋（瑞麟）为师，言：“慈亲之命但愿濂学为好人，他非所望焉”！贺以先生孝义诚恳，收为门下。先生一生即奉行“学为好人”之道，布衣自足，不慕荣利，以耿介廉洁自守，具冰雪之操。投身程朱理学研究，且精通周易，善逻辑推理，预见性强，因此被称为“圣人”。先生毕生致力于教育，学生门人不计其数。先生的一生，追求着一种淡泊明志的隐居生活，可生逢乱世，为了国计民生，他常常不顾个人安危，四处奔走，使得一生充满了传奇色彩。
清光绪八年（1882）参加县考，名列榜首。光绪十年（1884年）肄业于关中书院，后入志学斋，专攻儒家经学。第二年，充任志学斋斋长。因其爱好广泛，曾遍读兵、农、钱、谷、水利、算术之书。1886年补廪膳生员，并被聘为塾师。
光绪十四年（1888）听柏景伟讲学于关中书院，并受教于李菊圃、黄小鲁等人。次年应乡试，中第28名举人。后因父殁母病不能进京应试，按惯例应予除名，陕西巡抚端方以孝廉奏请朝廷得以幸免，并特赐内阁中书衔。但他不意功名，力辞不就。
光绪十六年（1890）任白水书院山长，开始治程朱之学，为此曾于十九年（1893）赴三原拜贺复斋为师。
光绪二十四年（1898）管理蓝田县厘衙局，后又主持县赈恤局。他廉正清明，亲自制定局规，率先执行，并严格要求下属。时逢陕西大灾，收成锐减，牛呼吁社会急起相救，得江南义赈会捐赠，保全了众多百姓生命。后因厌恶官场应酬辞职，讲学于芸阁学社。
光绪二十七年（1901），清政府开设经济特科，选拔专门人才。陕西巡抚升允举荐牛，并赠以路费促其赴京召对。但他以专攻经史不懂经济为由辞而不往。
光绪二十九年，（1903）升允以关中书院改建陕西第一师范学堂，聘牛为总教习，一年之内书函敦请六七次，他认为自己是立志做学问之人，不能与做官者为伍，又兼与新学不通而婉言相谢。最后巡抚派人持聘书、聘金驱车登门相接，才勉强随去。但三个月后，因学派门户之见，决然辞归，仍治程朱理学。
光绪三十三年（1907）秋，牛被选为咨议局议员，后又被选为常驻议员。
时值关中鸦片烟害又起，他前往烟害最重的西府地区密查，前后历时20天，有力地推进了该地区的禁烟。不久，因不满清政府的腐败，辞去常驻议员职务，再讲学于鲁斋书院。
1911年辛亥革命胜利，新政府屡次相召，争取他参加革命，共商大事。但他对革命缺乏认识，认为自己与大清君臣之分早定，每次都以身体欠佳而谢绝。
1912年初，原陕甘总督升允率兵攻陕，企图复辟皇朝。牛不顾个人安危西出礼泉，以民生之计和时局大势晓以利害，使升允罢兵。此后他专事讲学于清麓书院，以宏扬儒学为己任，慕名来学者与日剧增。
杨虎城任陕西省主席后，派蓝田县县长曹汉英带绅士十数人持聘书和聘礼邀牛作顾问，但牛力辞不受。
1926年军阀混战，蓝川先生诗云：大祸中原小祸秦，至微亦足祸乡邻。苍天若念黎民苦，莫教攀阙生伟人。
1930年，日寇野心初现。先生对当局政府一味投降对内自相屠杀，极为愤慨。写下《我明告你》一诗，申明大敌当前，团结则并存号召团结相处，停止内讧。
1931年“九一八”事变，牛义愤填膺，减膳数月以志爱国之心，并积极倡导抵制日货，用攘夷之说激励学生爱国救亡，挥笔写下了《阋墙谣》一诗。号召大家共赴国难，团结御侮。提倡抵制日货，并为之减食三月。
1936年西安事变和平解决后，他极为感动，认为“全民联合抗敌，由此发扬，中华民族便有复兴之日”。并亲自组织300名兵勇，恳请投笔从戎，效命疆场。
1937年7月卢沟桥事变爆发后，日本向中国增派八个师团的兵力，准备大举进攻华北。患病在床的牛兆濂闻讯后痛不欲生，病情日渐加重，于7月21日愤然辞世。
耍笑军痞
一九二六年，以刘镇华率领的十万镇嵩军直扑关中，围困西安城。在西安城外烧抢掠夺，祸害百姓，给城乡造下了许多罪孽，令人愤忾。困城之初，刘镇华久闻牛才子的名望，备厚礼前往当时牛才子居处蓝田县城南坡书舍聘请牛才子为其出山效力。谁知当刘镇华到达书舍门口时见大门紧闭，门上拴有两条狗不住的狂叫，刘镇华不解其中原由，止步不前，手下人等想开枪打狗，被他强行吓制，带着手下，站在门外极不耐烦的等着。过了一个多时辰，书舍门才打开，有人出来将刘镇华引入书舍。刘镇华一见牛才子便大声说到；久仰先生大名，今日一见大快平生。今日拜会希先生不吝赐教，还望先生出山，扶助不才以成大业。牛才子不紧不慢的答到；告知将军我只是一贫穷的书生，并无什么经天纬地之才，起死回生之术，毫无能力扶助将军以成大业。只从书本上知到；民为邦本，本固邦宁。望将军善待百姓，以天下百姓为念，自有后福，其他一无所知。刘镇华一见此景又说到；外间传闻先生有先知先觉之妙术，望先生告知本人一下眼前围城的吉凶福祸。牛才子答到；外间传闻不足为信，俱是乡间饰美之词。眼前围城的情形；两条狗将军都舍不得动武，何况两只老虎呢？（当时守城的是杨虎城，李虎臣二位将军人们合称二虎守城）将军更是奈何不得，总之一句话；将军要善待百姓。
此语一出，气急败坏的刘镇华破口大骂，立即派人去抓牛才子。此时刘镇华犹如热锅上蚂蚁左右难安，心中上下起伏难以平静，此事一传出想守不可能，想撤又怕惹人笑话。不久抓牛才子士兵回来报告牛才子昨天早上出远门未回来，此消息令刘镇华气恼，原来让牛才子耍笑了。后来，于右任冯玉祥等各方面军队的夹攻，刘镇华的镇嵩军撤走了，西安城解围了。事过八十年了人们每当提起东军困城，对牛才子其人莫不推崇有加。
种豆成豆
话说牛才子女儿在忙罢（每年夏收后一段时间称忙罢）回娘家，一天晚上上茅房，听见其父在院中自言自语到：”天河南北，夏凉割麦，大灌小能吃饱，秋后家家户户能把豆儿炒，豆儿要成了！说完后回到房中。其女回到夫家中，让将家中所有土地秋作物全种豆子。
果然，秋收时豆子大丰收。牛才子亲家大喜所望，拿着收获的豆子登门感谢牛才子，牛才子茫然不知原为。当亲家讲明原由后，惹得牛才子大发脾气，从此再不许女儿上门了。
满地白银
话说牛才子走在浐河滩上望着满地的沙石对行人讲到；满地卧的是白银，单等有福拾银人。当时人们不解，可时至今日，人们才知道老先生先见之明，令后人佩服不已。