梁思成认为，研究不能只停留在对建筑物表面上的赞扬和发思古之幽情上，而必须采取科学的方法去剖析这份遗产，去探索其中的奥秘。因此，一开始他就把近代的科学方法应用到研究中国古建筑上。他说：中国古代建筑在文献上记载很多，但不经过实地调查，即使读破万卷书，仍只能得隐约之印象及美丽之词藻而终不得建筑物的真正印象。他生动地比喻，犹如古人熟诵《史记》对刘邦的记载，“隆准而龙颜，美须髯，左股有七十二黑子”，但如果在路上遇到刘邦仍不认识。所以他坚持研究古建筑，首先必须进行实地的调查测绘。

从1931年起，他将毕生精力投入到这项事业中去。一开始梁思成就把近代的科学方法应用到研究中国古建筑上，他明确提出：“近代学者治学之道，首重证据，以实物为理论之后盾，俗谚所谓‘百闻不如一见’，适合科学方法。”所以，他坚持研究古建筑首先必须进行实地的调查测绘。选择北京故宫作目标，因为这是目前留存最大量的明、清两代古建筑的代表。他手执清代朝廷公布的《工部工程作法则例》为课本，对着实物，从整体到局部，一一逐个辨识、测量、记录。他求教老工匠，在他们帮助下逐渐弄清了清代建筑的结构与形制，这如同跨入了门槛，为扩大调研范围创造了条件。

对古建筑的调查研究，梁思成坚持测量力求细致，分析要有根据，绘图严格，所出成果要与世界水平比高低。20世纪30年代的华北地区，百姓生活极端困苦，梁思成每次外出调查都要经受不少工作和生活上的困难。1932年他去河北宝坻县，如今只需3小时的汽车行程，那时却要经历8、9小时。途中过箭杆河土桥，乘客都要下车涉水过河，让汽车空车过桥；一路在泥泞中颠簸，左右摇晃，倾斜几达30度；下车还要换乘骡车到县城，然后身带几十斤重的仪器、用品，步行几十里才能到达山中寺庙。当时的不少县城，也十分破旧与贫困，找不到一家干净的旅店可以住宿，在贫穷的雁北地区，甚至于买不到白面做的主食。有时住在庙中，白天随着和尚吃素斋，晚间与蚊子、虱子为伍，有一次住在正定隆兴寺附近的小学校内，晚上冻得只好把报纸压在薄被上以御寒冷。就是在这样的生活条件下，梁思成对测绘工作的要求都坚持一丝不苟。对建筑从整体到细部，都要详细绘图测量；对各种构造、装饰，从里到外，从正面到侧面都要摄影记录；对所有碑文、史料都抄录无误。他和助手们经常爬上梁架，手按几十年的积尘，佝偻身体，俯仰细量，惟恐探测不周。那时室内摄影还靠在现场点燃镁粉闪光，每当镁粉一亮，躲藏在梁架间的成群蝙蝠见光振翼惊飞，扬出难耐的秽气。他们有时心中还惦记着时局的变幻，耽心着日寇会随时侵占华北，为了抢时间，往往一天坚持连续工作十几小时。1934年，在调查应县木塔时，为了摄取塔顶照片，梁思成登上60多米高的塔顶，手抱铁链，两脚悬空地攀登塔刹，去丈量尺寸；又退到塔顶边缘去拍摄塔刹的全景，助手们都为他捏一把汗，终于摄取了宝贵的资料。梁思成后来回忆说：当时也忘了害怕，要是再后退几步，真要“一失足成千古恨了”。他对自己对助手都要求严格，力求研究成果达到高水平。有一次，他把当时还只十几岁的莫宗江叫到房中，拿出几本当时认为是最高水平的国外建筑书刊，指着上面的图对莫宗江说：“这就是现在的世界水平，我们的图就要达到这个水平，你画的图也要达到这个水平”。莫宗江教授回忆说：当时梁思成就培养大家要有一股志气，中国人研究中国自己的东西当然应该达到世界水平。

正是凭着这种民族自尊心与民族志气，梁思成和他的助手虽然工作艰苦，但却乐在其中。当他们借着老工匠的指点弄清楚了古建筑的某一处构造时，心中有说不出的高兴；当他们不顾污秽，爬梁攀架，在昏暗中发现一组宏大的斗拱时，会顿时忘却疲劳而欣喜若狂；当他们在古建筑上见到一个宋代《营造法式》上刊之有名的构件时，真像突然遇见久别的故人一样，引起长久的兴奋。他们不仅调查名刹古寺，同时还有意识地到山沟荒野里去发掘那些不见经传的民间遗迹。为此，梁思成、林徽因曾专程到晋汾一带调查，途经8县，还两次到北京四郊访古寻迹。1932年，他们夫妇二人在京郊八大处到香山的途中，发现在马路旁边，微偻的山坡上有3座小小的石佛龛，佛龛由几块青石板合成，貌不惊人，但都已经历了七百多年的风霜，龛上的石雕呈现出南宋的遗风。梁思成赞赏这3座石龛：“分峙两崖，虽然很小，却顶着一种超然的庄严，镶在碧澄澄的天空里，给辛苦的行人一种神异的快感和美感”（《平郊建筑杂录》）。巍峨的长城，嶙峋的古城楼，晨曦中的塔影，这些记录着中华民族不朽历史的胜迹都会给予人们以无尽的诗情画意，但是在建筑师眼里，除了诗情画意之外，还会有一种特殊的感触，梁思成把这称之为：“建筑意”。他们在调查中，就经常因为领悟到这种“建筑意”而兴奋。梁思成深深感到正是通过这些实地的调查和研究，培养了他对自己民族文化的由衷深情和对劳动创造的无比尊敬。

1937年，抗日战争开始，梁思成收到日方主办的“东亚共荣协会”的请柬，邀他出席会议，他坚决不与侵略者同流合污，立即带领全家长途跋涉于1938年1月到达昆明，1939年，又搬到四川省南溪县的李庄乡下，这时，营造学社的经费来源断绝，有时连工资也发不出。梁思成的妻子林徽因患了严重肺病，长年卧床不起，他自己也得了脊椎软组织硬化症，行动极为不便，全家陷入了贫病交加的境地。当时美国有好几处学校和机构邀请梁思成全家去美国工作和治病，但他表示：“国难当头，绝不离开祖国”。在极端困难的条件下，在近两年的时间里，梁思成与营造学社同仁先后到过50余座城市，调查了建筑、崖墓、汉阙、石刻等古迹800余处。乡间的民房是他们的工作室，晚上靠小油灯照明，只能借用历史语言研究所的图书资料作参考，出版的刊物不能用照片，也无钱用铅印，完全靠用毛笔手抄文字，用钢笔画线条图，用石板一张张印刷，依靠连家属在内的全体人员用手工装订成册。尽管在这样艰苦的条件下，从写出报告的内容到绘制的图纸仍保持着很高的学术水平。梁思成率领营造学社的少数同仁坚持在抗日战争后方继续古建筑的调查研究工作，直至抗日战争的胜利。

从1932年到1941年的10年期间，梁思成和营造学社的同仁们一共调查了2700多处古建筑，足迹遍及190县市，自宫殿、寺庙、石窟到园林、民居，从唐代古建到清代建筑，它们给研究中国建筑发展史提供了充足的资料，梁思成正是根据这些丰富的资料，于1942年开始撰写《中国建筑史》。这时多病的身体折磨着他，脊椎软骨硬化病使他不得不经常穿戴着铁马甲工作，学社经费来源的断绝又使他不得不四出募化微薄的津贴，十分短缺的物质条件使得只能靠大量的线描图来代替照片的不足。在多病的妻子林徽因和莫宗江、卢绳等人的协助下，一部由中国人自己编写的中国古代建筑史终于在抗日时期西南后方的小山庄里完成了。在这部著作中，梁思成根据大量的调查和文献资料，第一次按中国历史的发展，将各时期的建筑，从文献到实物，从城市规划、宫殿、陵墓到寺庙、园林、民居都作了叙述，并对各时期的建筑特征作了分析和比较。在这部著作中，梁思成提出了对中国古代建筑特征的详细分析，他按中国建筑结构方法及其发展列举了中国古建筑的7大特征，并且从中国古代政治制度，思想道德观念，建筑的传统体制等几方面论述了这些特征的形成原因。这些论述和分析都远远超过了过去外国人对中国建筑的研究水平，达到了前人所没有达到的高度。接着梁思成为了向外国人介绍中国建筑文化又用英文写了一部《图象中国建筑史》。美国学者费正清对梁思成的这一时期工作作了如下的评价：“二次大战中，我们又在中国的西部重逢，他们都已成了半残的病人，却仍在不顾一切地，在极端艰苦的条件下致力于学术，在我们的心目中，他们是不畏困难，献身科学的崇高典范。”

当新中国首都北京的大规模建设活动开始时，作为北京都市计划委员会副主任的梁思成全身心地投入到首都建设工作之中。他根据北京作为全国政治中心的性质，参照世界其他国家城市建设的经验，预见到古都北京与新首都之间的矛盾，于1950年初，与都市规划专家陈占祥一起向政府提出了新北京城的规划方案，提交了《关于中央人民政府行政中心区位置的建议》，主张将新的政府行政中心区放在旧北京城的西郊。他们从新行政区占地面积，交通联系，长远发展等几方面加以分析比较，古城。他们主张尽可能把这座世界上少有的历史名城保留下来，在改建中保持她的传统风格。梁思成还专门写了《北京——都市计划的无比杰作》一文，建议把北京城的城墙、城楼、护城河都尽可能地保存下来，一方面她们代表着古老北京的传统特征，构成了北京特有的体形环境与城市空间轮廓；另方面又可以加以改造，古为今用，为新社会服务。护城河加以疏浚可以调剂城市气候；城楼可以改为文化馆、展览厅供群众活动；城墙上加以绿化布置可以成为群众休息娱乐的大环城公园，梁思成还为此专门画了设想图。遗憾的是这些建议当时都没有被采纳，北京的城墙、城楼被拆毁了，城内的牌楼被拆除了，梁思成为此痛心疾首，四处奔走呼号，有一次遇到拆除北海团城的争议，梁思成在会上详细地陈述了团城是国内仅有的几座古代高台建筑之一，他不仅在建筑史上有重要价值而且也是北海整体景观不可分割的一部分，但对方坚持说因妨碍交通而必须拆除，梁思成生气地说：“照这样说，干脆推倒团城填平三海，修一条笔直的马路通过去。”他心急如焚，特地去找到周总理，总理亲自到现场勘察，最后采纳了现行的改建方案，既畅通了交通又保住了团城。

梁思成还积极参加国家的政治领导活动，曾任：北京市人民委员会委员，政协北京市委员会副主席，第一、二、三届中国人民代表大会代表，三届人代会常务委员。1959年，梁思成加入中国共产党。

梁思成没有想到他自己精心培养、视为儿女的学生们在“革命无罪、造反有理”的声浪中，将斗争的矛头指向自己的师长们。“文革”开始不久，清华大学建筑系的造反派们就贴出攻击梁思成的大字报——《梁思成是彭真死党，是混进党内的大右派》。在极度压抑的政治氛围中，梁思成被勒令一遍又一遍“交待”自己的“罪行”。但由于没有按照造反派的意思去歪曲事实，因此所写材料都不通过，只能一步一步加重他的“罪行”。

1966年7月，梁思成被造反派们从建筑系馆推了出来，胸前挂着一块巨大的黑牌子，上面用白字写着“反动学术权威梁思成”，“梁思成”三个字还打了一个大大的叉。梁思成踉踉跄跄地站在大门口，剧烈的疼痛几乎使他直不起腰。之后，只要梁思成出门就必须挂上那块黑牌子。工作干不了，工资停发了，住处被勒令一搬再搬，全家老少被赶到清华大学北院一间没有水暖供应的小平房中生活。反派们肆意查抄、勒索梁思成的家，梁思成多年以来收藏的艺术珍品损失殆尽。

婚后夫妻二人致力于建筑事业，他们在山西对古建筑所做的调查和实测工作，不仅对科学研究贡献巨大，也使山西众多埋没在荒野的国宝级的古代建筑开始走向世界，为世人所知。