李四光回到新中国的消息很快传遍全世界，他还没有来得及充分休息，便出席了6月份召开的中国人民政治协商会议第一届全国委员会第二次会议。 他在大会上用高度概括的语言分析了欧美各帝国主义之间的矛盾，以及各国统治集团对待新中国不尽相同的态度，引起强烈反响，成为他回国后首次面向全国、全世界发表的公开宣言。

毛主席对李四光的发言十分赞赏，认为是“爱国的、反帝的”。 在不久之后的全国高等教育会议期间，毛主席第一次会见了李四光，亲切地对他说：“李四光先生，你回来了，欢迎你。 你在政协会上的发言讲得很好！”两个人紧紧握手，李四光为毛泽东的诚挚、谦逊而感动。

朱德、刘少奇、陈云、李富春等诸多党和国家领导人，也都在相应场合会见了李四光，皆以革命同志关系相待。 尽管这时的李四光还没有加入中国共产党，他的思想却与这个伟大的政党融为了一体，彼此之间堪称名副其实的肝胆相照。

1950年6月下旬，李四光出席政协委员会关于最后审定中华人民共和国国徽方案会议。 会议要求，从中央美术学院设计方案和清华大学设计方案中审定一个。 讨论中，以田汉为首的一部分委员赞成美术学院的方案，以张奚若为首的另一部分委员赞成清华大学的方案，双方争持不下。 这时，周总理来到会场听取意见。 他见李四光一直凝视着两个并排挂在墙上的国徽放大模型沉思不语，便要李四光表态。 李四光指着清华大学的方案模型说：“我看这个好，天安门广场宽广，五星红旗布满天空，够气派！”总理大笑，表示赞成，最终确定了清华大学的设计方案。

当年12月，李四光夫妇由六国饭店迁至东城遂安伯胡同新居。 李四光一到北京，立即开始筹办组织全国地质工作者的事宜。 他广泛征求地质工作者的意见，并亲自拟订了一份征求意见信，发给全国所有的地质工作人员。 经过充分的讨论和研究，最后提出成立“一会、二所、一局”的意见。 “一会”是指成立地质工作计划指导委员会；“二所”是指成立中国科学院地质研究所和古生物研究所；“一局”是指成立财政经济委员会矿产地质勘探局。

旧中国有三个全国性的地质机构：以尹赞勋为首的中央地质调查所，以俞建章、许杰（实为李四光）为首的中央研究院地质研究所，以谢家荣为首的经济部资源委员会矿产测勘处，都设在南京。 南京解放后，这些机构工作人员很多都留了下来，三个单位的图书资料、仪器设备也基本保存了下来，这让李四光十分高兴。

但当时，我国地质工作基础极其薄弱，旧中国遗留下来的地质专家只有200多人，钻机只有8部，直到1952年6月底，全国才有40部钻机。 更关键的是，旧中国地质工作水平很低，具有工业意义的地质工作几乎没有开展。 新中国成立后，这三个机构是分是合，隶属何处，北京和南京的人怎么安放，纷争激烈。

方案很快得到中央人民政府政务院批准。 1950年8月25日，经政务院批准，地质工作计划调配委员会改为“全国地质工作计划指导委员会”，李四光任主任委员，统一部署全国地质调查研究与勘探工作，对这三个机构进行整合，尹赞勋、谢家荣为副主任委员，章鸿钊为顾问。 财政经济委员会矿产地质勘探局也随之成立。

1950年11月1日，地质工作计划指导委员会在京召开扩大会议，这是全国地质工作实行统一领导后召开的第一次重要会议，也是地质界大团结的会议。 到会60余人，由李四光主持，会议主要讨论了中央地质机构的组织、中央与地方地质机构的联系、1951年工作计划和地质教育等问题。 大会的主旨就是团结，把三股力量团结起来，共同开拓地质大业。

为此，李四光耗费了许多心血，甚至，就在开幕式前一天的筹备会议上，因机构设置问题，田奇隽、侯德封、李春昱、谢家荣、孙越崎曾发生争执和不快，经李四光劝和，才得以缓解。 同时，对名利素来看得很淡的李四光，在会议期间的一次讲话中称“这次会议确是章老先生开创中国地质事业以来第一个重要会议”，高度赞扬了章鸿钊的功绩。

正如章鸿钊在开幕词中说的，“我从事地质工作已经34年，从来没有像今天这样愉快。 过去环境不好，在沉闷中过日子……今天我们在好的环境下齐集一堂，是开地质界的新纪元。 希望大家努力团结，为新中国的大事业而努力。 ”

李四光在闭幕词中说：“开会以前我很担心，恐怕会开不好。 结果不但开得很好，并且皆大欢喜，大家团结起来了。 过去，我自己常想，只做点研究工作，不愿负行政责任。 但客观环境不允许这样。 经过考虑、斗争，我认为，只顾自己的兴趣，就是自私。 所以才决定人民需要我做什么，我就做什么，一直到我不能做的时候。 ”

李四光以他毕生的实践，履行了他的这一诺言。

全国地质工作者组织起来后，地质工作和地质研究出现了新的局面，但是中央很快发现，“一会、二所、一局”这种组织形式还是不能适应经济建设的需要，这是因为我国发展国民经济的第一个五年计划将从1953年起开始实行，但中央在制定计划时发现，很多想上的项目上不了，原因就在于地质情况不明、矿产资源的“家底”不清，拖了后腿。

1952年8月10日，根据《关于调整中央人民政府机构的决议》，中央人民政府第十七次会议决定成立地质部，部址选定为前中国地质调查所旧址——北京市西城区兵马司胡同9号，任命李四光为部长，李四光走上了领导全国地质工作的重要岗位。

为保证李四光有充分的时间从事科研，需要找一位阅历丰富、组织能力强、管理经验丰富的得力副手主持日常工作。 毛泽东、周恩来想到了何长工。 此前，何长工曾任重工业部副部长、代部长，以航空、钢铁、造船、电机和动力工业为重点，主抓重工业部的组建工作，奠定了我国重工业和航空工业发展的基础。

1952年8月7日，中央财政经济委员会副主任薄一波找何长工谈话，“组织上决定调你到即将成立的地质部去工作”。 何长工感到十分突然，遂以自己不懂地质和因身体原因爬山越岭困难为由，要求到其他部门去工作。 薄一波说：“这次调动是周总理向毛主席提出的，毛主席同意你去地质部，说你有那么一股劲。 ”薄一波还说：“事情定得很急，也来不及和你商量。 ”

当日下午，何长工被任命为地质部副部长，从此开始了他长达20多年的地质工作生涯。 地质部成立后，三方面的人各得其所，都有重要职务，成为方方面面的中坚和骨干。