中国科学院创建初期,在先后接收原中央研究院和北平研究院等研究机构的基础上,组建了第一批新的研究所,包括数学研究所、力学研究所与高能物理研究所等。
建国初期,我国国民经济的发展对当时薄弱的科技工作提出了迫切要求。1956年初国家成立科学规划委员会,领导和组织全国600多位科学家共同编制完成了《1956-1967年科学技术发展远景规划纲要》。中国科学院在制定规划过程中起到重要的主导作用。
1958年中国科学院举办了建院以来的第一次科技成果展览会,70多个单位参加了成果展出。展览会受到党和国家领导同志的极大关怀和重视。
1978年3月18日至31日,被称为科学春天的全国科学大会在北京举行。中国科学院有352项科研成果获科学大会奖励。中国科学院从筹备到组织参加大会,各单位对这项工作非常重视。
1949年前的科研机构是中国科学院相关科研单位的前身,包括国立中央研究院、徐家汇佘山天文台,以及日本在华机构南满铁道株式会社和上海自然科学研究所等。