1949年10月1日，中华人民共和国成立。当时的中国国内仅有30多个专门研究机构，全国的科学技术人员不超过5万人。中国的科学技术需要在一片"废墟"上重建。
1949年11月，在原中央研究院和北平研究院的基础上成立了中国科学院，作为新中国的主要政府研究机构，并在随后的几年里陆续成立了中国科协、中国气象局、国家地质部等科学技术协调与研究机构。中国的科学技术发展进入了崭新的历史阶段。
新中国的建立，激发了大批海外学子的殷殷报国心。正在美国伊利诺伊大学任教的著名数学家华罗庚，听到中华人民共和国成立的消息后异常兴奋，毫不犹豫地放弃了在国外的终身教授职务和优厚的生活待遇，毅然回国。
1955年，航空动力学家冯.卡门的学生、时任美国加利福尼亚理工学院教授的钱学森，历经险阻，回国效力。后来的几十年间，他为发展中国的国防科技作出了特殊贡献。
到1957年，归国的海外学人已经有3000多人，约占新中国成立前在海外留学生和学者的一半以上。他们克服重重困难，纷纷回到祖国，大多数人成为新中国科学技术发展的奠基人或开拓者。在中国科学院选定的第一批233名学部委员（后改称院士）中，近2/3是这批归国的海外学人。
同时，中国政府大力培养科学技术人才，建立科研机构。在短短的时期里，中国初步形成了由中国科学院、高等院校、国务院各部门研究单位、各地方科研单位、国防科研单位五路科研大军组成的科技体系。
1956年是中国现代科学技术发展史上的一个重要里程碑。是年1月，中国提出了"向科学进军"的口号。科学技术事业开始进入了一个有计划的蓬勃发展的新阶段。
这一年，中国政府成立了国家科学规划委员会，组织全国600多位科学家和技术专家，制定出中国第一个发展科学技术的长远规划，即《1956年至1967年科学技术发展远景规划》，拟定了57项重大任务。此规划提出的主要任务于1962年提前完成，从而奠定了中国的原子能、电子学、半导体、自动化、计算技术、航空和火箭技术等新兴科学技术基础，并促进了一系列新兴工业部门的诞生和发展。在提前完成《1956年至1967年科学技术发展远景规划》的基础上，中国又制定了《1963年至1972年科学技术规划纲要》（简称《十年规划》）。
中国政府在1958年对科技管理机构进行调整合并，成立了国家科学技术委员会、国防科学技术委员会。各省（自治区、直辖市）、市、县陆续成立了各级科委，形成了中国的科学技术管理体系。中国科学技术事业进入了国家计划下的现代发展时期。
1964年，周恩来总理在政府工作报告上首次提出要实现工业、农业、国防和科学技术现代化，简称"四个现代化"。
在此期间，科技事业得到迅速发展。1959年，地质学家李四光等人提出了"陆相生油"理论，打破了西方学者的"中国贫油"说；1960年，物理学家王淦昌等人发现反西格玛负超子; 1964年，中国第一颗原子弹装置爆炸成功；1965年，生物学家们在世界上首次人工合成牛胰岛素。在此过程中，中国形成了一批学科较齐全、设备较好的研究所，培养了一支水平较高、力量较强的科研队伍。到1965年，全国科学研究机构已达到1700多个，从事科学研究的人员达到12万人。这是中国科学技术事业继续发展的基础。