在1956年国家制定的十二年科技发展规划中，将发展原子能技术作为国家重点项目，按照我国核科技事业战略布局，1958年10月27日，中共上海市委决定，在中国科学院上海分院之下，新建原子核研究所（简称“核所”），由复旦大学主办。

1959年8月，中共上海市委正式批准筹建中国科学院上海原子能研究所，对外名称为“中国科学院上海理化研究所”，属中国科学院上海分院领导，并成立筹建委员会，具体负责筹建的各项工作，定址为上海市嘉定县东门外新木桥。1959年9月，经国家计委、国家科委和第二机械工业部共同研究批准，同意建立上海理化研究所。1960年10月，经国家计委、国家建委批准，同意上海理化研究所列入国家限额以上施工单位。1961年5月，中国科学院上海分院决定成立中国科学院上海理化研究所（简称“核所”），原理化所筹建委员会同时撤销。

1963年2月，经中国科学院和第二机械工业部共同研究，报请国家科委批准，将上海理化所划归第二机械工业部，由中科院和二机部双重领导，以二机部为主。所名定为华东230所，对外名称为“中国科学院原子核研究所”（简称“核所”）。

1973年4月，上海市为了建设30万千瓦压水堆核电站（七二八工程），需要一个研究、设计、试验基地，经上海市和二机部研究，报请国务院批准，将原子核所划归上海市领导，同时将上海市物理研究所和原子核所合并，定名为“上海原子核研究所”（简称“核所”）。明确由上海原子核所作为七二八工程的主要会战单位。

1978年1月，经上海市和中国科学院研究，报请国务院批准，将上海原子核研究所划归中国科学院，实行中科院和上海市双重领导，以中国科学院为主，所名定为“中国科学院上海原子核研究所”（简称“核所”）。

以筹建上海光源为契机，研究所学科方向作出重大调整，从传统的核技术科学研究为主，转向以第三代同步光源、新型自由电子激光和先进离子束装置的研制及其相关的学科研究为主要学科方向，因此，2003年6月，经中国科学院批准，更名为“中国科学院上海应用物理研究所”（简称“上海应物所”）。