Институт общей физики им. А.М. Прохорова Российской академии наук был организован в 1982 г. на базе Отделения А Физического института им. П.Н. Лебедева АН СССР. Это отделение включало в себя лабораторию колебаний, лабораторию плазменной физики и отдел монокристаллов. Эти подразделения определили структуру и цели нового института. Лаборатория колебаний была основана в 1934 г. В то время она возглавлялась всемирно признанными учеными: академиком Н. Д. Папалекси (с 1934 по 1947), академиком М. А. Леонтовичем (с 1947 по 1954) и академиком Прохоровым (с 1954 по 1998).
Организатор и первый директор института — лауреат Нобелевской премии по физике 1964 г. академик Александр Михайлович Прохоров. В 2002 г. Институту было присвоено имя академика А.М. Прохорова. C 1998 по 2018 гг. директор ИОФ РАН — академик РАН Иван Александрович Щербаков, в настоящее время являющийся научным руководителем Института. С 2018 г. Институт общей физики РАН возглавляет член-корреспондент РАН Сергей Владимирович Гарнов.