哈尔滨工业大学物理学科的创始人为我国资深女物理学家和教育家洪晶先生。早在建国初期, 哈工大物理学科就在国内最早招收物理学研究生班, 由原苏联专家主持联合培养研究生。马祖光院士就是由中苏联合培养的研究生之一。

上世纪50年代初期, 物理教学体系改制主要以前苏联教育模式为样板, 在50年代的末期, 除了物理教学改革外, 洪晶先生率先开展了半导体位错的科学研究工作。1977年国家恢复高考后, 哈工大物理学科开始招收物理师资班本科生和硕士研究生。同时, 物理教师们在洪晶先生的带领下, 开展了激光全息、激光红外非线性光学等科学研究工作。1981年, 哈工大物理学科被国务院学位办确认为国内首批博士点——光学博士点, 是全国首批5个光学博士点之一。1985年成立了应用物理系，2005年，根据学科和专业发展的需要，更名为物理系。2019年，成立物理学院。