激光冷却原子分子并实现玻色-爱因斯坦凝聚是20世纪末物理学的重大进展，例如它促进了物理常数的精确测定和基本物理量的重新定义，利用激光冷却原子得到的铯原子喷泉频率标准，其精度达到10-15。1997年以来就有4次诺贝尔物理奖（1997年、2001年、2005年、2012年）授予了与冷原子和精密测量领域相关的科学家。本报告将基于磁阱、光晶格、Feshbach共振、规范场中的冷原子、分子体系，研究拓扑超流态和绝缘态、量子相变、强关联效应、量子Hall效应、自旋Hall效应等基本科学问题，以及原子激光、冷原子钟、冷原子陀螺仪、原子芯片等高新技术。

我们发展第一性原理和团簇动力学平均场方法结合连续时间蒙特卡洛方法，系统地研究了二维材料特别是强关联系统的量子相变，获得了三角格子、三角 kagome 格子、六角格子、两层六角格子和Shastry-Sutherland格子中电子随相互作用、自旋-轨道耦合、温度、非均匀性变化的相图，例如非均匀性三角 kagome 格子中电子的金属-绝缘体相变与磁性相变。在非均匀性的影响下，三角 kagome 格子中A、B两种子格子的相变点将发生分离。非均匀性与相互作用的竞争将诱导出两种新的相：一种是具有能隙的片绝缘体相，另一种是不具有能隙的 Kondo 金属相。在片绝缘体相中，电子将倾向于在 B 子格子组成的小三角形中运动。在 Kondo 金属相中，在 B 子格子中的电子将等价于处在强巡游背景下的磁性杂质。随相互作用的增强，系统将经历一个从顺磁相到亚铁磁相的相变。在亚铁磁绝缘体相中，三角 kagome 格子的两种子格子上的自旋是反平行排列的。由于两种子格子数量不等，将出现净磁矩。获得了三角 kagome 格子随相互作用、温度、非均匀性变化的详细相图，以及在不同条件下的谱函数。这项工作扩展了对几何阻挫系统中量子相变的研究，对在光晶格中寻找这些新的量子相的研究有推动作用。我们发展第一性原理计算了Chern数、Berry位相等，研究了超导拓扑绝缘体、黑磷、硅掺杂等材料的拓扑量子相变。