本发明提供了一种基于迭代滤波的星惯安装误差标定方法及系统，针对惯导与星敏感器之间的安装误差影响星敏测姿精度的问题，通过星敏感器本体坐标系下的星矢量、惯性坐标系下的星历星矢量和惯性信息构建迭代扩展卡尔曼滤波的状态空间模型与量测模型，推导计算得到量测雅可比矩阵，将量测雅可比矩阵代入迭代扩展卡尔曼滤波的量测模型中迭代估计星惯安装误差，即惯性天文组合导航系统的安装误差，实现了标定惯性天文组合导航系统的安装误差的功能。本发明消除了惯性导航系统和星敏感器之间的安装误差对星敏测姿的影响，适用于组合导航的应用场合，适应性好、精度高。