星敏感器是目前精度最高的姿态测量仪器,光学系统是其重要的组成部分。首先介绍星敏感器的工作原理,讨论星图识别过程中星像位置提取算法和星图识别算法,剖析光学系统的像差校正、成像特性要求。基于特殊的像质要求,兼顾优化速度,提出运用ZEMAX扩展外部编程以约束光线的优化设计方案。通过编写外部约束条件程序,使用动态数据交换技术实现外部程序和ZEMAX软件的通信,达到星敏感器光学系统的优化设计的目的。然后针对设计指标焦距f=43.56mm,入瞳直径D=27.3mm,全视场角为20°的APS星敏感器光学系统,采用该方案优化设计。得到的星敏感器光学系统,所有光学面都是球面,材料选用普通玻璃,具有像方远心的特点,系统成像质量满足星图识别要求。仿真表明：运用ZEMAX扩展外部编程优化设计星敏感器光学系统的方案快速有效。