太阳系外行星探测是当今天文学最前沿的研究课题之一，系外行星的形成和演化是该领域的最重要基本问题。目前已探测发现5000多颗系外行星，主要是由凌星法、视向速度法等间接方法发现的。这些间接探测方法适合发现轨道周期较短和大质量行星。直接成像技术则适合发现长周期的系外行星；更重要的是，能够直接探测来自行星的光信号，提供行星大气光谱、行星有效温度、半径、表面重力及质量等重要物理信息；通过观测原行星盘能够研究行星与行星盘间的相互作用，理解行星的形成机制。直接成像技术能够最终用于探测类太阳恒星宜居带内地球质量的行星大气，进而确认系外生命特征信号，是未来搜寻地球2.0的关键技术。

然而，无论从地面还是到空间对系外行星进行直接成像探测都具有极大的技术挑战。暗弱的行星与宿主恒星的光强差异巨大，行星将被淹没在极强的恒星光背景下而难以被成像。这需要引入高对比度星冕仪技术，解决来自望远镜孔径衍射产生的光子噪声以及因光学系统不理想表面引入的波前畸变而产生的散斑噪声。国内外天文学家先后针对未来空间成像探测类地行星和地基大口径望远镜开展系外行星成像探测，相继提出了不同工作原理的星冕仪和观测设备。

如何合理搭配不同的高对比度成像技术，满足地基与空间不同应用需求，实现最优的成像性能就变得十分关键。这不仅要求观测设备提供最佳的、近乎完美的成像性能，还需要引入图像后处理相关技术方法做进一步优化，以获取足够的行星信噪比，为开展行星物理属性反演工作，进而为获取其准确的物理参数提供支撑。

系外行星直接成像的最终目标是发现宜居的类地行星，对此，本文还基于深度学习算法探索了系外行星宜居性分类问题；并将该深度学习方法推广到了星系形态分类领域。本论文在系外行星及星系图像数据处理研究方面取得的成果如下： 

（1）开展了基于不同高对比度成像技术与数据优化算法的系外行星图像处理研究。针对不同性能的高对比度星冕仪和自适应光学（AO）系统，分析和比较了LOCI、PynPoint、O-IRS和G-RDI等高对比度图像处理方法。模拟仿真结果表明，G-RDI用于地基高对比度图像，相比其他3种方法，能够达到更高的成像对比度；在AO校正斯特列尔比达到0.8、星冕仪对比度达到10-6.5情况下，经过G-RDI处理后的图像对比度能够达到10-7。O-IRS用于空间高对比度图像，相比其他3种方法，能够将成像对比度提高近10倍；在斯特列尔比达到0.9999、星冕仪对比度接近10-10情况下，经过O-IRS处理后的图像达到了理论成像对比度的探测极限。该论文还对成像探测系外“冷”行星到空间的必要性进行了系统性的分析和研究，即受到地面大气扰动和AO校正能力和残差噪声的限制，对于成像对比度超过10-8的冷行星的探测需要到空间进行。 

（2）基于BP神经网络深度学习算法对系外行星宜居性分类开展了探索性研究，对行星质量、行星半径、轨道周期等特征参数相对完备的3000颗系外行星样本宜居性开展了分类研究。BP神经网络系外行星分类方法在宜居行星预测上表现出优异的预测效果，不论是采用100颗系外行星的小样本集还是3000颗系外行星的大样本集都能准确分类出符合NASA宜居标准的系外行星，为未来从新发现的系外行星中挑选出符合宜居标准的系外行星提供了一种新思路。 

（3）以Inception-v3神经网络为主干结构，融合SENet（Squeeze-Excitation Networks）搭建了SE-Inception-v3星系形态分类模型，对斯隆数字巡天（Sloan Digital Sky Survey, SDSS）星系数据进行了仿真验证。最终在测试集上的星系分类准确率高达99.37%，旋涡星系、圆形星系、中间星系、雪茄状星系与侧向星系5种星系分类F1值均在99.16%以上。该模型与Inception-v3、MobileNet、ResNet模型相比具有更快的收敛速度和更高的准确率。该模型较好地解决了星系形态分类研究中准确率低、泛化能力弱等问题，为未来从海量星系图像中对不同星系进行准确分类提供快速高效的模型参考。 

本文的章节安排如下：第一章阐述了用于开展系外行星和星系研究的目标及与科学意义，回顾了系外行星及星系的探测背景，详细介绍了系外行星探测方法与国内外地基与空间系外行星成像仪器，对宜居行星与星系形态分类进行了简要介绍。第二章系统介绍了系外行星高对比度直接成像涉及的概念、技术挑战及高对比度成像技术，包括自适应光学技术、高对比度星冕仪技术以及图像后处理技术等。第三章针对不同性能的高对比度星冕仪和自适应光学系统开展了基于LOCI、PynPoint、O-IRS和G-RDI高对比度图像处理算法的系统仿真模拟。第四章介绍了一种基于BP神经网络的系外行星宜居性分类方法。第五章介绍了一种以Inception-v3神经网络为主干结构，融合SENet的SE-Inception-v3星系形态分类模型。第六章总结了本文研究工作中的创新成果与不足之处，并展望了未来的工作方向。