随着信息化发展信息化发展的发展，PDF文档以其良好的特性，已成为数据交换文件格式数据交换 文件格式流行的文档载体，并经常用于APT攻击。现有的恶意PDF文档检测方法往往使用平衡样本数据集进行评估，但真实环境中的恶意文档数量远远少于良性文档。因此，在样本分类不平衡的情况下中，提出了一种基于KM-tbsmote双向抽样方法的恶意PDF文档检测方法。在BSMOTE算法的基础上，利用生成的过渡样本合成新样本，并给出tbsmote算法来提高负样本的比例。采用k-means算法对良性PDF文档样本进行欠采样，结合tbsmote算法使样本分类达到平衡状态。最后，采用随机森林方法进行恶意检测。实验表明，该方法对不平衡PDF样本集具有良好的检测效果。综合评价指标F1为98.98%，召回率为98.91%，误检率为0.026%。与传统的BSMOTE过采样方法相比，评价指标F1提高了1.39%，召回率提高了1.96%，误检率降低了0.048%。基于KM-tbsmote双向抽样的恶意PDF文档检测方法可以有效解决样本分类不平衡对分类模型的影响，提高检测效果。它适用于现实环境中的PDF文档恶意检测。