本发明提供一种基于梯度向量的H.264帧内模式选择方法，包括下列步骤：1)计算每个子块横轴、纵轴以及两个对角线的梯度值；2)对各子块的方向梯度值进行向量合成，得出梯度向量；3)根据梯度向量计算得到4×4候选预测模式，进而得出最佳4×4预测模式；4)根据各子块最佳4×4预测模式得出16×16候选模式；5)计算出16×16最佳预测模式，和最佳4×4预测模式对比率失真代价，从而得到最佳帧内预测模式，本发明在对编码信噪比影响较小的情况下简化了帧内模式选择算法，加快了编码速度。