随着网络攻击手段的不断演进，传统的域名系统安全扩展(domain name system security extensions, DNSSEC)在防御复杂网络欺骗攻击方面逐渐暴露出局限性。为了提高DNSSEC防御效果，本文首先分析了多种常见的网络欺骗攻击类型，并讨论了现有DNSSEC防御机制的优势与不足。其次，提出了结合行为分析的DNSSEC防御优化策略。最后，采用离散事件网络仿真平台(objective modular network testbed in C++,OMNeT++)设置了典型的域名系统(domain name system, DNS)网络环境，通过模拟DNS欺骗攻击、分布式拒绝服务(distributed denial of service, DDoS)攻击等多种场景，验证了优化方法的有效性。实验结果表明：相比传统DNSSEC防御机制，本方法能够显著降低漏报率和误报率，提高了DNSSEC防御机制在复杂攻击场景下的检测准确性和响应能力。