PE Dosyalarında Zararlı Yazılım Tespiti için Makine Öğrenmesi ve Derin Öğrenme Yöntemlerinin Karşılaştırmalı Analizi

Abstract

Zararlı yazılımlar (malware), Taşınabilir Çalıştırılabilir (PE) dosyalar üzerinden siber güvenliği ciddi şekilde tehdit etmektedir. Bu çalışmada, PE dosyalarından elde edilen statik analiz öznitelikleriyle zararlı yazılım tespiti için makine ögrenmesi ve derin öğrenme modellerinin performansları karşılaştırılmıştır. Toplam 62.485 örnek ve 15 öznitelikten oluşan veri seti üzerinde Random Forest, XGBoost, LightGBM ve CatBoost gibi ağaç tabanlı topluluk modelleri ile MLP, DNN ve 1D-CNN derin öğrenme mimarileri eğitilmiştir. Deneysel sonuçlar, düşük boyutlu tabular verilerde topluluk algoritmalarının derin öğrenme modellerinden daha üstün performans gösterdiğini kanıtlamıştır. Modeller arasında Random Forest, 99.65% dogruluk (accuracy) ve 99.59% F1-skoru ile en yüksek başarıyı elde etmiştir. Bu akademik çalışma, zararlı yazılım tespitinde donanım maliyeti yüksek derin sinir ağları yerine, hafif ve performanslı ağaç tabanlı modellerin daha verimli bir çözüm sunduğunu göstermektedir.Malware severely threatens cybersecurity through Portable Executable (PE) files. In this study, the performances of machine learning and deep learning models for malware detection are compared using static analysis features extracted from PE files. Tree-based ensemble models like Random Forest, XGBoost, LightGBM, and CatBoost, along with MLP, DNN, and 1D-CNN deep learning architectures, were trained on a dataset comprising 62,485 samples and 15 features. Experimental results proved that ensemble algorithms outperform deep learning models on low-dimensional tabular data. Among the models, Random Forest achieved the highest success with 99.65% accuracy and a 99.59% F1-score. This academic study demonstrates that lightweight and high-performance tree-based models offer a more efficient solution for malware detection compared to computationally expensive deep neural networks.