İşbirlikçi zeka yaklaşımıyla çok görevli öğrenmede dinamik bölme noktası hesaplama

Abstract

Derin Sinir Ağları'nın (DNN'ler) Nesnelerin İnterneti (IoT) ortamlarında, özellikle çoklu görevli robotik ve sürü sistemleri için dağıtımında donanım sınırlamaları, bant genişliği kısıtlamaları, iletim gecikmeleri ve görüntü paketi kaybı olmak üzere çeşitli zorlukları bulunmaktadır. Bu tez çalışmasında, İşbirlikçi Zeka (CI) paradigması altında Çoklu Görev Öğrenme (MTL) tabanlı hesaplama görevlerini uç cihazlar ve bulut arasında dinamik olarak dağıtan bir DSPCI-MTL çerçevesi önerilmektedir. Önerilen çerçeve, gerçek zamanlı bant genişliği ve veri hacmi temelinde DNN katmanları için bölme noktalarını segmentasyon, sınıflandırma, derinlik tahmini görevleri için optimize ederken özellik haritası benzerliği yoluyla kayıp görüntü paketlerini yeniden oluşturmak için bir Otomatik Kodlayıcı (AE) mimarisini entegre etmektedir. Deneysel sonuçlar, geleneksel bulut tabanlı yöntemlere kıyasla işleme süresinde %38'lik bir azalma ve dinamik bölme noktası seçimiyle %61'lik bir kazanç olduğunu göstermektedir. AE tabanlı yeniden yapılandırma yöntemi, karmaşık ve uzun mesafeden çekilen görüntüleri iletim senaryolarında veri bütünlüğünü önemli ölçüde iyileştirerek kaynak kısıtlı IoT uygulamaları için gelişmiş sistem performansı sunmaktadır. Ek olarak, kaynak sınırlı IoT cihazlarında DNN'leri dağıtmak için hesaplama yükü ve bant genişliği verimliliğinin dengelenmesini gerektirmektedir. Bu sebeple, Gri Kurt Optimizasyonu (GWO), Parçacık Sürüsü Optimizasyonu (PSO), Yapay Arı Kolonisi (ABC) ve Yapay Tavşan Optimizasyonu'ndan (ARO) yararlanarak uç ve bulut arasındaki optimum DNN bölme noktalarını uyarlamalı bir şekilde belirlemek için Meta-Sezgisel Algoritmalarla Dinamik Bölme Noktası Belirlenmesi amacıyla DSPCI-MH tanıtılmaktadır. Statik yaklaşımların aksine, DSPCI-MH ağ koşullarına ve hesaplama taleplerine dinamik olarak uyum sağlayarak geleneksel yöntemlere kıyasla %99,86 daha hızlı çıkarım, %99,85 daha düşük enerji tüketimi ve %99,98 iyileştirilmiş bellek kullanımı elde etmektedir. Çerçevenin gerçek zamanlı uyarlanabilirliği, dağıtılmış DNN çıkarımı için ölçeklenebilir bir çözüm oluşturarak yapay zeka odaklı IoT sistemlerindeki kritik zorlukları ele almaktadır. Sonuçlar, metasezgisel optimizasyonu dinamik ortamlarda uç-bulut iş birliğini geliştirmek için dönüştürücü bir strateji olarak doğrulamaktadır.

Deep Neural Networks (DNNs) face several challenges in deployment within Internet of Things (IoT) environments, particularly for multi-task robotic and swarm systems. These challenges include hardware limitations, bandwidth constraints, transmission delays, and image packet loss. This thesis proposes a DSPCI-MTL framework under the Collaborative Intelligence (CI) paradigm, which dynamically distributes Multi-Task Learning (MTL)-based computational tasks between edge devices and the cloud. The proposed framework optimizes partitioning points for DNN layers based on real-time bandwidth and data volume while integrating an Autoencoder (AE) architecture to reconstruct lost image packets through feature map similarity for segmentation, classification, and depth estimation tasks. Experimental results demonstrate a 38% reduction in processing time and a 61% improvement in dynamic partition point selection compared to traditional cloud-based methods. The AE-based reconstruction method significantly enhances data integrity in transmission scenarios involving complex and long-range images, providing improved system performance for resource-constrained IoT applications. Additionally, deploying DNNs on resource-limited IoT devices requires balancing computational load and bandwidth efficiency. To achieve Dynamic Partition Point Determination with Metaheuristic Algorithms, the DSPCI-MH approach is introduced. This method adaptively determines optimal DNN partition points between the edge and the cloud by leveraging Grey Wolf Optimization (GWO), Particle Swarm Optimization (PSO), Artificial Bee Colony (ABC), and Artificial Rabbit Optimization (ARO). Unlike static approaches, DSPCI-MH dynamically adapts to network conditions and computational demands, achieving 99.86% faster inference, 99.85% lower energy consumption, and 99.98% improved memory utilization compared to conventional methods. The real-time adaptability of this framework provides a scalable solution for distributed DNN inference, addressing critical challenges in AI-driven IoT systems. The results validate metaheuristic optimization as a transformative strategy for enhancing edge-cloud collaboration in dynamic environments.