Latency aware deployment in the edge-cloud environment

Abstract

Cíl této práce je navrhnout vrstvu pro edge-cloud, s cílem poskytnout soft real-time záruky na dobu běhu aplikací. Účelem je uspokojit soft real-time požadavky vývojářů aplikací, které jsou senzitivních na latenci. Navržená vrstva používá prediktor doby běhu aplikací, pomocí kterého hledá kombinace procesů, které kolokovány splňují dané soft real-time požadavky. Pro implementaci prediktoru máme přístup k informacím o procesech, které zahrnují metriky vytížení zdrojů počítače a dobu běhu, když jsou kolokovány s jinými procesy. Využíváme podobnosti procesů, klastrové analýzy a regresní analýzy pro formulaci čtyř predičkních metod. Také poskytujeme systém pro ohraničení využití zdrojů, který filtruje kombinace procesů, které přesahují kapacitu počítače. Jelikož měřené metriky, které indikují využití zdrojů procesu se mohou lišit v užitečnosti, poskytujeme také systém vah, který určuje význam jednotlivých metrik. Experimentálně ověřujeme přesnost predikčních metod, vliv systému pro ohraničení využití zdrojů a vliv vah.

The goal of this thesis is to propose a layer on top of edge-cloud, in order to provide soft real-time guarantees on the execution time of applications. This is done in order to satisfy the soft-real time requirements set by the developers of latency-sensitive applications. The proposed layer uses a predictor of execution time, in order to find combinations of processes with, which satisfy the soft real- time requirements when collocated. To implement the predictor, we are provided with information about the resource usage of processes and execution times of collocated combinations. We utilize similarity between the processes, cluster analysis, and regression analysis to form four prediction methods. We also provide a boundary system of resource usage used to filter out combinations exceeding the capacity of a computer. Because the metrics indicating the resource usage of a process can vary in their usefulness, we also added a system of weights, which estimates the importance of each metric. We experimentally analyze the accuracy of each prediction method, the influence of the boundary detection system, and the effects of weights. 1