Speculative execution of instructions with imprecisely predicted operands

[У. Раденковић]

111 str.

Електротехника и рачунарство - Рачунарска техника и информатика / Electrical Engineering and Computing - Computer Engineering and Informatics

Спекулативно извршавање је техника на нивоу хардвера коју процесори користе како би побољшали време извршавања. Ова техника представља извршавање неког посла унапред не знајући да ли је заиста потребно извршити га. Механизам предвиђања вредности је техника спекулативног извршавања инструкција која омогућава да се реши проблем зависности по подацима, где нека (зависна) инструкција не може да настави извршавање зато што мора да сачека резултат друге инструкције која још увек није завршена. У таквој ситуацији, вредност која недостаје инструкцији може се предвидети и инструкција може наставити да се извршава спекулативно. Предмет истраживања ове дисертације је спекулативно извршавање одређених типова инструкција са непрецизно предвиђеним операндима. За разлику од коришћења предиктора вредности за предвиђање резултата инструкције, у склопу дисертације разматра се предвиђање операнада. Након тога се израчунава резултат инструкције на основу предвиђеног операнда и познатог операнда чија је вредност одмах доступна процесору (вредност регистра или непосредна вредност). Операнди који се предвиђају јесу они који нису одмах доступни процесору, а то су операнди који потичу из меморије. Циљ истраживања јесте приказивање феномена да је могуће доћи до тачног резултата одређених инструкција и у ситуацијама са непрецизно предвиђеним операндима чиме се избегава трошење процесорског времена на опоравак од промашаја. У сврху тога развијена су два аналитичка модела спекулативног извршавања инструкција са предвиђањем вредности операнада. Први модел представља извршавање само са тачно предвиђеним операндима и у случају непрецизно предвиђеног операнда, опоравак од промашаја је обавезан. Други модел дозвољава да се извршавање настави иако је операнд непрецизно предвиђен уколико је резултат инструкције исправан, чиме се избегава опоравак од промашаја. За потребе евалуације предложених модела развијен је симулатор VPSim који извршава инструкције са предвиђањем вредности операнада. Такође, надограђен је симуалтор Gem5 за генерисања трагова извршавања тестова SPEC и EEMBC који су улаз симулатора VPSim. На основу резултата симулација описани су услови под којима други модел постиже боље време извршавања од првог. Такође, резултати симулација су показали да је прецизност тачног резултата инструкције на основу предвиђеног операнда већа од прецизности тачног предвиђеног операнда између 0,8% до 44% у зависности од предиктора.

Speculative execution is a hardware-level technique that processors use to improve execution time. This technique represents doing some work in advance without knowing if it really needs to be done. The value prediction mechanism is a speculative instructions execution technique that allows for solving data dependency problems, where some (dependent) instruction cannot continue execution because it has to wait for the result of another instruction that has not yet been completed. In such a situation, the value missing from the instruction can be predicted, and the instruction can continue to execute speculatively. This dissertation's research subject is the speculative execution of certain types of instructions with imprecisely predicted operands. In contrast to using value predictors to predict the result of an instruction, the dissertation considers predicting operands. After that, the result of the instruction is calculated based on the predicted operand and a known operand whose value is immediately available to the processor (register value or immediate value). Predicted operands are those that are not immediately available to the processor, i.e. operands that originate from memory. The goal of the research is to show the phenomenon that it is possible to get the correct result of certain types of instructions even in situations with imprecisely predicted operands, which avoids spending processor time on misprediction recovery. For this purpose, two analytical models of speculative instruction execution with operand value prediction were developed. The first model represents execution only with exactly predicted operands and in the case of an imprecisely predicted operand, recovery from a misprediction is mandatory. The second model allows execution to continue even if the operand is imprecisely predicted if the result of the instruction is true, thus avoiding misprediction recovery. For the purposes of evaluating the proposed models, a VPSim simulator was developed that executes instructions with the prediction of operand values. Also, the Gem5 simulator has been upgraded to generate execution traces of SPEC and EEMBC tests that represent inputs of the VPSim simulator. Based on the results of the simulations, the conditions under which the second model achieves a better execution time than the first are described. Also, the simulation results showed that the precision of the correct result of the instruction based on the predicted operand is higher than the precision of the correctly predicted operand, between 0.8% and 44%, depending on the predictor.

предвиђање вредности, спекулативно извршавање, архитектура рачунара, анализа перформанси

value prediction, speculative execution, computer architecture, performance evaluation

004.2(043.3)

Tekst