Uma Nova Técnica de Aprendizado para Otimizar o Desempenho de Caches de Instruções

A velocidade do processador sempre superou a da memória. Essa diferença de velocidade (denominada memory-gap problem) tem crescido paulatinamente, resultando em sistemas desbalanceados. Vários trabalhos, abrangendo o hardware e o software, têm sido desenvolvidos para abrandar os efeitos negativos provocados por esta diferença de velocidade. Vários níveis na hierarquia de memória, busca antecipada de instruções e dados (instruction and data prefetch) e trace cache são clássicos exemplos de mecanismos que foram incorporados no hardware para reduzir as penalidades impostas pelo memory-gap problem. Quanto ao software, somente na última década (1990) é que apareceram iniciativas para atacar o problema e o trabalho de Pettis & Hansen é pioneiro: instrumentando o programa de aplicação, os autores determinam os trechos freqüentemente executados. Em seguida, os trechos do programa são reorganizados segundo as freqüências obtidas e dessa forma, falhas na memória cache e tempo de execução do programa reorganizado é menor que o original. Neste trabalho introduzimos a primeira abordagem probabilística ao problema. Através do uso de uma rede Bayesiana que modela a história de todas as entradas sobre as quais o programa já foi executado, criamos um modelo dinâmico que provê uma nova ordenação de blocos básicos para cada nova entrada. A nova técnica baseia-se no tempo de execução do programa sobre as diversas entradas, e por isso não depende diretamente dos muitos parâmetros arquiteturais. Resultados experimentais sobre o SPEC2000 revelam ganhos de até 15% sobre outras técnicas, incluindo a de Pettis e Hansen e também a otimização O3 do gcc.