Como alterar a cor da setinha da barra de rolagem do meu site?

Você deverá utilizar o CSS para modificar as características da barra de rolagem.
Neste caso, é necessário fazer o uso da propriedade scrollbar-arrow-color, e indicar o código hexadecimal da cor que você gostaria que ela fosse.

Por exemplo, para deixar com que a barra de rolagem de seu site fique com a setinha na cor vermelha, utilize o código da seguinte forma:

body {
scrollbar-arrow-color: #FF0000;
}

Além desta propriedade, há outras usadas para estilizar as demais partes da barra de rolagem.

São elas:

scrollbar-face-color - Cor da face da barra de rolagem
scrollbar-3d-light-color - Cor do plano de fundo da barra
scrollbar-arrow-color - Cor da seta da barra
scrollbar-base-color - Cor do plano de fundo da barra durante a rolagem
scrollbar-dark-shadow-color - Cor do contorno esquerdo da barra
scrollbar-face-color - Cor da barra contornada
scrollbar-highlight-color - Cor do contorno interno da barra
scrollbar-shadow-color - Cor do contorno direito da barra