Eu tentaria nem que fosse com uma placa de vídeo usada (serie 8 ou 9), emprestada, enfim, não sei se você tem isso à mão, esse teste seria para desencargo de consciência mesmo (eliminar o que não é), porque os sintomas são de falta de processamento, placa de vídeo com problemas ou driver de vídeo incompatível, mas com o computador que você utiliza, não era para estar acontecendo o que você relatou, isso é o mais estranho, mas enfim, vale a pena tentar testar com outra placa de vídeo, se puder, faça.
Abs.