1) Может быть проблема с драйвером, т.к. видеокарта старая - на тестирование драйверов под старые карты практически не уделяют никакого времени. Можно решить установкой старого драйвера - последний рекомендуемый на сайте 391.35, или даже старее.
2) Может быть деградация GPU из-за постоянных локальных перегревов - графический процессор GTX 560 накрыт теплораспределительной крышкой, которая контактирует с чипом через пластичный термоинтерфейс (термопасту). Так вот со временем эта термопаста высыхает и теряет свои эксплуатационные свойства. Чип перегревается. Решить такое можно только сдав карту в ремонт: снять крышку, заменить термопасту, после этого можно еще ограничить частоты/напряжение на чипе (либо наоборот увеличить напряжение, если чип на родном нестабильно работает), чтобы наверняка исключить перегревы. Примерно так:
Я бы лично не стала тратить деньги на такое старье. В сервисе вполне могут 1000--2000 рублей затребовать, а то и больше, если на разводил попадёшься. Самостоятельно же снять крышку без всяких преднагревателей и термофенов сложно (да и с ним не просто) - есть неиллюзорный риск угробить карту совсем.
3) Может быть отвал чипа (разрушение контактов между чипом и подложкой/платой), опять же из-за засохшей термпопасты и постоянных циклов нагрева-остывания. Чинить такое на старой видекарте тоже смысла немного - лишь отсрочка до окончательной кончины видеокарты (карта оживёт в лучшем случае на полгода) и деньги в мусорное ведро.
4) Может быть отвал или деградация чипов памяти - примерно аналогично тому, что в пункте 2 и 3.
Я ставлю на отвал чипа.