В чем именно вопрос? Вы не уверены, что 1060 лучше 760, что 1060 это лучший выбор за эти деньги, что она совместима с данной материнкой? Насчет первого и последнего - не нужно волноваться. Нужны ли 16гб оперативки решать тоже вам. Можно, кстати, сэкономить и просто докупить две планки по 4гб. Мать как я понимаю позволяет.
Блок питания встроен в корпус? Это не очень хорошо, хотя 500вт хватит для данного конфига. Вот калькулятор http://www.enermax.outervision.com (если что, сокет проца - lga1155).
Если меняете только рам и видеокарту (без разгона) то дополнительного охлаждения не нужно.
Если выбор между 3 и 6 гиговых версиях - зависит от разницы в цене в данном конкретном магазине. Можно еще глянуть тесты на ютубе. Если выбор между производителями - все, что могу посоветовать - почитать отзывы. Опять же, без разгона, не думаю, что будет какая-то существенная разница и можно взять ту, что дешевле.
P.S. Подумайте еще насчет последнего rx'a. Но это так...