Нашел только одно решение - снизить частоту ГПУ

Нашел только одно решение - снизить частоту ГПУ до 550Мгц, соответственно 1100Мгц у шейдерного блока. В этом случае работает стабильно. Еще поищу варианты конечно, но, думаю, что именно с этой картой, только это решение.