O limite aqui é VRAM, não fabricante. Um modelo de 35B não cabe em 8GB de forma alguma, seja NVIDIA ou AMD — a conta de memória não fecha em nenhum dos dois casos.
Sobre CUDA vs ROCm: uso a mesma RX 7600 8GB no Linux e rodo modelos locais sem problema. O suporte da AMD melhorou bastante e hoje é bem viável pra inferência.