Eu tenho um projeto que acabei pausando, para rodar AI local usando CPU ao inves de GPU, deixei documentado alguns dos meus avancos aqui, se quiser dar uma olhada, talvez pode ser util https://github.com/maiconburn/sparsity-probe