Pouvons-nous former un modèle avec une torche sur des machines avec GPU et utiliser ce modèle sur une machine avec CPU seulement?

Question

J'utilise le backend torche avec cuda pour former un modèle sur des machines avec GPU. Après la construction du modèle, puis-je utiliser ce mode pour faire des inférences sur machine avec CPU seulement?

Answer 1

Oui, vous pouvez, avant d'enregistrer votre modèle, pensez à exécuter model:double() convertir votre poids modèle de tenseur Cuda au tenseur Double

require 'cutorch'; 
require 'cunn'; 
require 'nn'; 
model = nn.Sequential() 
model:add(nn.Linear(10, 20)) 


print(model:parameters()) 
model:cuda(); 
print(model:parameters()) 
model:double(); 
print(model:parameters())