같은 코드를 각각 다른 gpu에 할당하면 기울기 값에 영향이 있나요?

titan이 있는 서버와 3090이 있는 서버 각각에 같은 코드를 넣고 실행시켜보았더니
기울기에서만 값이 다른 것을 확인하였는데 gpu가 달라지면 파이토치를 이용하여 기울기를 구할때 연산과정이 달라지나요?

같은 데이터셋, 배치 크기로 모델 내의 가중치들이 동일하게 초기화되었다면 재현이 되어야 할 것 같은데요,
혹시 random seed 등도 동일하게 주셨을까요?