Question

家に帰ります能不能说成是 家を帰ります

Answer 1

不能。
这里只能用に和へ这两个来表示方位移动的词。
を的话多用于在某地方发生动作，看下面几个句型感受下：
舞台を踊る
鸟は空を飞ぶ
森をぬける

Answer 2

帰る是自动词，不能有宾语，也就不能用を了，另外家に帰る或家へ帰る是固定搭配。