Question

已知向量a=（0，1，1） 向量b=（1，0，1），求同时与向量a，向量b垂直的单位向量

Answer 1

不知道楼主有没有学过叉乘：
向量a×向量b=(1,1,-1)
∵为单位向量
∴为（√3/3，√3/3，-√3/3）或（-√3/3，-√3/3，√3/3）

Answer 2

向量的乘法有点乘（。）和叉乘（×），叉乘代表的含义是同时垂直于两个向量。如A=B×C，表示A既垂直于B有垂直于C，叉乘的解法可以用行列式的方法。
对于你的题目a×b同时垂直于a，b。所以a×b即为所求向量。
a×b=（1，1，-1），我是用线性代数的方法解的。注意a×b与b×a是不同的，其符号不一样。
再单位化得：根号3分之一倍的（1，1，-1）