Вектор а(3; 4; 8) вектор b(-1; 6; 0) найти вектор а• на вектор b

Если подразумевается скалярное произведение векторов, то
(a,b)=x1•x2+y1•y2+z1*z2 или в нашем случае (a,b)=-3+24+0 = 21.
Если подразумевается ВЕКТОРНОЕ произведение векторов, то это совсем другая история...
В нашем случае получится вектор с, "длина которого численно равна площади параллелограмма построенного на векторах a и b, перпендикулярный к плоскости этих векторов и направленный так, чтоб наименьшее вращение от a к b вокруг вектора c осуществлялось против часовой стрелки, если смотреть с конца вектора c" (цитата).
В нашем случае вектор с= a×b = {aybz-azby; azbx-axbz; axby-aybx} или
{(0-48);(-8-0);(18+4)} или с{-48;-8;22}