@taufyn, По пункту А — сначала приводишь матрицу к треугольной, потом подставляешь. Способ даёт формально точные ответы (+/- погрешность округления * кол-во операций), но очень медленный. Для матриц 4*4 сойдёт.
@Equidamoid, При приведении можно строчки умножать на константу и прибавлять другие строчки (тоже умноженые на константу), этих операций хватит, чтобы в какой-то одной строке избавиться от всех переменных, кроме одной