Как отлаживать шейдер если нет чуда под названием print? Вы меняете какие-то там коэффициенты в формулах, что-то там в промежуточных расчетах, а что получается на самом деле не видно. Или видно? Самое простое решение — это показать искомые значения на части экрана, но не цифрами, а цветом. Например, на видео тестирую эффект Depth of Field. В правой части экрана выводится карта глубины построенной сцены.