Ja spróbowałem zaś wyliczyć C'x i C'y z Pitagorasa i proporcji. I wyszło mi to:
(|AB|^2 + |AC|^2 - |BC|^2) * (Bx - Ax)
C'x = ---------------------------------------- + Ax
2|AB|^2
(|AB|^2 + |AC|^2 - |BC|^2) * (By - Ay)
C'y = ---------------------------------------- + Ay
2|AB|^2
gdzie A, B - wierzchołki prostej, C - punkt wejściowy, C' - punkt wyjściowy. Oczywiście:
A = (Ax, Ay)
B = (Bx, By)
C = (Cx, Cy)
C' = (C'x, C'y)
Kwadrat odległości między punktami M i N w układzie współrzędnych:
|MN|^2 = (Mx - Nx)^2 + (My - Ny)^2
Jak chcesz, możesz wyprowadzić te wzory. U mnie zadziałały jak powinny.