Er zijn twee standaardaanpakken waaruit je kunt kiezen. Methode 1: stel een vergelijking op van het vlak dat loodrecht staat op lijn n en dús ook op lijn AB. Bepaal de snijpunten van beide lijnen met dit vlak. De afstand tussen die twee snijpunten is de gevraagde afstand. Methode 2: stel van lijn AB een vectorvoorstelling op en neem daarin een andere parameter dan de l, want die zit al in lijn n. Laten we kiezen voor de letter m. Kies nu een willekeurig punt op lijn AB en een willekeurig punt op lijn n. In het ene punt zit dus de m en in het andere punt de l zoals je zelf hebt opgeschreven. Nu moet de verbindingsvector van die twee punten loodrecht komen te staan op lijn AB en dus ook op n. Dat doe je door het inwendig product nul te stellen. Daarmee vind je de parameterwaarden, dus de punten, dus de afstand.
Je laatste opmerking "hier gaat iets mis" is wel terecht. Bedenk dat in de driedimensionale ruimte een lijn geen vergelijking kent; slechts een vectorvoorstelling is mogelijk. Jouw 3x1 - 2x2 - 3x3 = -1 is niet een rechte lijn maar een plat vlak.