Sigo sin entender...
A) Estas usando una fuente lineal que es un engendro por que tiene un 317 en configuración "normal" puesto en paralelo esquema con otro que usa un pre-regulador. Para que hacés taaanto lío si es una fuente lineal convencional?? Y si usás preregulador se lo tendrás que conectar a ambos 317 en paralelo! No como lo has conectado. Y si no te alcanza la corriente le pondrás un transistor de paso y listo. Eso ya se ha tratado infinidad de veces en el foro.
B) "Salto de voltaje" (sea lo que eso sea) no hay ninguno! Solo hay una respuesta oscilatoria amortiguada cuando lo excitás con un escalón de tensión...si es que eso es lo que en realidad ocurre, que no lo sabemos por que no tenés un osciloscopio para ver la realidad, por que tu modelo de Matlab no tiene un pomo que ver con el modelo del circuito de excitación, y por que el escalón no tiene una pendiente de subida infinita como estás suponiendo sino que está limitada por las constantes de tiempo del circuito regulador...que además ya dijimos que no estaba bien.
Yo usaría un simulador electrónico (LTSpice o Simetrix) para simular ese esquema junto al motor y ahí vería algo mas cercano a la realidad de lo que ocurre. Todo lo demás es un ejercicio académico sin valor real...
Lamentablemente los laboratorios virtuales simulan un entorno ideal y no va a poder reproducirlo. Lo bueno es que ya le diste el 80% de la solución mencionándole el problema...
Toroide, varias espiras y un diodo solucionan las cosas

...
Ivan, esto es exactamente lo que le pasa al LM317 cuando le pones como carga tu motorcito:
Se vuelve loco como yo cuando me falta la harina, intentando regular; O sea, El motor cambia su consumo de corriente a cada milisegundo y genera interferencias. El LM317 se confunde como Adan en el día de la madre, pierde el control del voltaje y la salida se vuelve muy inestable.
Sumale a los picos de voltaje diminutos pero muy rápidos que viajan hacia atrás por el cable, etc etc...
Por que mi capricho del inductor? Sin el inductor que frene éstos picos, cachetean directamente al LM317, y hasta podés chamusquearlo por que recibe un "gancho al hígado" al arrancar el motor. Justo en ese momento, éste pide tanta energía de golpe que el LM317 entra en pánico como yo cuando mi señora me pide la tarjeta. Internamente su protección interna contra sobrecorriente se activa para no quemarse, lo que hace que el motor no tenga fuerza para arrancar bien o que el regulador se caliente en exceso al instante. Lo peor de todo es que cuando sale del cacheteo, intenta nuevamente entregar su tensión configurada y nuevamente vuelve a pasar lo mismo.. tipo masoquista... Entonces, para que ese flagelo no sea tan drástico, el inductor suaviza la corriente y absorbe esos saltos bruscos de energía suavizando el tirón del arranque... Mencioné el diodo por otro capricho mas... tené en cuenta que el motor y el inductor, cuando se desenergizan, tienden a tener un pico de reversa que es como una patada de la tortuga Ninja por la espalda. Toda esa energía acumulada se te viene al revés con un voltaje altísimo y te finiquita el LM317 en un abrir y cerrar de ojos.