Ya modifique el circuito en la parte de arriba es el primer diagrama aunque sigo igual cambie el potenciometro por una de 5kohm (r2) y r1 por una de 220 para que mi voltaje de salida sea de 1.2volts a 29.6 volts
sin aplicarle alguna carga
con el voltaje minimo mis datos son estos:
Vin= 36.7 volts
vadj= 0 volts
vout= 1.2 volts
y con el maximo voltaje mis datos son estos:
Vin= 36.7 volts
vadj= 28.3 volts
vout= 29.6 volts
este es el datasheep que estoy manejando
Ver el archivo adjunto 97958
y observo que cuando aplico la carga vin= 27.7 y comienza a disminuir conforme empiezo a subir el voltaje ¿a que creen que se deba esto?
Buenas noches.
Los datos que das son correctos, están dentro de lo esperado

Pero

Cuando dices...
y observo que cuando aplico la carga ...
¿Con cuántos ohmios cargas la Fuente?, lee mi Post anterior.
Vamos por partes
El Transformador ¿De qué potencia es?
Que tipo de Rectificación has empleado?... media onda, onda completa ¿ ?
El Condensador de filtrado ¿De cuántos µFaradios es?
Es de suponer que el LM338 está correctamente refrigerado (montado en un generoso Disipador ¿No?
El hecho de que la tensión Vin, en vacio, sea de 36.7Vcc y caiga a 27.7Vcc indica que estás cargando mucho (Resistencia muy baja), que el transformador no es de suficiente potencia o que el Condensador de Filtro no tiene la suficiente capacidad. Necesitarás un mínimo de 4700µF.
Para asegurarte que todo funciona correctamente haz lo siguiente...
No pongas ninguna Resistencia en la salida.
En estas condiciones comprueba que la Fuente regula en todo el margen esperado (de 1.2 a 29.6Vcc).
Ahora ajusta R3 para obtener una tensión de. p.e. 10Vcc, en estas condiciones carga la Fuente con 10Ω (dos Resistencias de 5Ω en serie), el cosumo tendrá que ser de 1Amp y la tensión de salida mantenerse en 10Vcc.
Sube la tensión a 25Vcc, el consumo será de 2,5Amp, la mitad del rango de intensidad máxima.
Midiendo en la salida conecta y desconecta la carga de 10Ω, la tensión de salida tendrá que mantenerse en los 25Vcc, puede variar algunos mV.
Ves añadiendo más resistencias, controlando en todo momento que no sobrepases los 5Amp. (Recuerda I=V/R)
Si no obtienes los resultados esperados será señal de que algo no está bien.
Ánimo que esto tiene que funcionar, es tan simple como el mecanismo del chupete
Sal U2