So wie du es beschreibst sieht es so aus als hättest du die Pin verdreht.
Der LM317 hat eine andere Belegung als ein 78xx.