계림은 경주 김씨의 시조인 김알지가 태어난 곳이라는 전설을 간직한 숲이다. 원래 신라를 건국할 때부터 있던 숲으로, 시림(始林)이라고 하던 것을 알지가 태어난 뒤로 계림(雞林)이라 하였다.

탈해왕 4년(60)에 왕이 금성 서쪽 시림 숲 사이에서 닭 우는 소리가 들리고 온통 환한 빛으로 가득하여, 날이 밝은 후 신하를 보내어 살피도록 하였다. 신하가 시림에 이르러 보니 금으로 된 조그만 궤짝이 나뭇가지에 걸려있고 흰 닭이 그 아래에 울고 있어 돌아와 고하니, 왕이 즉시 시림으로 가서 궤짝을 열어 보았다. 그 속에는 총명하게 생긴 사내아이가 있었고, 왕은 하늘에서 보낸 아이라 하여 태자로 삼았다. 아기라는 뜻의 '알지'라는 이름을 주고 금궤에서 나왔으므로 성을 김씨라 하였다.

왕은 알지를 태자로 삼았으나 후에 알지는 파사에게 왕위를 양보하였다. 그 후 알지의 7대 후손이 왕위에 올랐는데, 그가 미추왕이다. 이후 내물왕부터 신라가 망할 때까지 김알지의 후손이 나라를 다스리게 되었으며, 계림은 신성한 곳으로 지금까지 전해오고 있다. 이곳에는 조선 순조 3년(1803)에 세운 김알지 탄생에 대한 비(碑)가 남아있다.