임진왜란 때 의병장으로 활약한 김천일 선생의 충절을 기리기 위해 세운 비이다. 김천일은 이항 선생 아래에서 학문을 배웠으며, 22세 때 학문이 뛰어나 벼슬길에 오른 후 여러 관직을 두루 거쳤다.
김천일은 임진왜란 때 나주에 있다가 고경명, 박광옥, 최경희 등과 함께 의병을 일으켰고, 왜적이 남쪽으로 물러나기 시작하자 적을 따라가 진주성에서 치열한 싸움을 벌였으나 성이 함락당하여 아들 상건과 함께 스스로 목숨을 끊었다. 정렬사비는 거북받침돌 위에 비 몸을 세우고 네모난 형태의 머릿돌을 올린 모습이다.
머릿돌에는 용을 생동감 있게 조각해 놓았고, 비문에는 김천일의 의병활동을 자세히 적고 있다. 김천일이 죽은 지 34년 뒤인 인조 4년 이곳 유림들이 김천일을 모시는 사당인 정열사에 이 비를 세웠다. 비문은 장유가 글을 짓고, 이숙이 글씨를 썼으며, 앞면에 새긴 비의 명칭은 김상용의 글씨이다.