아 저것만이 문제가 아니였군요..
지금 보면 Hex뭐시기 함수에서 strlen 함수를 쓰고있습니다.
그런데 0x로 시작하지 않는 문자에 대해선
for(i=0;i<MAXLINE; i++)
ns[count][i] = -1;
이러고있고요..
strlen은 배열에서 0이 나오는 곳의 위치를 알려주는 함수입니다. 저렇게 MAXLINE까지 -1을 꽉꽉 채워주면 strlen이 무슨 값을 return할지는 미지수입니다. 덕분에 runtime error가 발생하는군요