Pochodził ze średniozamożnej rodziny szlacheckiej. Był synem Jana Długosza herbu Wieniawa, rycerza, który wsławił się w bitwie pod Grunwaldem. Dom rodzinny Długoszów znajdował się w Niedzielsku pod Wieluniem, ale rodzina przeprowadziła się do Brzeźnicy, gdyż ojciec Jana za zasługi w bitwie otrzymał starostwo brzeźnickie.
Jego matką była Beata, córka Marcina z Borowna.
Jan był czwartym z kolei dzieckiem, a po śmierci dwojga z trojga pierworodnych dzieci, rodzice postanowili wszystkich męskich potomków nazwać imieniem tego, który przeżył, czyli Jan.
Niektóre źródła podają, że tych synów o imieniu Jan było jedenastu, inne, że Janów było tylko czterech. Jan Długosz kronikarz, dla odróżnienia, w listach podpisywał się Jan Długosz Starszy.
Jednak ojciec nie mógł zapewnić im kariery wojskowej, dlatego położył nacisk na wykształcenie synów. Jan Długosz od najmłodszych lat wykazywał zainteresowanie nauką.
Edukację szkolną rozpoczął w wieku sześciu lat w szkole parafialnej w Nowym Korczynie, gdzie jego ojciec objął starostwo. Potem uczył się jeszcze w kilku innych szkołach.
Zbigniew Oleśnicki był znaną postacią, zagorzałym zwolennikiem umacniania kościoła. W 1449 roku został pierwszym polskim kardynałem.
Jan Długosz początkowo zatrudniony był w charakterze notariusza, później nadzorował kancelarię biskupa i odpowiadał za archiwum, które porządkował. W końcu został osobistym sekretarzem Oleśnickiego, zarządzał jego dworem i majątkiem, zarówno osobistym, jak i biskupim.
Był w Bazylei, gdzie odbywał się sobór powszechny, uczestniczył w pielgrzymce do Jerozolimy, był także na Węgrzech, gdzie ochronił biskupa Oleśnickiego przed tumultem tłumu ratując mu życie.
W 1448 roku pojechał samodzielnie do Watykanu po kapelusz kardynalski dla kardynała Oleśnickiego. Było to trzecie poselstwo w tej sprawie, dwa poprzednie zakończyły się fiaskiem.
Po śmierci kardynała Oleśnickiego Jan Długosz był wykonawcą jego testamentu.
Stryj Długosza, Bartłomiej zrzekł się dla niego probostwa w Kłobucku. Przyjął święcenia kapłańskie, ostatnie, zgodnie z prawem w wieku 25 lat.
Probostwa w Kłobucku zrzekł się w 1449 roku na rzecz swojego młodszego brata, także Jana. Długosz sfinansował budowę kilku kościołów, m.in. w Szczepanowie, Chotlu Czerwonym, Odechowie, Kłobucku, Raciborowicach. Stworzył kilka fundacji klasztornych.
W latach 1467-1475 zajmował się edukacją królewskich synów. Był uczestnikiem wielu poselstw zagranicznych: do Rzymu, Czech, na Węgry, do Wyszegradu . Poprowadził Władysława II Jagiellończyka na koronację do Pragi. Zaproponowano mu tam objęcie arcybiskupstwa praskiego, ale odmówił.
Sporadycznie doradzał też królowi, także w zakresie zarządzania - Kazimierz Jagiellończyk cenił jego wiedzę i kwalifikacje. Uczestniczył w misji, której celem było wykupienie od Zakonu Krzyżackiego Malborka i kilku innych zamków. Uczestniczył też w negocjacjach pokojowych z Zakonem, które niestety zakończyły się fiaskiem.
Zaangażował się w spór na temat tego, kto ma objąć biskupstwo krakowskie i został za to ukarany banicją. Jego dobra zostały skonfiskowane, a krakowskie mieszkanie złupione. Po pewnym czasie jednak powrócił do łask i nadal pomagał królowi.
Uczestniczył w przygotowywaniu memoriału dotyczącego praw Polski do Pomorza.
Jego najsłynniejszym dziełem są Roczniki, czyli kroniki sławnego Królestwa Polskiego, obejmujące historię Polski od najdawniejszych czasów do roku 1480.
Długosz był także geografem, a jego praca Chorographia Regni Poloniae, będąca częścią Kronik, stanowi unikatowy dokument ówczesnych czasów. Przedstawia ona dokładniejszy obraz ziemi, zwłaszcza hydrografię ziem polskich.
Jego dzieło zawiera również wzmianki o dawnych plemionach żyjących posługujących się językiem lechickim i o najsłynniejszych bogach czczonych przez nich.
Dzieło to po raz pierwszy drukiem ukazało się nie w Polsce a w Lipsku w 1711 roku i w tym wydaniu nosiło tytuł Historiae Polonicae libri XII.
Był także autorem kilku dzieł z dziedziny heraldyki.