Nõo kalmistu rajajateks on Löwenwolde suguvõsa. Kalmistu ajalugu küündib 18. sajandisse, mille lõpul maeti Luke mõisnik Carl Magnus von Löwenwolde (1728-1799), kelle hauatähis Nõo kalmistul on üks vanimaid.
Peasissekäiku tähistab telliskividest värav, mille metallosadelt on leitud daatum 1925. Peaväravast sisenedes jääb paremat kätt kunagise kalmistuvahi maja vundamendi jäänused. Kalmistu idanurgas asub Luke mõisnike Löwenwolde-Knorringu perekonnaliikmete viimne puhkepaik, mis on muust surnuaiast eraldatud kivimüüriga.
Nõo kalmistul on mitu kunstiväärtuslikku hauamonumenti. Tuntud kultuuriloolane ja luuletaja ning Nõo kiriku pastoriks olnud Martin Lipp (1854-1923), kes on ka laulu „Eesti lipp“ sõnade autoriks, puhkab Nõo kalmistu peatänava ääres. Büsti Martin Lipu hauasambal on valmistanud 1932. aastal skulptor Anton Starkopf.