kvene opreme je novejša. Glavni oltar je bil leta 1956 pripeljan iz ljubljanske bolnišnične kapele, stranski je delo podobarja Vurnika iz druge polovice 19. stoletja. Orgle iz leta 1882 so Goršičev izdelek. Na zahodni strani cerkve so bili pri zemeljskih delih v letu 1953 najdeni staroslovanski grobovi iz 10. in 11. stoletja. Nedatirani grobovi, ki so lahko del nekdanjega pokopališča ali celo staroslovanska grobišča, so znani tudi ob južni in vzhodni strani cerkve. Cerkev Sv. Duha se v pisanih virih prvič omenja leta 1487. Enotna gotska arhitektura z rebrastim obokom v prezbiteriju je bila v 18. stoletju barokizirana in ob koncu 19. stoletja temeljito predelana. Takrat je dobila današnjo neohistorično podobo. V 17. in 18. stoletju je bilo ob njej pokopališče in grobovi iz tega časa so močno poškodovali ostanke poznoantičnih zidov. Pri apsidi so našli mozaik iz začetka 5. stoletja, ki je eden od štirih primerov v Sloveniji, torej z začetka graditve poznoantičnega mesta. Gre za delo oglejske šole. Podoben mozaik so našli še v Ljubljani, Celju in na Ptuju, v mestih, ki so bila od prvega do tretjega stoletja močna antična mesta, medtem ko se o Črnomlju žal ve zelo malo. Cerkev se danes obnavlja in je razglašena za kulturni spomenik.