Skalni pomol nad prehodom čez Savo v Kranju predstavlja staro utrdbeno področje, saj je tu nekje v 11. stoletju stal stolpasti grad mejnega grofa Kranjske marke (med letoma 1065 in 1077 ga je v dosmrtni užitek prejel brat briksenškega škofa Henrik s soprogo Wezalo), kot tudi ortenburški grad, ki so ga grofje Ortenburški zgradili leta 1256 v dogovoru s tedanjim mestnim gospodom, vojvodo Ulrikom III. Spanheimskim. Grad so upravljali ministeriali vitezi von Chreinburch (omenjeni v 13. stoletju: vitez Gebhard, Jakob milites de Chrainburch, Lienhart von Chreinburch), leta 1420 pa se je gradu pozneje polastil grof Herman Celjski. Leta 1436 je omenjen celjski kastelan vitez Kacijanar. Ko so Celjani izumrli, so grad pridobili Habsburžani. Sredi 16. stoletja je cesar Ferdinand I. utrjeni stolp pravokotne oblike, naslonjen na mestno obzidje, prodal Janžu pl. Khiesslu, graščaku na Fužinah in zakupniku gospostva Višnja Gora ter deželnemu upravitelju na Kranjskem, ki je prvotno poslopje prezidal v grad in leta 1578 prejel vladarjevo dovoljenje, da ga je imenoval po svojem poplemenitenem nazivu Khiesslstein. Khiessli so ga kmalu prodali Francu pl. Mosconu, pred letom 1621 ga je posedoval baron Janez Ludvik Rauber, pred letom 1642 Frančišek Berdarini, leta 1738 pa ga je kupil baron Janez Seifrid Apfaltrer. Njegova vdova ga je leta 1764 prodala grofu Pavlu Alojzu Auerspergu, nato pa ga je leta 1792 kupil zdravnik in manufakturist Natalio Pagliaruzzi. V rokah te rodbine in njenih dedičev (rodbini Kalker in Del Negro) je bil Kieselstein do leta 1913, ko ga je kupila država. Po prvi svetovni vojni so bili v gradu državni uradi, po drugi svetovni vojni pa je bil nacionaliziran. Danes v obnovljenem poslopju med drugim domujeta Zavod za varstvo naravne in kulturne dediščine Kranj in Gorenjski muzej. Grad v svojih osnovah sega v 13. stoletje. Najstarejši del današnjega gradu je stolp pravokotne oblike na jugovzhodnem vogalu grajskega trakta. Današnja oblika gradu je nastala v renesančni dobi in po predelavah v baroku, ko je bil Kieselstein prezidan v udobno rezidenco. Na dvoriščni stranici podkvaste stavbe je arkadni hodnik. Rustični glavni portal in portal, ki vodi skozi grajsko obzidje v grad, sta nastala okrog leta 1578. V gradu je več reprezentančnih soban, ki so namenjene kulturnim prireditvam.