Ogród Botaniczny w Kielcach znajduje się w granicach administracyjnych miasta Kielce, na południowo-wschodnich zboczach góry Karczówka (339 m n.p.m.), u zbiegu ulic Karczówkowskiej i Jagiellońskiej. Osią założeń ogrodowych jest zabytkowa ulica Karczówkowska, z murowanymi stacjami Drogi Krzyżowej, przecinająca i dzieląca na odcinku ok. 400 m, teren na dwie nierówne części, większą po stronie południowej – 12 ha i mniejszą – 3 ha, po stronie północnej.
Od strony zachodniej sąsiaduje z najstarszym w Kielcach rezerwatem krajobrazowo-leśnym Karczówka o powierzchni 26,62 ha oraz Chęcińsko-Kieleckim Parkiem Krajobrazowym – pierwszym polskim parkiem geologicznym, powołanym w celu ochrony i promocji walorów przyrody nieożywionej miasta.
Obszar Góry Karczówka porośnięty starodrzewiem sosnowym, w przeszłości wykorzystywany był górniczo. Wydobywano tu wapień oraz rudy ołowiu, a pozostałości dawnych prac górniczych w postaci szybów i rowów poeksploatacyjnych widoczne są na stokach: południowym i zachodnim. Zachowane ślady górnictwa kruszcowego w rejonie Karczówki, a także odsłonięcia geologiczne i ich wartość naukowa, stanowią cenne zasoby dziedzictwa geologicznego regionu. Góra, wraz z zabudową – sakralnym zespołem architektonicznym (wczesnobarokowy kościół Św. Karola Boromeusza i pobernardyński klasztor waz z zabudowaniami gospodarczymi) stanowi strefę ochrony konserwatorskiej. Na terenie Chęcińsko-Kieleckiego Parku Krajobrazowego występują (obok kamieni budowlanych) rudy ołowiu, cynku i miedzi, na bazie których przez wiele stuleci rozwijało się górnictwo. Świadczą o tym dobrze zachowane stare sztolnie, szyby, hałdy i nieczynne kamieniołomy.
Lokalizacja ogrodu botanicznego na wschodnim stoku wzgórza Karczówka ze spadkiem w kierunku wschodnim i południowym, gdzie różnica poziomów między najwyższym a najniższym miejscem wynosi 20 m, znacznie uatrakcyjnia walory przyrodnicze i krajobrazowe tego miejsca. Z wyższych partii ogrodu rozciąga się widok na miasto i pobliskie pasma Gór Świętokrzyskich, z Pasmem Dymińskim na planie pierwszym.
