雨花台区名源于雨花台，雨花台系二、三百万年前古长江及其支流古秦淮河的堆积物所形成。相传梁代高僧云光法师在此设坛讲经，感泣天神，落花如雨，故名雨花台。

1949年4月23日，南京解放。5月10日，南京市人民政府成立，为中央直辖市，下设13个区：鼓楼、白下、雨花台、建邺、玄武、栖霞、下关、秦淮、大厂、浦口。8月增设1个郊区（钟山区）。

1955年10月，南京市第十一区也就是现在的雨花台区成立，同年12月南京市人民政府向国务院递交申请，决定将当时的江宁县自西南面开始的双闸乡、西善桥乡、铁心桥乡、板桥乡、沙洲乡、江东门乡、红花乡、宁南乡、石门坎乡和雨花镇（今雨花新村和赛虹桥一带）划规到南京市管理并成立组成南京市十一区雨花台区。

1956年1月1号国务院正式批复将上述地区划归到南京市。

1955年到1985年雨花台区辖9乡1镇，分别为双闸乡，西善桥乡，江东门乡，铁心桥乡，沙洲乡，板桥乡，红花乡，宁南乡，石门坎乡，和雨花镇（今天的雨花新村赛红桥一带）。

1985年到1995年雨花台区实行区域面积整合，整合后将江东门乡划归到鼓楼区，将红花乡划归到秦淮区，将石门坎划归到白下区。整合后雨花台区辖双闸镇，西善桥镇，沙洲街道，板桥镇，铁心桥镇，雨花新村街道，宁南街道和赛红桥街道。

1995年南京市明确为副省级市，市辖区为副厅级。调整市区行政区划。将雨花台区石门坎镇，栖霞区孝陵卫镇的苜蓿园、后庄2个行政村，划归白下区管辖。秦淮区：将雨花台区红花镇和大校场机场用地范围，划归秦淮区管辖。建邺区：将雨花台区江东镇所辖的河南、所街、兴隆、向阳、东林5个行政村和仁东桥、棉花堤、螺丝桥3个居委会，以及原茶亭行政村，划归建邺区管辖。鼓楼区：将雨花台区江东镇建制及江东镇所辖的清江、江东、河北3个行政村和中保村南半部分，以及江东门、新河口、二道桥3个居委会，划归鼓楼区管辖。下关区：将雨花台区江东镇中保村北半部分和栖霞区的小市镇、迈皋桥镇的五塘村归下关区管辖。雨花台区：将江宁县东山镇的农花村，江宁镇的永安、孙家、邵庄、新建、三山5个行政村和谷里乡的梅村用地范围，划归雨花台区管辖。

2002年，雨花台区沙洲、双闸街道办划归建邺区管辖；雨花台区沙洲、双闸街道办事处的秦淮新河以南部分划归雨花台区西善桥街道办事处管辖；建邺区朝天宫、止马营街道办事处划归白下区管辖；建邺区汉中门大街及其西延至长江段以北部分划归鼓楼区江东街道办事处管辖；鼓楼区汉中门大街及其西延至长江段以南部分划归建邺区兴隆街道办事处管辖。经过上述调整，白下、建邺、鼓楼、雨花台四区的总人口数分别为：52.36万、25.65万、55.60万和22万。

2002年，经省人民政府批准，南京市对白下、建邺、鼓楼和雨花台4区的部分行政区划作出调整。具体调整方案为：将雨花台区，沙洲、双闸2个街道办事处秦淮新河以北地区及其建制划归建邺区管辖；将鼓楼区汉中门大街及其西延至长江以南地区划归建邺区管辖，其中，江东北路—江东南路以西部分归兴隆街道办事处管辖，江东北路—江东南路以东、集庆门大街以北部分归南湖街道办事处管辖，江东南路以东、集庆门大街以南部分归南苑街道办事处管辖。将建邺区朝天宫、止马营2个街道办事处划归白下区管辖。将建邺区莫愁湖街道办事处汉中门大街以北地区及其建制划归鼓楼区管辖；汉中门大街以南部分划归建邺区南湖街道办事处管辖。雨花台区沙洲、双闸2个街道办事处秦淮新河以北地区划归建邺区管辖后，原沙洲、双闸2个街道办事处秦淮新河以南地区划归雨花台区西善桥街道办事处管辖。区划调整后，新的建邺区将覆盖整个河西地区，与鼓楼、白下、雨花台3个区基本上以河、路分界。调整后，建邺区面积82平方千米，人口24.46万人，辖7个街道；白下区面积28平方千米，人口48万人，辖10个街道；雨花台区面积134.6平方千米，人口22万人，辖7个街道；鼓楼区面积30平方千米，人口60万人，辖6个街道。

2012年7月雨花台区街道区划调整，宁南街道办事处与雨花新村街道办事处合并，新组建为“雨花街道”。以雨花南路为界，将雨花南路以北的原雨花新村街道辖区范围划入新组建的雨花街道，将雨花南路以南的原雨花新村街道辖区范围划入赛虹桥街道。雨花台区辖雨花、铁心桥、板桥、西善桥、赛虹桥、梅山6个街道。