Время основания современного города Рязань относится к 1095 году, когда город был заложен "у церкви Николы Старого на берегу озера Быстрого". Необходимо помнить, что в то время он назывался Переславль-Рязанский (нынешнее название с XVIII века). Некоторое сомнение у историков вызвало то, что возле кремля сейчас нет никакого озера. Однако во время реставрационных работ и геологических изысканий выяснилось, что на вершине кремлевского холма, к юго-востоку от Успенского собора, ранее действительно существовало небольшое, позднее засыпанное водохранилище. Все это позволяет считать сведения документов вполне точными. Раскопки на территории рязанского кремля обнаружили предметы XI-XIII веков и культурный слой XII века, что подтверждает данные письменных источников.
Крепость Переяславля-Рязанского была основана как форпост Старой Рязани князем Олегом Святославичем и здесь же расположилась резиденция князя. Первоначальный кремль Переяславля-Рязанского был значительно меньше и занимал участок, на котором теперь стоит здание епископских палат XVII века и другие постройки бывшего епископского двора. Дальше на юг находилось озеро Быстрое, а за ним был посад.
В XIV веке кремль был почти в тех же границах, что и в XIII. Южная часть по-прежнему была занята посадом, в самом низу этой стороны на берегах речки Лыбедь располагался торг города. Сюда сходились дороги на Старую Рязань, Пронск, Владимир, Москву. В 1301 году московский князь Даниил Александрович "приходил ратью на Рязань, и бишася у града Переиаславля". Рязанский князь Константин был захвачен в плен и затем казнен в Москве.
Во второй половине XIV века между рязанскими и московскими князьями вспыхивает вражда. Рязанского князя Олега обвиняли в пособничестве татарам в год великой Куликовской битвы. Два года спустя, когда хан Тохтамыш в 1382 году шел на Русь, князь Олег "обвел его около отчины своей, указал на Оке все броды". Москва была разорена и сожжена. Вернувшийся из Костромы Дмитрий Донской, где он собирал войска, разорил рязанскую землю, но князь Олег успел скрыться. В 1385 году в Рязань по просьбе Дмитрия Донского пришел преподобный Сергий Радонежский для того, чтобы склонить к миру князя Олега. Был заключен мир, закрепленный династическим браком - дочь Дмитрия Донского София вышла замуж за сына князя Олега Федора.
В XV веке продолжается политический рост Рязани, укрепление ее связей с Москвой. При князе Федоре Ольговиче (1402-1427) рязанский кремль обстраивается новыми каменными зданиями. При князе Василии Ивановиче (1456-1483) крепость была расширена до современных пределов, то есть она стала занимать всю территорию холма, ограниченного изгибом речки Лыбедь и Трубежем и отрезанного с запада глубоким рвом.
Памятью о XV веке в рязанском кремле остаются мощные валы и ров. В некоторых местах высота вала достигает 9 метров изнутри и приблизительно 18 метров снаружи. Не подлежит сомнению, что в древности они были выше. На валах стояли высокие деревянные стены с башнями и тремя воротами: Глебовскими - с западной стороны, ближе к Трубежу выводившими на Московскую дорогу; Ипатьевскими - с востока, где шла дорога на Владимир; Рязанскими - с юга у Лыбеди, где проезжали на дорогу к Старой Рязани. Высота стен доходила до пяти метров, а ширина до полутора метров. Глубокий ров вдоль стены наполнялся водой.
Тогда же, в XV веке, вокруг Переславля-Рязанского появляются монастыри: Троицкий на реке Павловке, основанный в конце XIV века в знак мира между князем Олегом Ивановичем и Дмитрием Донским, Солотчинский, на острове в селе Борки - Богоявленский монастырь.
Древнейшие памятники в Рязанском кремле - XV века. В 1427 году из больших блоков белого камня был сооружен одноглавый Успенский собор, который стал княжеской усыпальницей - в нем погребали рязанских князей, начиная с Федора Олеговича. Помимо князя Федора, в соборе погребены его жена Софья (дочь Дмитрия Донского), его сын Иван, внук Василий, два правнука - князья Иван и Федор. Среди рязанских епископов, погребенных здесь же, необходимо отметить Стефана Яворского, сподвижника Петра Первого и местоблюстителя патриаршего престола. В XVIII веке сильно обветшавший собор был надстроен и переименован в Христорождественский, однако фрагменты белокаменных стен Успенского собора и сейчас видны со стороны алтаря.
Тогда же, в XV столетии (1470-годы), в Рязани сооружается еще один храм - Архангельский собор. После сильного пожара в 1647 году поврежденный храм был надстроен. И сейчас на южном фасаде Архангельского собора видны остатки древней закомары, основание которой значительно ниже уровня основания новых закомар. Видно также, что верх стен надстроен приблизительно на полтора-два метра. Остатки древних окон видны также на северном фасаде. Новый также и барабан главы. Исследователи предполагают, что Архангельский собор в Рязани возводится по подобию Московского Архангельского собора и не случайно становится домовой церковью и усыпальницей рязанских епископов. Под его сводами нашли упокоение восемь рязанских владык.