Однако вся предыдущая история Мадрида никак не предвещала его будущего высокого предназначения. Маджерит – основанное в IX веке небольшое укрепленное поселение – входил в оборонительную систему, защищавшую с севера долину реки Тахо от вторжения спускавшихся по ущельям Гвадаррамы воинов реконкисты. Небольшой испано-мусульманский город Медина был окружен стеной с воротами, к которым сбегались дороги из близлежащих местностей. В более высокой части располагалась цитадель, укрепленный замок (араб. – алькасар) с двумя внутренними дворами и башнями по углам.
Завоеванный в 1083 году Альфонсом VI Храбрым (король Леона с 1065 года и Кастилии – с 1072 года) и снова захваченный мусульманами, Мадрид был окончательно освобожден только в начале XIII столетия. Участвовавшие в победоносной битве с маврами при Лас Навас де Толоса (1212) мадридские воины несли на своем штандарте в качестве эмблемы изображение медведя, избранное, по-видимому, потому, что эти животные в большом количестве водились тогда в еще не вырубленных лесах. Позднее изображение стоящего на задних лапах у земляничного дерева медведя стало гербом Мадрида. В истории этого, в своей основе заурядного города, разросшиеся предместья которого были в конце XIII века обнесены новой стеной, отразились некоторые события кастильской истории. Его посещали испанские короли, однако чаще всего он служил местом их краткого пребывания на пути следования в другие центры. Карла V, основателя испанской ветви династии Габсбургов, Мадрид привлекал, возможно, близостью охотничьих угодий в Аранхуэсе, Эль Пардо, Галапагаре и других местах. При нем был расширен ранее воздвигнутый на месте мавританской цитадели королевский замок Алькасар.
До наших дней частично дошли самые старые архитектурные памятники города; среди них фрагмент арабской стены IX века и построенные мудехарами кирпичные колокольни маленьких церквей Сан Николас де лас Сервитас (1212) и Сан Педро эль Вьехо (1354), сохранившие основные формы и очертания мавританских минаретов. На площадях Паха и Вилья можно увидеть неоднократно реставрированные здания: на Пласа де ла Паха – капеллу епископа Пласенсии, построенную в 1520 году, а на Пласа де ла Вилья – дом и башню Луханес (Торре де лас Луханес), скромный образец жилой средневековой архитектуры конца XV века. Согласно легенде, в башне Луханес какое-то время провел в заточении французский король Франциск I, плененный Карлом V в битве при Павии (1525). Поблизости на этой же маленькой площади находится дворец, построенный в 1537 году для племянника кардинала Сиснероса, редкое для Мадрида здание в стиле раннего испанского Возрождения, так называемого платереска.