Da indbyggertallet i hovedstaden tredobledes i løbet af 1800-tallet blev C.F. Hansens gamle råd- og domhus på Nytorv efterhånden for lille. Efter en konkurrence vandt Martin Nyrop opgaven, og det nuværende rådhus blev bygget fra 1892-1905.
Rådhusbygningen er symmetrisk. Kun tårnet, der er byens højeste, er anbragt asymmetrisk inspireret af rådhustårnet i den italienske by Siena.
Det store rådhusanlæg består af et rektangel, der i det indre deles af en tværfløj. Hermed opstår to gårde: gården nærmest Rådhuspladsen er mindst og dækket af et glastag og gården fjernest Rådhuspladsen er større og åben.
Alle de repræsentative rum er anbragt omkring den overdækkede gård. Således vender festsalen ud mod Rådhuspladsen, mens Borgerrepræsentationens mødesal og bryllupssalen er placeret i tværfløjen som husets symbolske kerne. Bagved er kontorerne placeret i lavere fløje omkring den åbne gård og omkring en langstrakt hal, der er åben op igennem alle etagerne ved bygningens bagindgang.
Københavns Rådhus blev ikke kun et gennembrud for Nyrop. Bygningen banede også vejen for en mere demokratisk opfattelse af arkitekturen. En opfattelse, der frit lod sig inspirere af forskellige forbilleder uafhængig af klassisk lærdom. Denne form for arkitektur blev beriget af Nyrops udprægede sans for stoflighed, materialer og detaljer. Bygningen præges nemlig af solide materialer, en høj håndværksstandard og en levende udsmykning udført af en række af tidens bedste kunstnere under Nyrops ledelse.
Dermed lykkedes det Nyrop at skabe en bygning, der var praktisk, men samtidig gav borgerne en kunstnerisk oplevelse båret af kærligheden til byen og fædrelandet. Rådhuset fremstår som et af tidens hovedværker i nordisk arkitektur.
Nyrop udformede desuden pladsen foran rådhuset som en muslingeskal inspireret af Rådhuspladsen i Siena. Denne forsænkning blev fjernet i 1943, men Nyrops oprindelige idé ligger bag en renovering af pladsen udført i 1996 af KHR Arkitekter.
