Nazwa znana od 1704. W 1750 "cmentarz alias Kanonie", od w. XIX Kanonia. Trójkątny placyk na tyłach kolegiaty Św. Jana, z wylotami ul. Jezuickiej, ul. Dziekania i uliczki stanowiącej przewężenie Dziedzińca Kuchennego Zamku, zwanej "Do Kanonii" (a także przejścia wzdłuż pn. boku kolegiaty oraz przejścia ku Wiśle w narożu pn. wsch., prowadzącego do "furta canomcorum"). 
Na placyku tym znajdował pierwszy warszawski cmentarz parafii św. Jana założony prawdopodobnie razem z kościołem, zlikwidowany został w 1780. 
Po przeniesieniu 1406 kapituły z Czerska do Warszawy Janusz I Starszy, książę mazowiecki nadał trzynastu kanonikom place na budowę domów (kanonii, kurii), wyłączone spod jurysdykcji miejskiej. Kanonicy otrzymali działki o szerokości 6-8 metrów i głębokości 10-34 m. Jeden z domów o fasadzie szerokości 2 m powstał dopiero w XVIII w. Na kilku budynkach znajdują się tablice erekcyjne (nr 28 - wystawił kanonik Stanisław Boniecki w 1541 r., a nr 26 kanonik Samborski w 1521 r.). W domu nr 6, hipoteczny 87 (kustodia) , mieściła się siedziba urzędu kapituły. Pierwotne kanonie drewniane, i pierwsze murowane powstały w końcu w. XV, większość w 1. połowie wieku XVI. Po pożarze 1607 północnego rzędu kanonii odbudowano je, rząd wschodni przebudowano w ciągu w. XVII. 
W 1704 roku na Kanonii wymienionych jest 12 domów księżych, a w jednym mieszka lokator (komornik). W późniejszym okresie liczba komorników wzrasta, zamieszkują tu głównie krawcy, ale również, oficjaliści kościelni, służba, kupcy i m.in. imć Pan La Croix, pułkownik. W 1792 roku liczba ludności wzrasta do 160 osób. Kanonicy wynajmowali lokale parterowe również na szynki, było ich aż cztery.
Po 1800 Stanisław Staszic zakupił kustodię i dwie przyległe kamienice (nr 8, hipoteczny 85 i 86) i przekształcił je na siedzibę Towarzystwa Przyjaciół Nauk, które mieściło się tu do 1823. Potem domy te włączono do zespołu zamkowego, pozostałe przeszły 1867-68 też na własność rządową, następnie należały do osób świeckich i duchownych. 
Zabudowa zniszczona w 1944, zrekonstruowana 1958-60. 

W początkach XX wieku na Kanonii mieszkał poeta Or-ot [Artur Oppman (1867-1931)] - autor licznych wierszy i pięknych legend warszawskich. Mieszkał tu również Wiktor Gomulicki (1848-1919), poeta, powieściopisarz, krytyk literacki i historyk Warszawy, a jeszcze wcześniej Jan Paweł Woronicz (1757-1829) poeta, wybitny kaznodzieja, arcybiskup warszawski, prymas Królestwa Polskiego w latach 1828-1829.

W 1771 na cmentarzu stanęła figura N. P. Marii Niepokalanie Poczętej, obecnie umieszczona przy wsch. ścianie prezbiterium katedry. 1972 w pn. części placyku umieszczono dzwon .