Zarówno cudowny obraz, jak i kaplica, w której się mieści, oraz sama Ostra Brama mają bogatą historię, ściśle wiążącą się z historią rozbudowy Wilna. Na przełomie XV-XVI w. postanowiono otoczyć je murem obronnym. Powstało dziewięć bram miejskich, z których jedna (jedyna zachowana do naszych czasów) nosiła nazwę Miednickiej, inaczej Krewskiej. Nieco później przyjęła się inna nazwa bramy - Ostra. Zgodnie z tradycją na bramach obronnych zawieszano święte obrazy. Ostra Brama po obu jej stronach również miała własne obrazy, które po pewnym czasie uległy zniszczeniu. Jednym z tych obrazów był wizerunek Matki Bożej. Z czasem miejsce to stało się miejscem modlitwy do Maryi. Kult Matki Miłosierdzia z Ostrej Bramy jest ogromny i niezrównany w swej sile. Sięga drugiej połowy XVII w. i wiąże się z obroną murów miasta. Jednakże wyraźne jego wzmożenie nastąpiło w I połowie XVIII w. Szczególny rozwój czci do Matki Miłosierdzia nastąpił po rozbiorach Polski. W 1993 roku modlił się w kaplicy w Ostrej Bramie Jan Paweł II. Ofiarował wtedy Matce Bożej Miłosierdzia złotą różę. Kult Matki Boskiej Ostrobramskiej jest ciągle żywy i obecny nie tylko na terenie Litwy, ale także w sąsiednich krajach. W Polsce około 30 parafii ma za patronkę Matkę Bożą Ostrobramską.

Oryginalny obraz jest namalowany temperą na ośmiu dębowych deskach, jest więc duży. W późniejszych latach obraz został przemalowany farbą olejną; zmieniono także wizerunek Matki Bożej (zamalowano m.in. pukiel włosów wymykający się spod chusty i skrócono palce dłoni). Nie znamy twórcy obrazu. Namalowano go prawdopodobnie w I poł. XVII wieku na wzór obrazu Martina de Vosa - flamandzkiego artysty. Dzisiaj odrzuca się całkowicie wersję o wschodnim pochodzeniu obrazu, który miał przywieźć z wyprawy książę litewski Olgierd w XIV wieku, jak też i to, że Matka Boża ma twarz Barbary Radziwiłłówny.

Głowę Matki Bożej zdobią dwie korony. Pierwsza pochodzi z końca XVII wieku, w XIX wieku ozdobiona została klejnotami ofiarowanymi jako wota. Druga korona, z połowy XVIII wieku, podtrzymywana jest przez dwa aniołki i ozdobiona sztucznymi kamieniami. 2 lipca 1927 r. odbyła się uroczysta koronacja obrazu złotymi koronami. Dokonał jej arcybiskup metropolita warszawski kard. Aleksander Kakowski w obecności prezydenta Ignacego Mościckiego i marszałka Józefa Piłsudskiego.
Obraz przedstawia pochyloną Madonnę bez Dzieciątka. Głowę otoczoną promienną aureolą Maryja lekko pochyla w lewo, smukłą szyję zdobi szal. Jej twarz jest pociągła, półprzymknięte oczy dodają jej powagi; ręce trzyma skrzyżowane na piersiach.

Ostra Brama wiąże się również w istotny sposób z kultem Miłosierdzia Bożego. Obraz Miłosierdzia Bożego został namalowany w Wilnie i wystawiony publicznie właśnie w Ostrej Bramie (26-28 kwietnia 1935 r.). Tu też św. Faustyna miała wizję triumfu obrazu Miłosierdzia Bożego.
Bardzo silne są też związki Jana Pawła II z Ostrą Bramą:
"W momencie mojego wyboru na Stolicę Piotrową pomyślałem o Matce Najświętszej z Ostrej Bramy" (6 września 1993 r.); "Niedługo po tym, jak niezbadanym wyrokiem Bożym zostałem wybrany na Stolicę Piotrową, udałem się do litewskiej kaplicy Matki Miłosierdzia w podziemiach Bazyliki Watykańskiej. I tam, u stóp Najświętszej Dziewicy, modliłem się za was wszystkich" (8 września 1993 r.).
Opiece Matki Miłosierdzia Jan Paweł II przypisuje uratowanie z zamachu z 13 maja 1981 r.: "Kiedy mogłem kontemplować oblicze Matki Bożej w sanktuarium w Ostrej Bramie w Wilnie, skierowałem do Niej słowa wielkiego polskiego poety, Adama Mickiewicza: «Panno święta, co Jasnej bronisz Częstochowy i w Ostrej świecisz Bramie! (...) Jak mnie (...) do zdrowia powróciłaś cudem!». Powiedziałem to na koniec modlitwy różańcowej odmówionej w sanktuarium ostrobramskim. I głos mi się załamał..." (13 maja 1994 r.). (źródło: http://brewiarz.pl)