A kis zsinagóga megépítése összefüggött azzal a belső vitával, amely 1840-ben a hitélet külső és belső megreformálását támogató, a zsinagógát új szellemben átépítő Weisz Ádám hitközségi elnököt támogató családok és a hagyománytisztelő tagok között kialakult. Többen ellenezték, hogy megváltoztassák a zsinagóga belső rendjét. Ragaszkodtak ahhoz, hogy a Tóra-felolvasás céljára szolgáló körülkerített emelvény az álmemor maradjon a zsinagóga középen, hogy az ülőhelyek legyenek továbbra is a keleti fal mellett, a női karzat maradjon a frigyszekrénnyel szemben. Nem igényelték az új, drága épületet, a fényűző berendezést, ellenezték az orgona használatát. Megelégedtek egyszerű, átalakított épülettel is, számunkra a zsinagóga a találkozás, a tanulás és az imádság helye volt, ahol a gyülekezeti tagok maguk is vezethették az imádságot.
A hagyománytisztelő családok számára a zsidó udvarral szomszédos telkek tulajdonosai a Berger testvérek (Adolf, Izráel és Simon) és Weisz József (1850–53 között hitközségi bíró) biztosított helyiséget. Az egyik vásártérre néző (kelet-nyugati tájolási) raktárukat bocsátották rendelkezésükre, azt alakították át egyszerű zsinagógának. A Búzapiac tér felőli klasszicista, timpanonnal lezárt homlokzata nem is sejteti, hogy belül egy négyoszlopos, kéthajós belső tér fogadta az imádságra érkezőket. A dór oszlopokkal alátámasztott csehboltozatot gyönyörű növényi ornamentikával díszítették.
1867 után, amikor a magyarországi zsidóság három irányzata (neológ, ortodox, status quo ante) egyre erőteljesebben elkülönült egymástól, az izraeliták hagyományos vallását követő, úgynevezett ortodox zsidó közösség használta a kis zsinagógát. Mivel a veszprémi zsidóság döntő része a neológ irányzat követője lett és csak néhány család választotta az ortodoxiát, a kiszsinagógában tartotta téli időszakban szertartásait a neológ zsidó közösség is, ezért „téli zsinagógának” is nevezték. Schweitzer József országos főrabbi így emlékezik a veszprémi zsidóság zsinagógáira az 1920-as években: „Az udvarban két zsinagóga volt. Az egyik egy úgynevezett téli zsinagóga. Kicsi. Tulajdonképpen volt egy pár ortodox család is. […] Kékfestők voltak, és valahol a Buhim-völgyben laktak. Ezek a Gestetnerék használták ezt a kis templomot, ott tartottak istentiszteletet, de télen az egész gyülekezet ott imádkozott, mert a nagy templom borzasztó hideg volt.”
A második világháborút követően államosították és raktárnak használták. Nagymihály Ferenc városi főépítész az 1950-es években műemléki védelemre érdemes épületnek tartotta. Ennek ellenére a belváros átépítése során, a Bányatröszt irodaházává alakított nagy zsinagóga épületének többszöri bővítése kapcsán, teljesen lebontották. 1981-ben az irodaház déli épületszárnya épült a helyére.
