El original Museo Judío de Viena fue fundada en 1896 y fue el primer museo de su tipo en el mundo. El museo ha existido con el apoyo de la "Sociedad para la recolección y preservación de arte y monumentos históricos de la comunidad judía." Se centró en la historia y la cultura de Judios en el Imperio Austro-Húngaro. Su colección de objetos y productos de Palestina también reflejó el debate político sobre el sionismo. El museo fue cerrado inmediatamente después de la ocupación de Austria por los nazis. En el último año de su existencia, tenía 6474 artículos diferentes. En 1939 fueron trasladados al Museo de Etnología, y otras instituciones.

La mayoría de los artículos fueron devueltos a la comunidad judía a principios del decenio de 1950, pero algunos lograron devolver sólo en 1990 año. Muchas de las exposiciones se perdieron. Cuando el Museo Nuevo judío tiene un inventario, se encontró que la mitad de los artículos originales había desaparecido. Pero el resto de las cosas son muy raros exposiciones que representan como objetos de la vida cotidiana, y materiales únicos.

31 de diciembre 1964 un pequeño museo judío fue inaugurado en un edificio de nueva construcción en Tempelgasse, pero recibió casi ninguna atención pública. Después de 3 años el museo ha cerrado.

La primera exposición del nuevo Museo Judío de Viena abrió 07 de marzo 1990 en las instalaciones temporales en las oficinas de la comunidad judía. Una parte importante de la exposición se compone de una colección de Max Berger. En 1992 el museo se trasladó a su actual sede en el palacio Eskeles Doroteegasse. El museo abrió sus puertas un año más tarde, en 1993. La biblioteca fue abierta al público desde 1994.

Desde el otoño de 2011, el museo abrió sus puertas después de una renovación completa, al igual que el edificio en sí, y actualizar la exposición permanente. Museo Judío renovado da la bienvenida a los visitantes al nuevo sistema de iluminación, que se hizo de conformidad con el original. La exposición permanente en el museo se encuentran en tres zonas.