ереулок назывался по находившемуся здесь в старину владению бояр Романовых. Первоначально это была их домовая Знаменская церковь. В советские времена в этот дворик на улице Грановского мы ходили гулять, здесь было тихо и уютно по-московски. И несмотря на то, что в здании церкви в те времена располагались различные административные помещения, она выглядела очень нарядной и необычной. Тогда фасады церкви реставрировались (в 1950-х и 1970-х годах), и её внешний облик оставался узнаваемым.
Ныне существующий храм был выстроен и освящен в конце 1680-х годов Л.К. Нарышкиным. Этот уникальный памятник московского барокко представляет собой редкий образец ярусного храма "под колоколы" (с колокольней над сводом храма). В разные годы усадьбой владели Романовы, Нарышкины, Разумовские, с 1799 года - Шереметевы, откуда храм и получил свое устоявшееся название.