Сквер на Петроградской стороне между домами 26–28 и 32 по Каменноостровскому проспекту появился после революции, когда снесли дом, где в конце XIX века размещалась мастерская лепщика Ивана Дылева, который создал знаменитого голубя, парящего под куполом Исаакиевского собора. В 1980-х годах здесь планировали возвести кинотеатр, в начале нулевых в Генплане сквер фигурировал как "участок под застройку". 

16 мая 2005 года по инициативе лидера движения «Зеленая волна» Михаила Новицкого музыканты, писатели, художники высадили в этом сквере именные саженцы рябины и клена, в надежде спасти его от строителей. 

Андрей Павлович Петров посадил тогда в сквере рябину. В 2006 году вокруг высаженного композитором дерева установили оригинальную ограду в виде нотной строчки песни "Голубые города". По решению губернатора и правительства города сквер был узаконен и назван именем Андрея Петрова.

2 сентября 2008 года, в день рождения Андрея Петрова, обновленный сквер открылся для петербуржцев. Территорию украсили восемь скульптур Елены Лекус и Александра Добровольского, изображающих разные трансформации скрипки - любимого инструмента музыканта.

 Архитектор Александр Трумм, автор архитектурной концепции сквера разъяснил символику изваяний следующим образом - «Скрипка-Яблоко» как символ искушения музыкой, «Скрипка-Туфелька» - символ музыкального эксперимента, «Скрипка-Женщина» («Муза композитора») - символ вдохновения, «Скрипка-Кресло» («Трон Композитора») - символ музыкальной паузы, «Скрипка-Лебедь» («Реквием») - символ музыкального совершенства, «Скрипка-Граммофон» - символ музыкальной классики, Скульптуры «Скрипка-Сфинкс» - символ охраны музыкального наследия».   

Сегодня на главной площадке «музыкального сквера», проходят выступления оркестров, музыкантов, устраиваются уличные представления и перформансы. Ежегодно сезон летних концертов в сквере дополняется всё новыми солистами, новыми формами, новыми желающими выступить и поделиться своим творчеством. 

Выступая своеобразным перекрестком времён, где соприкасаются классика и современные тенденции искусства, это пространство вовлекает в атмосферу всепроникающего творчества, наполненного одной из главных общечеловеческих ценностей — Музыкой.