Григорій Романович Гінзбург був прийомним сином Олександра Борисовича Гольденвейзера. Після смерті батька з шести років виховувався в родині Гольденвейзера, де почав займатися музикою.
Гінзбург навчався у Гольденвейзера в Московській консерваторії: у 1917 році вступив до його класу та закінчив консерваторію в 1924 році. Після цього до 1928 року навчався в аспірантурі консерваторії у Гольденвейзера.
