Йозеф Вайс — німецький піаніст і композитор єврейського походження. Він народився в Кошицях у родині власника міського млина.
Вайс навчався у Будапештській музичній академії: гри на фортепіано — у Ференца Еркеля, композиції — у Роберта Фолькмана. У 1877 році дебютував на концерті студентів консерваторії, виконавши власну п’єсу «Вступ і марш». У 1880–1882 роках паралельно з навчанням в академії брав приватні уроки у Ференца Ліста. На студентському концерті 1882 року він виконав скерцо зі своєї першої симфонії ре мінор у перекладенні для двох фортепіано.
Після закінчення академії Вайс оселився в Берліні на запрошення імпресаріо Германа Вольфа. Імовірно, певний час він також навчався у Моріца Мошковського. З 1884 року гастролював у різних європейських країнах. У 1891 році у Веймарі виконав свій Фортепіанний концерт ля мінор, ор. 13, під орудою Ріхарда Штрауса. До 1890 року викладав у Новій музичній академії.
У 1891–1892 роках Вайс викладав фортепіано в Санкт-Петербурзькій консерваторії. Серед його учнів були Самуїл Майкапар, Леонід Щедрін та Олександра Снєткова. У Санкт-Петербурзі Вайс також виступав як піаніст і знову виконав свій концерт, цього разу під орудою Леопольда Ауера. У 1893 році він повернувся до Німеччини й відновив концертну діяльність.
У сезоні 1899–1900 років Вайс дав сім концертів у Нью-Йорку; у програмах переважали твори Фридерика Шопена, Ференца Ліста та Йоганнеса Брамса. Під час наступного перебування в місті він мав виконати Фортепіанний концерт Роберта Шумана з Нью-Йоркським філармонічним оркестром у Карнеґі-холі, але відмовився від виступу після репетиції. Пізніше того ж періоду він дав у Шверіні концерт із творів Ліста. До цього часу належать і його перші записи.
У 1913 році Вайс написав музику до німецького фільму «Празький студент» і виконав її на прем’єрі в Берліні. З 1914 року викладав у Консерваторії Штерна. Він виступав і в 1920-х роках; останні відомі записи, зокрема Сонати № 18 і № 23 Людвіга ван Бетховена, датовані 1924 роком. Пізніше Вайс мешкав у Кошицях, а згодом у Будапешті. Він помер у 1945 році в Будапештському гетто; точна дата смерті невідома.