محمد رحیم خوشنواز در سال 1324 در محله مومندا در شهر هرات به دنیا آمد. موسیقی در خانواده وی موروثی بود، پدر بزرگ چهار تار ایرانی و طبله می نواخت. نوازندگی را با ساز تنبوره که انواع چهار سیم و شش سیم دارد ،اغاز و ده سالگی نواختن رباب را شروع کرد. ابتدا موسیقی را نزد پدرش استاد امیر جان آموخت و مدتی هم نزد استاد محمد عرب، رباب نواز معروف کشور شاگردی کرد. وی در جلسه های موسیقی استاد محمد حسین سر آهنگ، استاد رحیم بخش و استاد امیر محمد، رباب و گاهی تنپوره می نواخت. وی غیر از رباب نوازی به ساختن رباب، نواختن دلربا ، تنپوره، دو تار و چهار تار هم تبحر داشت.