Jakob (také Jacob) Sakom se narodil 9. července 1877 v židovsko-litevské rodině právníků. Navštěvoval gymnázium v ​​Rize a následně studoval přírodní vědy na Kyjevské univerzitě, kde získal doktorát z přírodních věd. Zároveň Sakom studoval v letech 1897 až 1902 hru na violoncello u Friedricha W. Mulerta na Císařské hudební škole v Kyjevě. V roce 1902 Sakom odjel se svou ženou Sophií, rozenou Kaganovou, se kterou se oženil v Litvě, do Německa, kde v letech 1902 až 1905 pokračoval ve studiu hudby v Lipsku, kde studoval hru na violoncello u Julia Klengela a teorii a skladbu u Stephana Krehla.