由良川流域には最上流の三国岳(959.0m)を最高峰に頂き、幾つもの尾根が連なっています。流域の外周で名前をもつ山は60以上あり、流域内にも上流域の中心部に座す長老ヶ岳(916.9m)、中流域の親不知(604.6m)や鬼ヶ城(544m)、下流域右岸の三岳山(839.2m)や大江山(832.5m)等、大小の山々があります。三つの国や郡の境に位置する三国岳などの国境の山が6山を数え、「冨士」の名を付けて地元で親しまれている三角状の山も9山あります。
由良川は丹波山地に無数の山ひだを刻み込んでおり、丹波山地は何十万年という長い年月をかけて形成される間に、山の形や川筋はたびたび変わっています。流域の分水界のうち、平坦地には6ヶ所あり、川の流れが一様でなかったことを物語っています。氷上町石生の分水界は日本列島の中央分水界にあたり、そのなかでも最も低い標高95mです。