You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
PaddleSpeech/docs/source/tts/svs_music_score.md

7.6 KiB

本人非音乐专业人士,如文档中有误欢迎指正。

一、常见基础

1.1 简谱和音名note

上图从左往右的黑键音名分别是C#/DbD#/DbF#/DbG#/AbA#/Bb 钢琴88键如下图分为大字一组大字组小字组小字一组小字二组小字三组小字四组。分别对应音名的后缀是 1 2 3 4 5 6例如小字一组C大调包含的键分别为 C4C#4/Db4D4D#4/Eb4E4F4F#4/Gb4G4G#4/Ab4A4A#4/Bb4B4
钢琴八度音就是12345671八个音最后一个音是高1。遵循:全全半全全全半 就会得到 1 2 3 4 5 6 7 (高)1 的音

1.2 十二大调

“#”表示升调

“b”表示降调

什么大调表示Do(简谱1) 这个音从哪个键开始例如D大调则用D这个键来表示 Do这个音。 下图是十二大调下简谱与音名的对应表。

1.3 Tempo

Tempo 用于表示速度Speed of the beat/pulse一分钟里面有几拍beats per mimute BPM

whole note --> 4 beats
half note --> 2 beats
quarter note --> 1 beat
eighth note --> 1/2 beat
sixteenth note --> 1/4 beat

二、应用试验

2.1 从谱中获取 music scores

music scores 包含notenote_duris_slur

从左上角的谱信息 bE 可以得出该谱子是 降E大调可以对应1.2小节十二大调简谱音名对照表根据 简谱获取对应的note 从左上角的谱信息 quarter note 可以得出该谱子的速度是 一分钟95拍beat,一拍的时长 = 60/95 = 0.631578s 从左上角的谱信息 4/4 可以得出该谱子表示四分音符为一拍分母的4每小节有4拍分子的4

从该简谱上可以获取 music score 如下:

text phone 简谱(辅助)后面的点表示高八音 note (从小字组开始算) 几拍(辅助) note_dur is_slur
x 5 A#3/Bb3 0.315789 0
iao 5 A#3/Bb3 0.315789 0
j 1. D#4/Eb4 0.315789 0
iu 1. D#4/Eb4 0.315789 0
w 2. F4 0.315789 0
o 2. F4 0.315789 0
ch 3. G4 0.315789 0
ang 3. G4 0.315789 0
ang 1. D#4/Eb4 0.315789 1
j 1. D#4/Eb4 0.315789 0
ie 1. D#4/Eb4 0.315789 0
ie 5 A#3/Bb3 0.315789 1
m 5 A#3/Bb3 0.631578 0
ao 5 A#3/Bb3 0.631578 0
sh 5 A#3/Bb3 0.315789 0
i 5 A#3/Bb3 0.315789 0
n 3. G4 0.315789 0
i 3. G4 0.315789 0
z 2. F4 0.315789 0
ui 2. F4 0.315789 0
m 3. G4 0.315789 0
ei 3. G4 0.315789 0
d 2. F4 0.315789 0
e 2. F4 0.315789 0
j 7 D4 0.315789 0
i 7 D4 0.315789 0
h 5 A#3/Bb3 0.315789 0
ao 5 A#3/Bb3 0.315789 0

2.2 一些实验

序号 说明 合成音频diffsinger_opencpop + pwgan_opencpop
1 原始 opencpop 标注的 notesnote_dursis_slurs升F大调起始在小字组第3组
2 原始 opencpop 标注的 notes 和 is_slursnote_durs 改变(从谱子获取)
3 原始 opencpop 标注的 notes 去掉 rest毛字一拍is_slurs 和 note_durs 改变(从谱子获取)
4 从谱子获取 notesnote dursis_slurs不含 rest毛字一拍起始在小字一组第3组
5 从谱子获取 notesnote dursis_slurs加上 rest 毛字半拍rest半拍起始在小字一组第3组
6 从谱子获取 notes is_slurs包含 restnote_durs 从原始标注获取起始在小字一组第3组
7 从谱子获取 notesnote dursis_slurs不含 rest毛字一拍起始在小字一组第4组

上述实验表明通过该方法来提取 music score 是可行的,但是在应用中可以灵活地在歌词中加"AP"(用来表示吸气声)和"SP"(用来表示停顿声),对应的在 note 上加 rest,会使得整体的歌声合成更自然。 除此之外,还要考虑哪一个大调并且以哪一组为起始得到的 note 在训练数据集中出现过,如若推理时传入训练数据中没有见过的 note 合成出来的音频可能不是我们期待的音调。

三、其他

3.1 读取midi

import mido
mid = mido.MidiFile('2093.midi')