鸡尾酒会算法SVD实现…在一行代码中?
machine-learning
matlab
7
0

在斯坦福大学的Andrew Ng在Coursera的机器学习入门演讲的幻灯片中,他给出了鸡尾酒会问题的以下单行八度音阶解决方案,因为音频源是由两个空间分开的麦克风录制的:

[W,s,v]=svd((repmat(sum(x.*x,1),size(x,1),1).*x)*x');

幻灯片的底部是“来源:Sam Roweis,Yair Weiss,Eero Simoncelli”,而幻灯片的底部是“音频剪辑由Te-Won Lee提供”。吴教授在影片中说:

“因此,您可能会看这样的无监督学习,并问,'实施此过程有多复杂?”似乎要构建此应用程序,似乎要进行音频处理,您将编写大量代码,或者链接到处理音频的一堆C ++或Java库中。处理音频的复杂程序:分离音频等,结果证明该算法可以完成您刚刚听到的操作,只需一行代码即可完成……如此处所示,这花费了研究人员很长时间因此,我并不是说这是一个简单的问题。但是事实证明,当您使用正确的编程环境时,许多学习算法实际上都是很短的程序。”

在视频讲座中单独播放的音频结果并不完美,但在我看来却是惊人的。有人对那一行代码的性能有何见解?尤其是,没有人知道参考文献来解释Te-Won Lee,Sam Roweis,Yair Weiss和Eero Simoncelli在那一行代码方面的工作吗?

更新

为了证明算法对麦克风分离距离的敏感性,下面的模拟(以八度为单位)将音调与两个空间分离的音调发生器分开。

% define model 
f1 = 1100;              % frequency of tone generator 1; unit: Hz 
f2 = 2900;              % frequency of tone generator 2; unit: Hz 
Ts = 1/(40*max(f1,f2)); % sampling period; unit: s 
dMic = 1;               % distance between microphones centered about origin; unit: m 
dSrc = 10;              % distance between tone generators centered about origin; unit: m 
c = 340.29;             % speed of sound; unit: m / s 

% generate tones
figure(1);
t = [0:Ts:0.025];
tone1 = sin(2*pi*f1*t);
tone2 = sin(2*pi*f2*t);
plot(t,tone1); 
hold on;
plot(t,tone2,'r'); xlabel('time'); ylabel('amplitude'); axis([0 0.005 -1 1]); legend('tone 1', 'tone 2');
hold off;

% mix tones at microphones
% assume inverse square attenuation of sound intensity (i.e., inverse linear attenuation of sound amplitude)
figure(2);
dNear = (dSrc - dMic)/2;
dFar = (dSrc + dMic)/2;
mic1 = 1/dNear*sin(2*pi*f1*(t-dNear/c)) + \
       1/dFar*sin(2*pi*f2*(t-dFar/c));
mic2 = 1/dNear*sin(2*pi*f2*(t-dNear/c)) + \
       1/dFar*sin(2*pi*f1*(t-dFar/c));
plot(t,mic1);
hold on;
plot(t,mic2,'r'); xlabel('time'); ylabel('amplitude'); axis([0 0.005 -1 1]); legend('mic 1', 'mic 2');
hold off;

% use svd to isolate sound sources
figure(3);
x = [mic1' mic2'];
[W,s,v]=svd((repmat(sum(x.*x,1),size(x,1),1).*x)*x');
plot(t,v(:,1));
hold on;
maxAmp = max(v(:,1));
plot(t,v(:,2),'r'); xlabel('time'); ylabel('amplitude'); axis([0 0.005 -maxAmp maxAmp]); legend('isolated tone 1', 'isolated tone 2');
hold off;

在我的便携式计算机上执行大约10分钟后,该模拟生成以下三个图形,说明两个隔离的音调具有正确的频率。

图1图2图3

但是,将麦克风的分离距离设置为零(即dMic = 0)会使模拟生成以下三个图形,这些图形说明模拟无法隔离第二个音调(由svd矩阵中返回的单个有效对角线项确认)。

图1没有麦克风分离图2没有麦克风分离图3没有麦克风分离

我希望智能手机上的麦克风间距足够大,以产生良好的效果,但是将麦克风间距设置为5.25英寸(即dMic = 0.1333米)会导致模拟产生以下结果,但不令人鼓舞,这些数据说明第一隔离音中的频率分量。

智能手机上的图1智能手机上的图2智能手机上的图3

参考资料:
Stack Overflow
收藏
评论
共 2 个回答
高赞 时间 活跃

x(t)是来自一个通道/麦克风的原始语音。

X = repmat(sum(x.*x,1),size(x,1),1).*x)*x'x(t)功率谱的估计。尽管X' = X ,但行和列之间的间隔根本不相同。每行代表信号的时间,而每列代表频率。我想这是对称为光谱图的更严格表达的估计和简化。

频谱图上的奇异值分解用于基于频谱信息将信号分解为不同的分量。 s中的对角线值是不同频谱分量的大小。 u的行和v'中的列是正交向量,这些正交向量将具有相应幅度的频率分量映射到X空间。

我没有要测试的语音数据,但是据我了解,借助SVD,希望将落入相似正交向量中的分量在无监督学习的帮助下进行聚类。假设,如果将s的前两个对角线幅度进行聚类,则u*s_new*v'将形成一个人声,其中s_news相同,除了(3:end,3:end)所有元素被淘汰。

有关声矩阵SVD的两篇文章供您参考。

收藏
评论

两年后,我也试图弄清楚这一点。但是我得到了答案。希望它将对某人有所帮助。

您需要2录音。您可以从http://research.ics.aalto.fi/ica/cocktail/cocktail_en.cgi获得音频示例。

实施参考是http://www.cs.nyu.edu/~roweis/kica.html

好的,这是代码-

[x1, Fs1] = audioread('mix1.wav');
[x2, Fs2] = audioread('mix2.wav');
xx = [x1, x2]';
yy = sqrtm(inv(cov(xx')))*(xx-repmat(mean(xx,2),1,size(xx,2)));
[W,s,v] = svd((repmat(sum(yy.*yy,1),size(yy,1),1).*yy)*yy');

a = W*xx; %W is unmixing matrix
subplot(2,2,1); plot(x1); title('mixed audio - mic 1');
subplot(2,2,2); plot(x2); title('mixed audio - mic 2');
subplot(2,2,3); plot(a(1,:), 'g'); title('unmixed wave 1');
subplot(2,2,4); plot(a(2,:),'r'); title('unmixed wave 2');

audiowrite('unmixed1.wav', a(1,:), Fs1);
audiowrite('unmixed2.wav', a(2,:), Fs1);

在此处输入图片说明

收藏
评论
新手导航
  • 社区规范
  • 提出问题
  • 进行投票
  • 个人资料
  • 优化问题
  • 回答问题

关于我们

常见问题

内容许可

联系我们

@2020 AskGo
京ICP备20001863号