如何在谷歌浏览器中使用usergetmedia并流式传输原始音频?我需要以线性16的格式获取音频。
如何在谷歌浏览器中使用usergetmedia并流式传输原始音频?我需要以线性16的格式获取音频。
很遗憾,MediaRecorder不支持原始PCM捕获。(在我看来是一个悲伤的疏忽。) 因此,您需要自己获取原始样本并进行缓冲/保存。
您可以使用ScriptProcessorNode来完成这个任务。通常,该节点用于以编程方式修改音频数据,以获得自定义效果等。但是,您完全可以将其用作捕获点。尚未经过测试,但请尝试以下代码:
const captureNode = audioContext.createScriptProcessor(8192, 1, 1);
captureNode.addEventListener('audioprocess', (e) => {
const rawLeftChannelData = inputBuffer.getChannelData(0);
// rawLeftChannelData is now a typed array with floating point samples
});
您可以在MDN上找到一个更完整的示例。
这些浮点数样本以零0
为中心,理想情况下将绑定到-1
和1
。在转换为整数范围时,您需要将值夹紧到此范围,并裁剪超出此范围的任何内容。(如果在浏览器中混合了大声音乐,则值有时可能超过-1
和1
。理论上,浏览器还可以从外部声音设备记录float32样本,这些样本可能超出该范围,但我不知道有哪个浏览器/平台会这样做。)
在转换为整数时,值是有符号还是无符号很重要。如果是有符号的,对于16位,范围是-32768
至32767
。对于无符号的,它是0
到65535
。确定您要使用的格式,并将-1
至1
的值缩放到该范围。
这里有一些Web Audio API,它使用麦克风捕获和播放原始音频(在运行此页面之前请将音量调低)...要查看PCM格式的原始音频片段,请查看浏览器控制台...为了好玩,它还将这个PCM发送到FFT调用中,以获取音频曲线的频域和时域
<html><head><meta http-equiv="Content-Type" content="text/html; charset=ISO-8859-1">
<title>capture microphone then show time & frequency domain output</title>
<script type="text/javascript">
var webaudio_tooling_obj = function () {
var audioContext = new AudioContext();
console.log("audio is starting up ...");
var BUFF_SIZE_RENDERER = 16384;
var SIZE_SHOW = 3; // number of array elements to show in console output
var audioInput = null,
microphone_stream = null,
gain_node = null,
script_processor_node = null,
script_processor_analysis_node = null,
analyser_node = null;
if (!navigator.getUserMedia)
navigator.getUserMedia = navigator.getUserMedia || navigator.webkitGetUserMedia ||
navigator.mozGetUserMedia || navigator.msGetUserMedia;
if (navigator.getUserMedia){
navigator.getUserMedia({audio:true},
function(stream) {
start_microphone(stream);
},
function(e) {
alert('Error capturing audio.');
}
);
} else { alert('getUserMedia not supported in this browser.'); }
// ---
function show_some_data(given_typed_array, num_row_to_display, label) {
var size_buffer = given_typed_array.length;
var index = 0;
console.log("__________ " + label);
if (label === "time") {
for (; index < num_row_to_display && index < size_buffer; index += 1) {
var curr_value_time = (given_typed_array[index] / 128) - 1.0;
console.log(curr_value_time);
}
} else if (label === "frequency") {
for (; index < num_row_to_display && index < size_buffer; index += 1) {
console.log(given_typed_array[index]);
}
} else {
throw new Error("ERROR - must pass time or frequency");
}
}
function process_microphone_buffer(event) {
var i, N, inp, microphone_output_buffer;
// not needed for basic feature set
// microphone_output_buffer = event.inputBuffer.getChannelData(0); // just mono - 1 channel for now
}
function start_microphone(stream){
gain_node = audioContext.createGain();
gain_node.connect( audioContext.destination );
microphone_stream = audioContext.createMediaStreamSource(stream);
microphone_stream.connect(gain_node);
script_processor_node = audioContext.createScriptProcessor(BUFF_SIZE_RENDERER, 1, 1);
script_processor_node.onaudioprocess = process_microphone_buffer;
microphone_stream.connect(script_processor_node);
// --- enable volume control for output speakers
document.getElementById('volume').addEventListener('change', function() {
var curr_volume = this.value;
gain_node.gain.value = curr_volume;
console.log("curr_volume ", curr_volume);
});
// --- setup FFT
script_processor_analysis_node = audioContext.createScriptProcessor(2048, 1, 1);
script_processor_analysis_node.connect(gain_node);
analyser_node = audioContext.createAnalyser();
analyser_node.smoothingTimeConstant = 0;
analyser_node.fftSize = 2048;
microphone_stream.connect(analyser_node);
analyser_node.connect(script_processor_analysis_node);
var buffer_length = analyser_node.frequencyBinCount;
var array_freq_domain = new Uint8Array(buffer_length);
var array_time_domain = new Uint8Array(buffer_length);
console.log("buffer_length " + buffer_length);
script_processor_analysis_node.onaudioprocess = function() {
// get the average for the first channel
analyser_node.getByteFrequencyData(array_freq_domain);
analyser_node.getByteTimeDomainData(array_time_domain);
// draw the spectrogram
if (microphone_stream.playbackState == microphone_stream.PLAYING_STATE) {
show_some_data(array_freq_domain, SIZE_SHOW, "frequency");
show_some_data(array_time_domain, SIZE_SHOW, "time"); // store this to record to aggregate buffer/file
}
};
}
}(); // webaudio_tooling_obj = function()
</script>
</head>
<body>
<p>Volume</p>
<input id="volume" type="range" min="0" max="1" step="0.1" value="0.0"/>
<p> </p>
<button onclick="webaudio_tooling_obj()">start audio</button>
</body>
</html>
注意 - 在浏览器中运行上述代码之前,请先将音量调低,因为该代码既会监听您的麦克风,又会实时向扬声器发送输出,因此您自然会听到反馈 --- 就像吉米·亨德里克斯的反馈一样。
这个方法对我很有帮助。 - asnovsampleSize
约束,如果您的音频硬件允许,可以将采样大小设置为16位。这个库增加了对音频/pcm的支持。它基本上是一个即插即用的替代品。
https://github.com/streamproc/MediaStreamRecorder
替换类名,然后将 mimetype 添加为 pcm。就像下面这样。
var mediaRecorder = new MediaStreamRecorder(stream);
mediaRecorder.mimeType = 'audio/pcm';