写在前面:
根据Web项目开发需求,需要在H5页面中,通过点击视频列表页中的任意视频进入视频详情页,然后根据视频的链接地址,主要是 .mp4 文件格式,在进行播放时实时的显示该视频的音频轨道情况,并实时的将各音频轨道数据以可视化(响度跳表)的形式展现出来。
实现效果
关键技术
在Web浏览器中,想要获取多媒体文件的相关数据信息,需要借助对应的API来完成,比如获取视音文件的音频信息,就需要用到Web Audio API,通过该API我们可以轻松做到播放声音、获取声音数据,修改声音数据、甚至还可以制造声音。
Web Audio API
Web Audio API 提供了在 Web 上控制音频的一个非常有效通用的系统,允许开发者来自选音频源,对音频添加特效,使音频可视化,添加空间效果(如平移),等等。
它可以设置不同的音频来源(包括节点、 ArrayBuffer 、用户设备等),对音频添加音效,生成可视化图形等。
Web Audio API 使用户可以在音频上下文(AudioContext)中进行音频操作,具有模块化路由的特点。在音频节点上操作进行基础的音频,它们连接在一起构成音频路由图。
即使在单个上下文中也支持多源,尽管这些音频源具有多种不同类型通道布局。这种模块化设计提供了灵活创建动态效果的复合音频的方法。
Web Audio API 是 JavaScript 中主要用于在网页应用中处理音频请求的一个高级应用接口,这个 API 目的是用于让最新技术与传统的游戏音频引擎的综合处理相兼容,也即尽力提供一些桌面音频处理程序的要求。
- 查看音频播放期间调度事件发生的确切时间;
- 支持各种类型的音频过滤波器以实现各种效果,包括回声、消除噪音等;
- 支持利用合成声音(Sound synthesis)创建电子音乐;
- 支持3D位置音频模拟效果,比如某种声音随着游戏场景而移动;
- 支持外部输入的声音与 WebRTC 进行集成(调用 WebRTC ,在你的设备中增添吉他声),或者在 - WebRTC 中调用其他地方传输过来的声音;
- 利用音频数据分析创造良好的可视化声音等。
了解更多API:
https://www.w3.org/TR/webaudio、https://developer.mozilla.org/zh-CN/docs/Web/API/Web_Audio_API
实例代码
1. HTML标签
由于video和audio都有音频,所以我们可以video或者audio来获取输入源,除此以外,我们还可以通过 navigator.getUserMedia API 或 Ajax请求的方式来获取输入源。
<video loop controls><source src="./media/xxx.mp4" type="video/mp4" />
</video>
<audio loop controls><source src="./media/xxx.mp3" type="audio/mp3" />
</audio>
2.JavaScript代码
在创建AudioContext 上下文环境对象时, 由于浏览器安全策略要求音频上下文必须在用户事件(单击、键盘按键等)中启用。这意味着,如果您尝试在没有用户事件的情况下自动播放音乐,所以在loadedmetadata元数据已加载时再执行!!
// 创建一个 AudioContext 环境
const ac = new (window.AudioContext || window.webkitAudioContext)();// 从 video 或 audio 标签元素中拿到输入源
const audio = document.querySelector("video");
// const audio = document.querySelector("audio");// 创建并获取输入源
const audioSource = ac.createMediaElementSource(audio);
// 音频通道数 默认值是 2,最高能取 32
const channelCount = 2 || audioSource.channelCount;
// 创建音频处理器
const processor = ac.createScriptProcessor(2048, channelCount, channelCount);
// 链接音频处理器
audioSource.connect(processor).connect(ac.destination);
// connect到扬声器
audioSource.connect(ac.destination);// 监听音频处理器每次处理的样本帧
processor.onaudioprocess = (evt) => {//获取声轨1输入的缓冲区数据let input =evt.inputBuffer.getChannelData(0);//获取声轨1输出的缓冲区数据let output = evt.outputBuffer.getChannelData(0);
};
3. 完整实例代码
可以通过添加本地的视频 或 音频文件,来测试对应的声道,并实时的渲染到响度跳表中,需要注意的是,音频跳表从-60开始的原因主要是,当输出音量接近满载时,THD(总谐波失真)的表现会比较差,此时产生的谐波会盖掉原本存在的背景噪音,影响到测试成绩。因此,采用-60dB的测试信号。
音频跳表值通常在-60dB到+3dB之间。在音频设备测试中,跳表值反映了设备的频率响应和增益。不同的音频设备可能会有不同的跳表值范围,根据测试标准和设备要求而定。
<!DOCTYPE html>
<html lang="en"><head><meta charset="UTF-8" /><meta http-equiv="X-UA-Compatible" content="IE=edge" /><meta name="viewport" content="width=device-width, initial-scale=1.0" /><script async src="//hm.baidu.com/hm.js?f79493fc378b2235419a88daa91d5f6d"></script><title>Web前端JS如何获取 Video/Audio 视音频声道(左右声道|多声道)、视音频轨道、音频流数据</title><style>body {padding: 50px;}audio,input[type="file"] {width: 471px;}input[type="range"] {transform: rotate(-90deg);}button {font-size: 16px;}</style></head><body><h1>Web前端JS如何获取 Video/Audio 视音频声道(左右声道|多声道)、视音频轨道、音频流数据</h1><hr /><br /><br /><br /><button type="button" id="LBTN">左声道(L)</button><input type="range" id="L" min="-60" max="3" style="margin-left: 13px" />添加本地视音频:<input id="file" type="file" /><input type="range" id="R" min="-60" max="3" /><button type="button" id="RBTN">右声道(R)</button><br /><br /><div class="box"><button type="button" id="SLBTN">左环绕(SL)</button><input type="range" id="SL" min="-60" max="3" /><!--<audio controls loop width="600"><source src="./media/xxx.mp3" type="audio/mp3" /></audio>--><video controls loop width="600"><source src="./media/xxx.mp4" type="video/mp4" /></video><input type="range" id="SR" min="-60" max="3" /><button type="button" id="SRBTN">右环绕(SR)</button></div><script>// 获取本地视音频file.addEventListener("change", function () {const file = this.files[0];console.log(file);if ("video/mp4".startsWith("video")) {// video.src = window.URL.createObjectURL(file);audio.src = window.URL.createObjectURL(file);} else {audio.src = window.URL.createObjectURL(file);}});// 计算音频跳表数据const getDbFromFloat = (floatVal) => {return (Math.log(10) / Math.log(floatVal)) * 20;};const audio = document.querySelector("video");let ac = null;// 音频元数据加载后执行audio.addEventListener("loadedmetadata", () => {// 上下文对象 由于浏览器安全策略要求音频上下文必须在用户事件(单击、键盘按键等)中启用。这意味着,如果您尝试在没有用户事件的情况下自动播放音乐,所以在loadedmetadata元数据已加载时再执行!!ac = new (window.AudioContext || window.webkitAudioContext)();// 创建并获取输入源const audioSource = ac.createMediaElementSource(audio);// 缓冲区大小 取值为 2 的幂次方的一个常数const bufferSize = 2048;// 音频通道数 默认值是 2,最高能取 32const channelCount = 4 || audioSource.channelCount;// 创建音频处理器const processor = ac.createScriptProcessor(bufferSize, channelCount, channelCount);// 链接音频处理器audioSource.connect(processor).connect(ac.destination);// 链接到扬声器audioSource.connect(ac.destination);audio.play();// 监听音频处理器每次处理的样本帧processor.onaudioprocess = (evt) => {// console.log("音频通道数:", evt.inputBuffer.numberOfChannels);//获取声轨1输入的缓冲区数据// evt.inputBuffer.getChannelData(0);//获取声轨1输出的缓冲区数据// evt.outputBuffer.getChannelData(0);{// 声轨1let input = evt.inputBuffer.getChannelData(0),len = input.length,i = 0;while (i < len) {L.value = getDbFromFloat(input[i++]);}};{// 声轨2let input = evt.inputBuffer.getChannelData(1),len = input.length,i = 0;while (i < len) {R.value = getDbFromFloat(input[i++]);}};{// 声轨3let input = evt.inputBuffer.getChannelData(2),len = input.length,i = 0;while (i < len) {SL.value = getDbFromFloat(input[i++]);}};{// 声轨4let input = evt.inputBuffer.getChannelData(3),len = input.length,i = 0;while (i < len) {SR.value = getDbFromFloat(input[i++]);}};};}, false );// 监听音频播放时,激活当前播放audio.addEventListener('play', () => {ac.resume();}, false );// 监听音频暂停时,挂起当前播放audio.addEventListener('pause', () => {ac.suspend();}, false );</script></body>
</html>