electron-duix v0.1.9

硅基electron-duix使用文档

安装

npm i electron-duix -S

注意

创建window窗口需要设置允许渲染进程和worker中使用node

 const mainWindow = new BrowserWindow({
    ...
    webPreferences: {
      nodeIntegration: true,
      contextIsolation: false,
      nodeIntegrationInWorker: true,
      webSecurity: false,
    }
  });

快速开始

const duix = require('electron-duix')
// 添加事件监听
duix.on('progress', data => {
 // 加载进度 0-1
})
duix.on('show', () => {
  // 数字人已显示
})
duix.on('speakStart', res => {
 // speak开始
})
duix.on('speakSection', res => {
  // 播放音频片段
})
duix.on('speakEnd', res => {
  // speak结束
})
duix.on('openAsrSuccess', () => {
  // 开启asr成功
})
duix.on('asrClose', () => {
  // asr已关闭
})
duix.on('asrResult', res => {
  // asr失败结果
})
duix.on('bye', (res) => {
  // 会话结束
})
duix.on('error', res => {
  // 会话异常
  if (res.code == 5001) {
    console.info('模型加载失败')
  }
})

const res = await duix.init({
  modelDir: 'xxx',
  appId: 'xxx',
  appKey: 'xxx',
  containerLable: '.remote-container'
})

if (!res?.err) {
  duix.start({ conversationId: 'xxx' })
}

方法

init(option: object): Promise

duix.init({
  modelDir: 'xxx',
  appId: 'xxx',
  appKey: 'xxx',
  containerLable: '.remote-container' 
})

参数

start(option:object): Promise

duix.start({
  conversationId: '',    
})

参数

break()

打断数字人说话

speak(option: Object): Promise

驱动数字人说话，支持文本驱动和音频文件驱动。

duix.speak({content: '', audio: 'https://your.website.com/xxx/x.wav'})

参数

answer(option: Object): Promise

数字人回答问题

duix.answer({question: 'xxx'})

参数

openAsr():Promise

开启语音实时识别(注意此方法需在show触发时候调用)。开启语音实时识别后，可通过监听 asrResult 事件，接收识别（文本）结果。

closeAsr():Promise

关闭语音实时识别。

stop()

停止当前会话。建议在页卸载事件中调用此方法，以防止刷新或关闭网页时当前会话资源未及时释放。

getLocalStream()

获取本地语音流，方便外部做音频可视化等功能

on(eventname, callback)

监听事件。

参数

eventname

事件名称，详见下方表格。

callback

回调函数

返回格式说明

对于返回Promise的方法，参数格式为{ err, ...data },如果err不为空，则代表调用失败。

事件

error

{
  code: '', // 错误码  
  message: '', // 错误信息
  data: {} // 错误内容
}

error code

progress

number类型的进度，0-1

speakSection

{
  audio: '', // 音频地址
  content: '', // 文本内容
}

speakStart

{
  audio: '', // 音频地址
  content: '', // 文本内容
}

speakEnd

{
  audio: '', // 音频地址
  content: '', // 文本内容
}

asrResult

字符串类型，asr识别文本结果

常见问题

版本记录

0.1.5

1. 优化渲染逻辑，解决音画不同步问题。