improve: rework `VoiceModel` #830

qryxip · 2024-09-07T20:44:19Z

内容

voice_model.rsの大半を書き直し、 #746 と #828 を行います。また、*.{onnx,bin}についてVoiceModel::from_pathの時点で存在確認を入れるようにします。

その他

qryxip

補足:

crates/voicevox_core/src/voice_model.rs

qryxip · 2024-09-08T08:46:34Z

crates/voicevox_core/src/voice_model.rs

@@ -313,85 +264,202 @@ pub(crate) mod tokio {
    /// 音声モデル。
    ///
    /// VVMファイルと対応する。
-    #[derive(Clone)]


VoiceModelからCloneを外しているのは、現段階での設計がすっきりするという理由もあるのだが #829 をやるためでもある。
（ファイルディスクリプタを専有して排他ロックを掛けることになるため）

qryxip · 2024-09-08T08:48:57Z

crates/voicevox_core_macros/src/inference_domain.rs

-fn struct_fields(data: &Data) -> syn::Result<Vec<(&syn::Ident, &Type)>> {
-    let fields = match data {
-        Data::Struct(DataStruct {
-            fields: Fields::Named(fields),
-            ..
-        }) => fields,
-        Data::Struct(DataStruct { fields, .. }) => {
-            return Err(syn::Error::new(fields.span(), "expect named fields"));
-        }
-        Data::Enum(DataEnum { enum_token, .. }) => {
-            return Err(syn::Error::new(enum_token.span(), "expected a struct"));
-        }
-        Data::Union(DataUnion { union_token, .. }) => {
-            return Err(syn::Error::new(union_token.span(), "expected a struct"));
-        }
-    };
-
-    Ok(fields
-        .named
-        .iter()
-        .map(|Field { ident, ty, .. }| (ident.as_ref().expect("should be named"), ty))
-        .collect())
-}
-


別ファイルに移動。ただしちょっと実装を変更してある（attrsも取得するようにした）

crates/voicevox_core/src/infer/domains.rs

crates/voicevox_core/src/asyncs.rs

qryxip · 2024-09-09T11:27:19Z

crates/voicevox_core/src/voice_model.rs

（WASM版でスレッドプールが使えなさそうという不測はありましたが、）#746 (comment)は本PRのVoiceModelのように設計しようと考えています。

crates/voicevox_core/src/asyncs.rs

crates/voicevox_core/src/voice_model.rs

crates/voicevox_core_macros/src/extract.rs

crates/voicevox_core_macros/src/manifest.rs

Hiroshiba

voice_modelのreadでオンメモリにする感じですよね！
なるほどでした！！！

いくつか僕視点でわからなかった点をコメントしてみました！
まあ別にRustあまりわかってない僕がわからなくても問題ない箇所もあるとは思うので、一旦コメントまでということで･･･！

VOICEVOX#830 (comment)

qryxip · 2024-09-10T12:11:07Z

f580e47 (#830): 細かい部分のリファクタ

crates/voicevox_core/src/asyncs.rs

VOICEVOX#830 (comment)

qryxip · 2024-09-10T18:59:16Z

5cb2bcb (#830): 放送を見て気付いた細かい点を修正

VOICEVOX#830 (comment) https://chatgpt.com/share/cdae540e-5751-43a5-a1fb-ac1f17d6a1b8

Hiroshiba

LGTM！！

@sevenc-nanashi さんのコメントがあるかもと思ったのでマージしてないです。
特になければマージで･･･！

sevenc-nanashi

大丈夫だと思います。

Tokioに依存したプログラムは、async-stdやsmolで使うことはできない。一方、現在のVOICEVOX CORE Rust APIのTokio依存部分は `tokio::task::spawn_blocking`のみである。そのため `tokio::task::spawn_blocking`を、同等の機能を持つblockingクレートのものに置き換えることでRust APIの"脱Tokio"を行う。 https://docs.rs/crate/blocking またこの"脱Tokio"に伴い、Rust APIの`voicevox_core::tokio`を `voicevox_core::nonblocking`にリネームする。 Python APIではpyo3-asyncioが現在Tokio版かasync-std版しかない状態なので、 Tokioに依存した状態のままにしてある。またtest_utilやdownloaderではこれまで通りreqwestに依存する。また将来`Synthesizer`や`OpenJtalk`なども`trait Async`をベースにした設計にすることを考えているが、本PRではTODOコメントを残すのみにしてある。 #830 (comment)

`UserDict`に対して以下の二つを行う。 1. #830 のように`Inner<A: Async>`で共通化する設計にする 2. async-fsを導入することでasync APIとしての質を向上させる

improve: rework VoiceModel

d66ebcf

qryxip requested a review from Hiroshiba September 7, 2024 20:44

qryxip mentioned this pull request Sep 8, 2024

VoiceModelの実装を統合する #746

Closed

3 tasks

qryxip added 2 commits September 8, 2024 17:08

diffを抑える工夫

8759634

Minor refactor

e2ec9b8

qryxip commented Sep 8, 2024

View reviewed changes

qryxip added 3 commits September 8, 2024 19:50

.ref_map(…) → .each_ref().map(…)

4575693

collect_results → collect, collect_future_results → join

05fe9d1

joinからResultのcollectを分離

38ff587

qryxip commented Sep 8, 2024

View reviewed changes

crates/voicevox_core/src/infer/domains.rs Outdated Show resolved Hide resolved

qryxip added 3 commits September 9, 2024 02:02

fixup! diffを抑える工夫

f9066b2

blocking版はblockingクレートに依存しない

3de2135

async_zip v0.0.17に備える

a92d8ff

qryxip commented Sep 9, 2024

View reviewed changes

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

crates/voicevox_core/src/asyncs.rs Outdated Show resolved Hide resolved

crates/voicevox_core/src/asyncs.rs Outdated Show resolved Hide resolved

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

crates/voicevox_core/src/voice_model.rs Show resolved Hide resolved

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

crates/voicevox_core/src/voice_model.rs Show resolved Hide resolved

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

crates/voicevox_core/src/voice_model.rs Outdated Show resolved Hide resolved

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

crates/voicevox_core_macros/src/extract.rs Outdated Show resolved Hide resolved

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

crates/voicevox_core_macros/src/manifest.rs Show resolved Hide resolved

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

qryxip added 5 commits September 10, 2024 17:05

SmolBlocking → BlockingThreadPool

7b7408c

Minor refactor

f580e47

futures_lite::future::block_onを.block_on()として使えるようにする

955bea5

join → join_all

5ee2e70

VOICEVOX#830 (comment)

find_index → find_entry_index

125ae3b

VOICEVOX#830 (comment)

"join"しない

e84fed7

qryxip force-pushed the improve-rework-voice-model branch from ccbda99 to e84fed7 Compare September 10, 2024 14:59

qryxip requested a review from Hiroshiba September 10, 2024 15:23

Hiroshiba reviewed Sep 10, 2024

View reviewed changes

crates/voicevox_core/src/asyncs.rs Outdated Show resolved Hide resolved

qryxip added 2 commits September 11, 2024 03:56

Minor refactor

5cb2bcb

crate::asyncsにdoc

ee7b593

VOICEVOX#830 (comment)

qryxip added a commit to qryxip/voicevox_core that referenced this pull request Sep 12, 2024

Unstoppable → SingleTasked

27265d8

VOICEVOX#830 (comment) https://chatgpt.com/share/cdae540e-5751-43a5-a1fb-ac1f17d6a1b8

Unstoppable → SingleTasked

18991c1

VOICEVOX#830 (comment) https://chatgpt.com/share/cdae540e-5751-43a5-a1fb-ac1f17d6a1b8

qryxip force-pushed the improve-rework-voice-model branch from 27265d8 to 18991c1 Compare September 12, 2024 01:22

Hiroshiba approved these changes Sep 12, 2024

View reviewed changes

sevenc-nanashi approved these changes Sep 12, 2024

View reviewed changes

Hiroshiba merged commit e07c795 into VOICEVOX:main Sep 12, 2024
35 checks passed

This was referenced Sep 12, 2024

change: Rust APIの脱Tokioと、voicevox_core::{tokio→nonblocking} #831

Merged

change: liberate VOICEVOX CORE #825

Draft

qryxip added a commit to qryxip/voicevox_core that referenced this pull request Sep 24, 2024

VOICEVOX#830 の設計をUserDictにも

93d10ae

qryxip mentioned this pull request Sep 24, 2024

#830 の設計をUserDictにも #834

Merged

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

improve: rework `VoiceModel` #830

improve: rework `VoiceModel` #830

qryxip commented Sep 7, 2024

qryxip left a comment

qryxip Sep 8, 2024

qryxip Sep 8, 2024

qryxip Sep 9, 2024

Hiroshiba left a comment

qryxip commented Sep 10, 2024

qryxip commented Sep 10, 2024 •

edited

Loading

Hiroshiba left a comment

sevenc-nanashi left a comment

improve: rework VoiceModel #830

improve: rework VoiceModel #830

Conversation

qryxip commented Sep 7, 2024

内容

関連 Issue

その他

qryxip left a comment

Choose a reason for hiding this comment

qryxip Sep 8, 2024

Choose a reason for hiding this comment

qryxip Sep 8, 2024

Choose a reason for hiding this comment

qryxip Sep 9, 2024

Choose a reason for hiding this comment

Hiroshiba left a comment

Choose a reason for hiding this comment

qryxip commented Sep 10, 2024

qryxip commented Sep 10, 2024 • edited Loading

Hiroshiba left a comment

Choose a reason for hiding this comment

sevenc-nanashi left a comment

Choose a reason for hiding this comment

improve: rework `VoiceModel` #830

improve: rework `VoiceModel` #830

qryxip commented Sep 10, 2024 •

edited

Loading