DubGuild CEO / Scaling Speech AI / https://xitter.cf/t.co/evpBhMkhaU
Joined October 2022
- Tweets679
- Following1.1K
- Followers1.1K
- Likes2.1K
Otake retweeted
Real-world noise makes speech tokens unstable.
We train a neural codec to recover clean speech from degraded audio through augment-and-denoise training.
Our new blog is here！！
blog.dubguild.com/melte/nois…
Otake retweeted
PFNの夏季インターンで取り組んだ内容についてのブログ記事です！
【ブログ】PLaMo Post-trainingチームの夏期インターンに参加した野原大輔さんの寄稿です。ツール呼び出しを伴うLLMの複雑な推論において、累積する文脈を圧縮しコンテキスト長の上限を超えて推論させる技術を研究開発していただきました。 preferred.jp/ja/blog/tech/i2…
これめちゃくちゃ良かったです
要点が非常にわかりやすくまとまっている他、これの採用は普通だね、尖ってるよね、みたいな考察、LLM開発全体を俯瞰する視点もあってとても良かった....
ぜんぜん1時間に収まっておらず、瞳孔かっぴらいて見てもこの画像全然読めないので、可能であれば公開頂きたいところ...🙏
レバテックLABのKimi K3解説イベント、この後12時からです！オンライン開催でまだ登録もできるようなのでよければ是非。資料も準備しましたが、対談形式なので、皆さんの疑問とかもなるべく拾って柔軟に展開出来ればと思ってます。 levtechlab.connpass.com/even… #AI_LTLAB
自分達で基盤モデル作りたい
会社では「まず作りたいよね」という素朴な感情を強く持つことを大事にしたいですね。「OpenAIとどう違うか」的な議論はその後
note.com/mmiya/n/n9a3350ffdc…
プロダクトを作る上で、どんなモデルが必要とされているのか。大変勉強になりました。
nocallの皆さん、本当に考え抜かれてるなと思います。感謝です
DubGuildの大嶽さん@LangProc をお呼びして、
弊社エンジニアに対する
S2S/Full Duplex Modelの勉強会を実施いただき、
nocallのユースケース踏まえながらディスカッションさせていただきました！
めちゃめちゃ解像度あがった。激感謝
Forbes japan 30 under 30に選出頂きました🙌
世界で使われるAIモデルの構築、頑張ります💪
forbesjapan.com/feat/30under…
Otake retweeted
最先端のAIが日本語の漢字をどれだけ正確に読めるかを、13,536文で徹底的に計測して比較した記事を書きました！
・読み推定・LLM：28モデル（MeCabからGPT-5.6まで）
・音声合成：41モデル（OSSや各社の日本語音声AI）
の合計69モデルを比較しています！
zenn.dev/parakeet_tech/artic…
Otake retweeted
テックブログ事後学習編公開！
概要編、前処理編、事前学習編に続き、音声言語モデルのTTSへの事後学習に関する知見をまとめています。
blog.dubguild.com/melte/post…
・SFT＋RLによってJ-HARDのCERと話者類似度を改善
・報酬設計次第では発話が不自然に長くなり、声質がほぼ女性側へ偏る
・BF16では、vLLMとTransformers間のトークン対数確率の差がFP16の約8倍に拡大
Otake retweeted
【ついに先行予約開始】
認知症に寄り添うぬいぐるみ型AIパートナー「AOGU CoCo」、限定50台で先行予約を開始しました。
思い出せないことが増えても、その人は確かにそこにいる。
その人に寄り添い、支えるために、CoCoをつくりました。
"認知症の人"じゃない、私はいつまでも"わたし"。
累計100名以上のモニターの声とともに、ここまで来ました。
先行予約特典：初期費用35,000円→10,000円／初月無料
▼詳細はこちら
prtimes.jp/main/html/rd/p/00…
事前学習編を公開しました！
テックブログ第3弾公開！
概要編、前処理編に続き、日本語音声言語基盤モデルの事前学習に関する知見をまとめています。
・ASRとのマルチタスクより、TTSのみを学習する構成の方がTTSタスクでは高性能（1B）
・テキストデータの混合はモデル規模で効果が異なり、3Bでは10%混合が最良
是非ご覧ください！
blog.dubguild.com/melte/pret…
Otake retweeted
自然すぎて輩が登壇中に大声で喋ってるのかと思ったww AIってここまで来たんですね…。
GENIACキックオフの動画が公開されました。
対話生成のデモを流しています
youtube.com/watch?v=eboUp2zs…