あーー連絡きた😇
Web制作ツール「Studio」全ユーザーの情報漏えいか フォームに送信された内容、外部APIキーなども
itmedia.co.jp/news/article/2…
うんうんなんでその環境が手元にあるんですか?😂
ローカルLLMでAIエージェントを速くしていくと、待ち時間の主役は入力の読み込みから回答の生成へ移っていきます。
RTX 5070 12GB+RTX 5060 Ti 16GB、Qwen3.8-Flash-Next(IQ2_XS)、Strataの構成でOpenCodeに小さなCLIを作らせたところ、約197秒のうち生成が約161秒(83%)、読み込みは約33秒(17%)でした。
それまでの入力を再利用できているため、新しく読み込む量は少なく済んでいます。
こうなると、次に効いてくるのはモデルがどれだけトークンを生成するかです。思考モードで長く考えるほど生成量が増え、そのまま作業時間に乗ってきます。
今回はOpenCode側で reasoningEffort を low にしていました。
読み込みの対策が済んだら、次は reasoning_effort や reasoning_budget_tokens の調整が効いてくると考えられます。計測は1回です。
まさにこれだなと思います
小規模システムの技術的なところいじったところで誰も喜ばない(ビジネス価値が薄い)ので多くのユーザを抱えるプロダクトに惹かれますね
Anthropicを見ていると、やっぱり適切な技術課題がある会社でエンジニアをやるのは面白いよなと思う。
例えば、彼らが解決している技術課題も、小規模な会社が「Gitの代替を作りました」と言ったところで、ビジネス的な価値はほとんどない。でも、彼らの規模だからこそ、その技術課題を解決することに莫大なビジネス的価値が生まれる。
「エンジニアのキャリア地図」でも書いたけど、適切な会社に行けば、その事業規模だからこそ生まれる技術的な課題があって、それをエンジニアが主体的に解決できる。
これこそエンジニアという仕事の面白さだと思うんですよね。
ビジネスサイドから降ってきた要件をただ実装するのと、自分たちで技術課題を発見し、解決することで事業に大きなインパクトを与えるのとでは、仕事の面白さが全然違う。
AIに強いインフラエンジニアになりたい retweeted
楽天カードユーザー必見です!僕はこれで学生ながら総資産200万達成しました。始めの一歩としては十分な記事だと思います
note.com/kishi_ai_cloud/n/nb…
楽天カードユーザー必見です!僕はこれで学生ながら総資産200万達成しました。始めの一歩としては十分な記事だと思います
note.com/kishi_ai_cloud/n/nb…






