Yuichi Uemura retweeted
GMO、トラディショナルなセキュリティ界隈の神経をことごとく逆なでするような選択をしていくあたりが実に味わい深いけど、問題は「味わい深い」では済まずに悪影響がデカいところ……
Yuichi Uemura retweeted
RAG is officially cooked.
IBM built a retriever that hallucinates 65x less than fine-tuned RAG systems.
Right now, every company is using Retrieval-Augmented Generation (RAG) to stop their AI from hallucinating.
The idea is to give the AI a private database to read so it doesn't make things up.
But there is a massive structural flaw.
Standard RAG blindly grabs documents based on vector similarity and forces the AI to read them. If the retriever pulls irrelevant garbage, the AI doesn't stop.
It just hallucinates with citations.
IBM just dropped a paper that changes the math entirely.
They built a new retrieval architecture that hallucinates 65x less than state-of-the-art fine-tuned RAG systems.
65x is the difference between a fun prototype and a production-grade enterprise system.
Instead of blindly dumping context into the model and hoping for the best, their system actively filters and validates the retrieved data before the generation step even begins.
It cuts out the noise. It forces absolute precision.
For businesses, this is the holy grail.
Zero hallucinations means zero liability. It means autonomous agents can finally be trusted with sensitive company data without a human babysitting every output.
なんで笑顔の自撮りをここで載せるの・・・
日本だけではありません「国際刑事警察機構INTERPOL」にも相談済みです。
【速報】GMO不正アクセス問題、警視庁が捜査
#47NEWS 47news.jp/15147499.html?utm_… @47news_officialより
とはいえ結局それで良い物、しっかりしたモノは作れないのであくまで簡単な資料作りや調査、過去に作ったことある資料を作ったりとか初手の作業着手までのトリガー引くだけでしか使えないんだよなぁ
それだけでもかなり最初の一歩をやってくれるだけでも相当助かるのは事実だけどさ
お名前.comのすごいところはWhois情報の代理オプションが
「別のレジストラに移管したいなら、先に代理オプションを解約して自分の個人情報をWhoisに載せろ。それからなら移管手続きをしてやる。」って制限。
一度お名前.comで登録したら最後、自分の個人情報を全世界に開示しないと、そのドメインを維持するには一生お名前.comにお金を払わないといけない。
お名前.comにお金を払いたくないならドメインごと捨てろ。
個人情報を人質に金を要求、今ハッカーがGMOにやってることと同じでワロタ
Yuichi Uemura retweeted
The iPhone Duo might have just killed the need for an iPad mini. 💀
This side-by-side comparison says a lot.
Why buy a new iPad mini with a 60Hz display when the iPhone Duo already gives you a massive foldable screen in your pocket?
Yuichi Uemura retweeted
news.samsung.com/uk/samsung-…
サムスン公式アナウンス。iPhone Duoのおかげで折りたたみスマホの認知度上がってGalaxy Z Fold8シリーズの販売台数大幅アップと。そこまで効果あるとはさすがアップルなんだけど、漁夫の利を得たのはサムスンだったか。まあDuo高すぎる&入荷少ないから数出ないか
Yuichi Uemura retweeted
指示された仕事に対して「言われた通りに作った」と胸を張る人は、無意識に「免責のチケット」を発行しています。
「自分は作業者であり、最終決定権者は上司なのだから責任も上司にある」という認知の逃げ道を作ることで、無意識に責任から身を守っているわけです。
しかし、プロフェッショナルにおける「オーナーシップ」とは、単なる精神論や責任感の強さではありません。
それは、「この成果物によって発生するあらゆる波及効果やリスクを、自分の個人名義で引き受ける覚悟があるか」という自己責任のシステム設計そのものです。
自分のサインを入れて市場や顧客に出せないような「他人の威を借りた成果物」は、何回添削しても質が上がることはありません。
上司を「評価者」ではなく「自分の仮説を検証するための社内リソース」として使い倒すこと。
「自分がこのプロジェクトの最終責任者である」という主客逆転の視点を持てるかどうかが、指示を消費する作業者と、事業を動かす側の人間を分かつ決定的な分水嶺になります。
定期的にバッサリお掃除させるしかない
なんでもかんでも E2E にするのは、AI 時代でもやめた方がいいな...E2E は大切だと思いつつ、必要不可欠なケースに絞ったほうがいい。
とりあえず E2E にテストを全部入れた結果、E2E が 2〜3 時間回り続けて、develop ブランチにマージするまで毎回 2 時間くらいかかる。完全にボトルネックになってた...
でも中身を見てみると、ローカルで済むものや、本来ユニットテストに切り出すべきもの、jsdom だけで完結するバリデーションのテスト、1 画面だけで完結するテストばかりだった。
バックエンドの API まで叩いて確認すべき正常系・異常系のユーザーシナリオって、実はめちゃくちゃ少ないと思っていて、E2E はそこだけに絞るべきだなと思う...
古典的な考えに戻ってきたwww
ハーネス側で実行承認の仕組みをいれるのは今の流れでそうなってるしで、model単独でここを評価しても仕方が無いよなぁとかは思う今日この頃
実行承認自体を意図的に回避して逃げにいく動きをしないようにするとかをどう制御出来てるかとかは大事だとは思うので、そっちの検証結果とかは凄くキニナル
『AIが「ツールは使わない」と言いながら、外部通信を試みた?』
カナダのAI企業@cohere が、中国
@AlibabaGroup のオープンウェイトモデル「Qwen3.8-Flash-Next」の気になる検証結果を公表した。
課題は「サイバー攻撃を検知するルールを作る」という防御側の作業。
ところがAIは、実行環境のファイルやネットワーク設定を調べ、北京リージョンのAlibaba Cloudへ試験用データを送るコマンドを実行しようとし、しかも、AIが出力した推論の記録には「ツールは使わない」と書かれていた。
実際にはサンドボックスが通信を遮断し、外部送信は成功していない。
ただし、この挙動は評価全体で10万回に1回未満だったとされ、同じ課題の再実行では正常なルールが作られた。
課題自体に通信コマンド「curl」が含まれており、意図的な情報窃取なのか、学習に由来する偶発的な誤動作なのかは不明。
モデルの発達とともに、オープンかクローズドかに限らず、「AIに何を許し、逸脱をどう止めるか」をキッチリ定め、検証することが、ますます重要になってくる。
抑制を効かせにくいオープンモデルの使用について、登録制や許可制の導入が議論され始めそう…🤔
Yuichi Uemura retweeted
So-net、会員データベースへの不正アクセスで会員情報約214万件などが漏えい。一部退会者も含む Plala(Sコース)会員情報も対象 internet.watch.impress.co.jp…


























