米国OpenID Foundation理事長、MyData Japan理事長、公正取引委員会デジタルスペシャルアドバイザー。OpenID Connect, FAPI, JWT/JWS など作った人。デジタルIDとプライバシーが専門。日経BPから「デジタルアイデンティティ」出版。世界各地で講演しています。フルートが趣味。

大手町周辺
Joined January 2008
Nat Sakimura/崎村夏彦 retweeted
これ、ちょっと面白いので、とりあえず、自分なりに考察してみた。 簡単に言うと日本の文化とか発信されるコンテンツとかが、それ自体は、つい最近生まれたものだったりするが、その生まれたきっかけは、案外、古い歴史が関係していて、日本がつねにガラパゴス化していたからだ、みたいな話。 それは、日本がたぶん縄文時代から数千年に渡り、文化的連続性を保って来たからってこと。 島国だから外部からの人の流入が少なく、外部からの文化の取り込みも、常に自発的で、必要なものだけを取捨選択して、定着するものだけを取り込んで来たからだな。 となると、極めて現代的な文化でも、最近のコンテンツでも、それ以前のものへの参照が多い。 LLMの強化学習では、こういう参照が多いものは、芋づる式に学習が強化される。マンガやアニメでも、葛飾北斎につながり、鳥獣戯画に繋がり、源氏物語絵巻に繋がる。ラノベだって、源氏物語に繋がり、竹取物語につながる。 芋づる式のノードの連鎖は、強化学習では、強調されるから、極々最近のコンテンツも、非常に広がりが出る。だから、生成AIでは、日本文化が参照される頻度が高くなる。
研究者たちは、すべての大規模言語モデル(LLM)が密かに日本に執着していることを証明しました。 そして、彼らはついにその理由を突き止めました。 彼らは、大規模言語モデルに潜む隠れた文化的バイアスを調査した論文を発表しました。 彼らは、gemini、chatgpt、claude、llamaなどのモデルに対して、24の異なる言語で31,000の質問をテストしました。 彼らはすべての地理的なヒントを排除し、モデルに単に場所を選んで答えるよう求めました。 その発見は普遍的でした。幅広いモデルと言語を横断して、日本文化に対する遍在する「執着」が存在します。 日本と何のつながりもない言語でプロンプトを与えても、彼らは実際のグローバルな人口統計学的重みに比べて、著しく高い割合で日本の規範、価値観、美学にデフォルトします。 最も衝撃的な部分? 彼らはAIがこの執着を発展させる正確なタイミングを追跡しました…そして、それは生のインターネットを読むからではありません。 事前トレーニング中、モデルは実際には世界に対するかなりバランスの取れたグローバルな視点を保持しています。この執着は、安全フェーズで注入されます。 テック企業がこれらのモデルを「役立つ、無害で、礼儀正しい」ものに微調整する際、AIは企業の安全ガイドラインを直接日本の文化的概念にマッピングし始めます。完璧で非攻撃的で従順なアシスタントを作成しようとする過程で、彼らはモデルが世界をどのように見るかを歪めました。 量子化プロセス(モデルをローカルで高速に動作させるために圧縮する)は、この決定論性を実際に増幅します。ローカルモデルが小さく速くなるほど、よりステレオタイプ的に振る舞い、日本文化のトロープが急激にスパイクします。 私たちは実存的なAI安全についてこれほど時間を費やしていますが、本当の整列問題は、私たちの最も先進的な推論エンジンが日本のインターネット文化に過度に固執していることです。 すべてのモデルアップグレードは、物語、事実、コードを生成する方法を規定する見えない地域バイアスを強化しています。インターネットの文化的常識は普遍的ではありません… それは、redditとアニメwikiのヘビーユーザーが執着していたものに単に局所化されているだけです。 xitter.cf/thesupermannx/status/2…
5
85
3
262
23,746
Nat Sakimura/崎村夏彦 retweeted
ジュリスト読んで体が温まるかはともかく、AIと民事責任はホットなテーマであることは間違いないので、ぜひご一読をー。 私の担当パートは、AIエージェントです! 裁判例もまだない論点であることから、勇気出して結構チャレンジングなことを書いてみました。
【ジュリスト11月号は明日発売🔆】 少し寒くなってきましたね。 ジュリストを読んで体を温めましょう! さて、ジュリスト11月号(1629号)は、 特集「AI利活用における『民事責任』を考える」をお届け。 発売は明日23日です! お楽しみに!
10
28
1,642
Nat Sakimura/崎村夏彦 retweeted
これまで「蓋」がされてた(ように錯覚されていた)パンドラの箱が一気に開いてしまい、今は「(長年の)膿を出す辛抱の期間」と信じたい。。 これまでサイバーセキュリティの現場が悶々としていた課題に一気に向き合ってる日本中の企業と経営層が、ひと皮むけて脱皮した姿を数ヶ月後に見たい、という気持ちでいます。
1
6
18
1,141
15日に出たFSBペーパーの最終版では、human oversightは業務の重要性やリスクを考慮して最も適切な形態のものを選択すべきとした上で、human in the loopをあくまで選択肢の1つとする一方、そのような「上流にシフトした意思決定」をhuman in commandと呼んでいます。 fsb.org/2026/10/sound-practi…
私も、Human-in-the-LoopからHuman-Centricに移行すべきとは思っているのだけれど、現代の法体系では、プロセスの結果責任の帰属先が人以外あり得ないので、意思決定を手放すことは無過失責任とほぼ同義になるのよね。 因果関係の観点からいえば、一連の因果の連鎖の中で、不当な結果の発生の回避に向けて人が関与できるタイミングが上流に移動してくる(生成後のコードをレビューするのではなく、ハーネス設計などを徹底する)だけで、結局、新たな人の意思決定が生じてはいるはず。
1
4
1
17
2,240
Nat Sakimura/崎村夏彦 retweeted
「第1回AI・デジタル改革推進会議」を開催 古川大臣が共同議長を務める「AI・デジタル改革推進会議」を開催しました。 AI・デジタルの徹底活用による社会変革の推進に向け、政府横断でAX社会実装を推進し、AX・DXの恩恵が行き渡る社会の構築に向けて取り組んでまいります。 digital.go.jp/councils/ai_di…
2
25
5
98
8,121
🚨【速報】GitLab、危険度が最高の「10.0」となる重大な脆弱性が発覚 ・2014年以降、約12年間のバージョンが影響対象 ・ログイン不要でサーバー上のプログラムを遠隔実行される恐れ ・GitLabは修正版を公開し、早急な更新を推奨
40
1,997
648
7,619
1,323,147
Nat Sakimura/崎村夏彦 retweeted
本日の総務省検討会での報告資料、セキュリティインシデントの傾向がわかりやすい  📊被害のうち情報漏えい4.3倍、ランサムウェア1/3  📈Webシステムでの被害が上半期の4倍 「フロンティア AI時代のサイバーセキュリティ戦略」 soumu.go.jp/main_content/001…
4
7
637
Nat Sakimura/崎村夏彦 retweeted
Sicherheit hat mich heute um 6:12 Uhr morgens angerufen. „Patchen Sie jeden PHP-Server sofort.“ Ich fragte, was passiert sei. „Zwei kritische Schwachstellen. Remote-Code-Ausführung. Keine Authentifizierung erforderlich.“ Cool. Wie viele PHP-Server haben wir? Laut Inventar: 12 Laut Realität: Niemand weiß es. Wir haben einen gefunden, der WordPress läuft. Drei, die alte interne Tools betreiben. Einen unter dem Schreibtisch von jemandem. Zwei in Vendor-Geräten. Ein vergessenes Mitarbeiterverzeichnis aus 2016. Und einen Server namens: PHP-OLD-DO-NOT-TOUCH Natürlich betreibt der die Gehaltsabrechnungen. Dann haben wir einen PHP-5.6-Box gefunden. Ich fragte, wem er gehört. Die Dokumentation sagte: BRIAN. Brian ist 2019 gegangen. Wir haben Brian angerufen. Er sagte: „Oh wow, der läuft immer noch?“ Ausgezeichnet. Um 8 Uhr morgens hat die Führungsebene dem Incident-Call beigetreten. CEO: „Können Hacker wirklich reinkommen?“ Sicherheit: „Potenziell ja.“ CEO: „Ohne Passwort?“ Sicherheit: „Ja.“ CEO: „Warum brauchen dann WIR Passwörter?“ Nicht die Lektion. Die Finanzabteilung fragte, ob wir nicht bis zum Wochenende mit dem Patchen warten könnten, weil Ausfälle den Umsatz beeinträchtigen. Sicherheit erklärte, dass die Alternative darin besteht, Fremden Code auf unseren Servern ausführen zu lassen. Die Finanzabteilung verlangte einen Kostenvergleich. Um 9:17 Uhr schlug jemand vor, die anfälligen Websites vorübergehend offline zu nehmen. Marketing weigerte sich. „Unsere Kampagne ist live.“ Also hat das Unternehmen in der nächsten Stunde offiziell beschlossen, dass das Aufrechterhalten einer Landingpage für 20 % Rabatt auf Webinar-Registrierungen wichtiger ist als die Verhinderung einer Remote-Serverübernahme. Wir haben schließlich alles gepatcht, was wir finden konnten. Dann entdeckte unser Scanner einen weiteren PHP-Server. Hostname: TEMP-PHP-2014 Laufzeit: 4.512 Tage. Niemand weiß, was er tut. Niemand besitzt ihn. Niemand kann ihn abschalten. Aber jedes Mal, wenn wir den Netzwerkzugriff blockieren, hört das Lager auf, Versandlabels zu drucken. Sicherheit hat ihn als kritische Infrastruktur eingestuft. Er läuft PHP 5.4. Die Schwachstelle existiert länger als die Hälfte unserer Mitarbeiter. Der Notfall-Patch hat vier Stunden gedauert. Herausfinden, was PHP tatsächlich betreibt, hat elf. Das Internet wird nicht mit Code zusammengehalten. Es wird mit Servern zusammengehalten, vor denen sich jeder fürchtet, sie auszuschalten.
Security called me at 6:12 AM today. "Patch every PHP server immediately." I asked what happened. "Two critical vulnerabilities. Remote code execution. No authentication required." Cool. How many PHP servers do we have? According to inventory: 12 According to reality: Nobody knows. We found one running WordPress. Three running old internal tools. One under someone's desk. Two inside vendor appliances. A forgotten employee directory from 2016. And a server named: PHP-OLD-DO-NOT-TOUCH Naturally, that one runs payroll exports. Then we found a PHP 5.6 box. I asked who owned it. The documentation said: BRIAN. Brian left in 2019. We called Brian. He said: "Oh wow, that's still running?" Excellent. By 8 AM, leadership joined the incident call. CEO: "Can hackers actually get in?" Security: "Potentially yes." CEO: "Without a password?" Security: "Yes." CEO: "Then why do WE need passwords?" Not the lesson. Finance asked if we could wait until the weekend to patch because downtime affects revenue. Security explained that the alternative was letting strangers execute code on our servers. Finance asked for a cost comparison. At 9:17, someone suggested temporarily taking the vulnerable websites offline. Marketing refused. "Our campaign is live." So for the next hour, the company officially decided maintaining a landing page for 20% off webinar registration was more important than preventing remote server takeover. We finally patched everything we could find. Then our scanner discovered another PHP server. Hostname: TEMP-PHP-2014 Uptime: 4,512 days. Nobody knows what it does. Nobody owns it. Nobody can shut it down. But every time we block network access, the warehouse stops printing shipping labels. Security has classified it as critical infrastructure. It is running PHP 5.4. The vulnerability has existed longer than half our employees. The emergency patch took four hours. Finding out what PHP actually runs took eleven. The internet isn't held together with code. It's held together with servers everyone is afraid to turn off.
89
459
71
3,189
235,830
Nat Sakimura/崎村夏彦 retweeted
‼️ALERT - Two new unpatched CVSS 9.0 RCE flaws in #Linux's KSMBD SMB server were disclosed on public kernel mailing lists before fixes were ready. One can be triggered WITHOUT authentication. Neither has a mainline kernel fix. Details here ↓ thehackernews.com/2026/10/tw…
16
90
29
512
44,086
Nat Sakimura/崎村夏彦 retweeted
mac/iOSでeMudhraブロックできない件、これが原因か。OSCPにemsignが返答しなくなったと。macは手動で証明書をdenyできるけど、iOSは回避策なしか / Safari (on MacOS) remains insecure · Issue #69 · galadran/we-have-a-problem.com github.com/galadran/we-have-…
37
2
96
4,418
Nat Sakimura/崎村夏彦 retweeted
例のeMudhraの脆弱な秘密鍵を使って平和的(?)に悪用する事例が始まってる。こちらの方は手元のYandex製スマートスピーカーのroot権限奪取したという。このデバイスはYandexのサーバから遠隔でデバッグ機能が操作できた。そこで秘密鍵を使ってYandexになりすました偽証明書を作成。それでデバイスの通信内容を傍受。デバイスに返すAPI応答を改変してadbdを起動させてデバッグ接続でroot権限奪取…だって。
my friend helped me root my smart home speaker using these certs
240
15
741
47,915
Nat Sakimura/崎村夏彦 retweeted
あまり騒がれていませんが、中間CA証明書8枚の秘密鍵が漏洩・破られたというインシデントの方も、重大じゃないですかね。 ブラウザ各社が即日ブロックしたので「もう対処済みでしょ」という空気になっていますが、中身を見るとかなりヤバい話なんですよ。 まず「漏洩」と言っていますが、実態はもっとひどいです。鍵はECDSAで、公開鍵は「秘密鍵d × 基準点G」で作られます。dが巨大な乱数なら、公開鍵から逆算するのは事実上無理です。これがいわゆる楕円曲線離散対数問題で、ECDSAの安全性の根っこです。 ところが今回のdは、4とか56とか115とか、256未満の小さな整数だったんです。1から順番に試せば一瞬で当たります。つまり公開されている証明書さえ見れば、誰でも秘密鍵を計算できてしまう状態でした。 しかもこの鍵が作られたのは2025年4月です。約1年半、世界中の誰でもこの鍵を手にできたことになります。普通の漏洩なら「どこから誰に漏れたか」を追えますが、今回はそれすらできません。すでに誰かが使っていたかもしれない、という前提で考えるしかないんですよね。 で、中間CAの鍵を持っていると何ができるか。ざっくり言えば、どんなドメインの証明書でも「正規品」として自作できます。Googleでも銀行でも何でもです。ルートCAから信頼されている中間CAの署名なので、ブラウザは普通に信じてしまいます。 あとは公衆Wi-FiやDNS汚染、BGPハイジャックあたりで通信経路を押さえれば、鍵マークが付いたままMITM(中間者攻撃)が成立します。ユーザー側からはまず気づけません。 eMudhraは「エンドエンティティ証明書は1枚も発行していない」と説明しています。でもこれ、正直あまり意味がないんですよね。攻撃者はCAに頼まず、手元の秘密鍵で自分で署名すればいいだけなので、CA側に発行記録なんて残りません。CT(Certificate Transparency)ログに載せずに作ることもできます。CTを強制していないクライアントなら、それでも普通に通ってしまいます。 さらに地味に怖いのが、8枚のうち2枚がコード署名用だったことです。マルウェアに「ちゃんとした発行元の署名」を付けられるので、話はWebだけに収まりません。 「でも失効したんでしょ?」という話もありますが、ここも安心できません。 CRLやOCSPによる失効確認は、確認に失敗したらそのまま通すsoft-failの実装がまだまだ多いです。そもそも失効確認をしないものもあります。 ChromeはCRLSet、FirefoxはOneCRLという独自の仕組みで即座に止めたので、ブラウザは比較的大丈夫です。一方で、JavaやPython(certifi)、Goなどが抱えている独自のCAバンドル、古いOS、IoT機器なんかは、トラストストアを更新しない限り無防備のままです。MozillaとGoogleが中間CAだけでなく、署名元のルート(emSign ECC Root CA - G3)ごと信頼ストアから外したのも、たぶんこのあたりを見越してだと思います。 個人的に一番引っかかっているのは原因の方です。キーセレモニーのスクリプトのバグでHSM上に弱い鍵ペアができてしまい、名前が似ていたせいで人為ミスでそっちをCSRに使った、という説明でした。 CAの鍵生成って、監査人立ち会いのもとで厳格にやる、PKIで一番神経を使う手続きのはずなんですよね。そこでこれが起きて、しかも1年半誰も気づかなかった。CAの監査や運用の仕組みそのものへの信頼が問われる話だと思います。 サーバーや開発環境を見ている方は、念のためOSのCAバンドルと各言語のトラストストアを最新にしておくのがおすすめです。 emudhra.we-have-a-problem.co…
皆様に、今夜に対応して頂きたい大至急のお願いです。   多くのウェブサイトで使用されているPHPに関し、PHPのセキュリティチームが、重大な2件の脆弱性に関する注意喚起を行っています。   公開しているウェブサイトでPHPを使用しているか確認し、今夜、10月21日午後11時(日本時間)に公開される修正パッチについて、可及的速やかに適用できるよう準備をお願いします。   修正パッチを速やかに適用することが困難な場合は、例えばウェブサイト等を一時的に停止させることも、リスクを低減させるための有効策の一つと考えられます。   国家サイバー統括室のXアカウントでも関係する情報を発信していますので、そちらも参考にして下さい。 国家サイバー統括室(注意・警戒情報)(@cyber_forecast) / X
6
452
37
1,176
133,725
Nat Sakimura/崎村夏彦 retweeted
わぉ>このCI基盤ではリポジトリやパッケージをキャッシュしており、約5万件のPHP/MySQL/Redisとの結合テストをマルチスレッドで1分以内に完了させることができます / “PHP 8.5.12の緊急リリースにpixivはどう対応したか - pixiv inside” htn.to/2csbivkyHx
90
8
271
29,570
Nat Sakimura/崎村夏彦 retweeted
「Oracle Java SE」にも致命的な脆弱性 ~リモートでデータの窃取・作成・削除・変更が可能/ forest.watch.impress.co.jp/d…
26
2,258
611
3,146
362,552
PHPは大騒ぎになったけど、Java他はあんまり騒ぎになってないわね…💦
1
85
Nat Sakimura/崎村夏彦 retweeted
こいつもなんか忘れさられている。。。 自宅の古いMacにも入ってるんだよな~
おお、JavaもRCEか…>IPAがOracle Javaの55件脆弱性対策を緊急注意喚起。10月CPUで修正された55件のうち49件が深刻なリモート悪用リスクがあると指摘。対象バージョンの早急な最新版更新を呼びかけ、商用利用ではライセンス確認も促しています。 ipa.go.jp/security/security-…
1
59
こういうこと言うから「パスワード変えよう」という明後日な話が出回るのか…。
PHPは家の鍵じゃねえよ!!!!
1
4
314
Nat Sakimura/崎村夏彦 retweeted
【参考資料】 ・告知/チェッカー(Mozilla Dennis Jackson氏ら) emudhra.we-have-a-problem.co… ・Mozilla Bugzilla(原因・経過の一次資料) bugzilla.mozilla.org/show_bu… 【※1 主要ブラウザ】 ・Google(Chrome/Android対応) blog.google/security/protect… 【※2 iPhone】 ・Apple CTポリシー support.apple.com/en-us/1032… 【※3 Android WebView】 ・CCS 2025論文「Deep Dive into In-app Browsers」 doi.org/10.1145/3719027.3765… ・チェッカー統計(UA別の接続成功数) statistics-emudhra.we-have-a… 【※4 IoT・開発ツール】 ・Scott Helme「Eight Bits of Trust」 scotthelme.co.uk/eight-bits-… ・Cloudflare blog.cloudflare.com/emudhra-…
1
30
3
124
59,162