フォートトーク (@forttalkcom) header
フォートトーク (@forttalkcom) profile picture

線はどこにあるか

🇯🇵 Japan
Joined October 2021
Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)Photo by フォートトーク (@forttalkcom)
ボストロムは、遠い将来の1年も同じ重みで数え、今生きる人の平均余命を試算した。超知能なしで40年、成功時は1400年、即時導入の絶滅リスク50%と仮定。安全研究でリスクが毎年その時点の10%ずつ減るなら、余命が最大になる待ち時間は9.4年。年90%減なら1.7年、年1%減ならゼロだ。
Nick Bostrom says delaying superintelligence carries risks of its own. Every year of delay could postpone medical breakthroughs that extend human life and reduce suffering. Furthermore, AI's upside could extend far beyond longer lives and higher living standards, opening up new possibilities for human intelligence, emotional depth, creativity, and connection. Nick joins a16z's Eddy Lazzarin and Elena Burger to discuss what people misunderstand about his views, what “deep utopia” means, and what human purpose might look like in a world with superintelligence. 00:00 Intro 00:56 What we've learned about AI 02:51 Misconceptions about Bostrom’s views 04:12 Why he wrote Deep Utopia 07:29 How humanity should navigate superintelligence 11:00 Aligning superintelligence 15:51 The cost of delaying superintelligence 23:09 Building superintelligence safely 27:10 AI research isn’t the Manhattan Project 30:27 Why our vision of the future matters now 32:49 Does life have a meaning, and can AI answer it? YouTube: youtu.be/gDW9An30_c0 @eddylazzarin @VirtualElena
2
7
448
ケネディは放送で、攻撃側が被害企業のユーザー名とパスワードでログインし、アプリでの二要素認証の使い方に欠陥を見つけ、追加の認証を回避したと説明した。暗号化後もシステムは動き続け、エラーで再起動して企業は初めて障害に気づいたという。検知まで約4時間半かかったと述べた。
Former NSA hacker David Kennedy reveals he’s actively responding to a live breach where an AI “agent swarm” bypassed two-factor authentication, stole data, and encrypted a company's entire system: “This all took 14 minutes. 14 minutes. Never seen anything that fast before.”
Readers added context they thought people might want to know
David Kennedy clarified attackers used valid credentials and a customer app config flaw to circumvent MFA, not that AI bypassed secure 2FA. Segment focused on 14-minute attack speed. x.com/HackingDave/st… x.com/HackingDave/st… ibtimes.co.uk/ai-attack-bypa…
2
7
470
デジタル庁によると、政府機関が外部の事業者とも会議資料を共有するサービスで、7月30日〜11月12日の間に正規の共有相手以外がファイルにアクセスした。疑いを検知した11月12日に提供を止めた。一部のファイルが漏えいしたおそれがある。個人情報を含む可能性もあり、個人情報保護委員会に報告した。
5
11
505
楽天証券はITmediaの取材に、顧客情報を伏せずテスト用サーバーへコピーした作業は、担当者の独断ではなく、正式な社内手続きを経ていたと説明した。通常はダミー情報を使うが、今回はシステム更新に伴う一部機能の検証に本番データが必要だったという。データを移した時期や作業期間は回答を控えた。
【楽天証券、情報漏洩】大手証券幹部は「テスト環境にマスキングしない個人情報を置くことは通常考えられない。FISCの安全対策基準など様々な指針で当然とされている」と話す。一般的な安全対策基準に合致せず、別の同業他社幹部も「管理不備だ」と指摘する。 詳細記事▶nikkei.com/article/DGXZQOUB1…
4
13
543
2023年のNYT記事によると、Anthropicの創業者たちは他社のAIで安全研究をする案も検討した。だが最先端の安全研究に自前の強力なモデルが要り、訓練用半導体の購入に数億ドルの調達が必要だと考えた。アモデイCEOは、安全性の問題を解けても、製品を出さなければ人々が使うのは別のモデルだと語った。
In the spring of 2023, Anthropic invited me to spend several weeks at their headquarters ahead of the launch of Claude 2, sitting in on meetings and interviewing dozens of employees to write the first major profile of the company in the NYT. I just reread that story, and went back through my notebook in light of Anthropic's IPO. A few things that stuck out: -- Anthropic was very small, very recently. When I visited, they had 160 employees in a small office on Sansome, a chatbot nobody had ever heard of, and seemed to have no interest in running a business. I wrote in my notebook that they seemed like "ambivalent capitalists"; their newly hired sales guy told me that the only reason he needed to make money at all was so that the safety researchers could save the world. -- Things were not going well for them: their biggest shareholder (SBF) had been arrested for fraud, and OpenAI was eating their lunch with ChatGPT. (I later learned that they also had an expensive model training failure in 2023.) This was 3.5 years before they went public as one of the most valuable companies in the world, with 5,300 employees and 14x annual revenue growth. I guess they figured out the capitalism thing! -- They were obviously and sincerely terrified of AI. Claude 2 was a very dumb model by today's standards, but every discussion I had there revolved around existential risk. Researchers told me they lost sleep over their fears of AI takeover, and made terrifying predictions of how soon AGI would arrive. It didn't seem fake or manufactured, but I didn't really get it! I wrote in my notebook: "I have never encountered a company that so badly needs a Klonopin." (I stand behind this, although I also need one now.) -- Dario was in Italy when the NYT photographer wanted to take his picture, so his team rented an office in some random Italian town and staged it to look like his actual office, and they took the photos there. It had a rotary phone (?) and panic-room red lights, which I never really understood. -- The Ants I talked to mostly struck me as sharp and thoughtful, although I did end up wondering whether they were too safety-obsessed to run an actual business. (I jotted down: "I do not know why you would invest in a company like this.") But I was struck by their earnestness, especially because I'd just spent several years covering social networks that didn't worry about the harms of their products at all. Anyway, I'm feeling sort of conflicted about the Anthropic IPO. (As are a lot of people, including some at Anthropic!) I don't know if being public makes an AI company more or less likely to follow through on its safety commitments, and I know the company has changed a lot as it has grown. But on some level I'm also just like, damn, what a crazy story. Here's the gift link, it's sort of fun to look back on the ancient runes of July 2023. nytimes.com/2023/07/11/techn…
1
2
9
376
Anthropicは2022年、ChatGPTが公開される数か月前にClaudeの初期版を作っていた。ルース記者によると、社員が悪用を懸念したため、その版は一般公開しなかった。
1
5
209
六花亭の通販サイトで、決済画面のプログラムが改ざんされた。同社によると、カード情報はサーバーに保存していないが、入力時にカード番号全桁、名義人、有効期限、セキュリティコードが外部に送られた可能性がある。発表時点の対象は2026年10月21日21時〜11月18日11時の入力分。対象件数は約8000件。
「六花亭オンラインショップ」への不正アクセスによる個人情報流出の可能性に関するお詫びとお知らせ このたび、弊社が運営する「六花亭オンラインショップ」が第三者による不正アクセスを受け、サイト内のプログラムが改ざんされていたことが判明いたしました。これにより、お客さまが入力された個人情報の一部が外部に流出した可能性がございます。 日頃よりご愛顧いただいておりますお客さまには、多大なるご迷惑とご心配をおかけしておりますことを、心より深くお詫び申し上げます。 1.経緯 第三者の不正アクセスによって当サイトの決済画面のプログラムが改ざんされ、入力された情報が外部に送信される状態になっていた可能性があることが判明いたしました。2026年11月18日(水)に判明後、ただちに当サイトを停止いたしました。 現在、その他のプログラムやサーバー内の情報に影響が及んでいないかも含めて、詳細な調査を進めています。 2.現時点で対象となる可能性があるお客さま 2026年10月21日(水)21:00から2026年11月18日(水)11:00までの間に、決済画面でクレジットカード情報を入力されたお客さま ※調査の進展により、対象となるお客さまの範囲が変わる可能性がございます。 3.現時点で流出した可能性がある情報 上記期間に入力された以下の情報 ・クレジットカード情報 ※対象情報:クレジットカード番号(全桁)、カード名義人、有効期限、セキュリティコード ※弊社では、クレジットカード情報(セキュリティコードを含む)をサーバー内に保存しておりません。今回は、改ざんされたプログラムによって、入力時に情報が抜き取られた可能性があるものです。 ※上記以外の情報については、現在確認を進めています。 4.対象件数 現時点で確認されている件数:約8,000件 ※調査の進展により、件数が変動する可能性がございます。 5.現在の対応状況 ・六花亭オンラインショップは、安全性が確認できるまでの間、停止しております。 ・個人情報保護委員会へ報告いたしました。 6.お客さまへのお願い 〈クレジットカードの利用明細のご確認〉 対象期間にカード決済をご利用されたお客さまは、念のため、お手元のカードの利用明細に身に覚えのない請求がないか、ご確認をお願いいたします。万一不審な請求がございましたら、お手数ですがカード裏面に記載のカード会社へお問い合わせください。 〈不審な電話・郵便物等へのご注意〉 当該情報を悪用した不審な電話や郵便物、SMS等が届くおそれがあります。心当たりのない連絡で個人情報やカード情報を求められても、応じないよう十分にご注意ください。 7.今後の対応 対象となる可能性があるお客さまには、順次個別にご連絡いたします。調査の結果、対象となる範囲や情報が新たに判明した場合には、速やかに当サイト等でお知らせするとともに、該当するお客さまへ個別にご連絡いたします。 サイトの再開につきましては、調査結果を踏まえ、安全性を十分に確認したうえで改めてお知らせいたします。今後は外部の専門機関の助言のもと、プログラムの改ざん検知の仕組みを導入するなどセキュリティ体制を強化し、再発防止に全社を挙げて取り組んでまいります。 ご利用のお客さまには、長期間にわたりご不便をおかけいたしますことを、重ねてお詫び申し上げます。 【お客さまお問い合わせ先】 株式会社六花亭 お客さま相談室 フリーダイヤル:0120-12-6666 受付時間:9:00〜18:00
1
11
2,369
静的ファイルをHTTP/2で配るだけのNGINXでも、Wizは外部から認証なしでコードを実行できた(CVE-2026-123007)。バックエンドアプリも第三者製モジュールもないHTTPS環境での実証だ。HTTP/2の脆弱性2件は公式OSSの安定版1.30.7、メインライン1.31.9で修正済み。OS同梱版は配布元の告知を確認する。
2026年11月19日0時過ぎ(日本時間)Webサーバーnginxにおいて、リモートから未認証で任意のコード実行等が可能となる脆弱性が公表されました。対象環境の運用管理者は速やかなアップデートの適用等をお願いします。 wiz.io/blog/nginx-http2-rce-…
1
3
11
858
NGINXをすぐ更新できない場合、Wizが示す暫定策はHTTP/2の無効化だ。ネイティブgRPCなど、HTTP/2が必須のサービスへの影響を先に確認する。設定を再読み込みしても、すでに開いていた接続は旧設定のまま処理されるため、古いワーカープロセスが終了したことまで確かめる。
2
7
279
全国17原発の敷地内で20日以上記録された端末IDは計3235。スマホ1台に複数のIDが付くこともあり、この数字だけでは人数は分からない。日経が海外業者から買った2025年と26年の計約6カ月分の位置情報には、敷地を出た後の移動履歴も残り、端末がスーパーや飲食店、駅へ向かう例もあった。
【日経特報(第3弾)】海外で売買される日本国内のスマホの位置情報の中に全国17原発の施設内のデータが多数含まれていることが分かった。施設内で働く人の行動などが分かる3000超の端末IDが見つかった。スパイによる接触が懸念される。#機密漏洩 #スパイ #原発 詳細記事▶nikkei.com/article/DGXZQOCA2…
5
1
18
636
途中の手順を書かず、答えを1トークンだけ返す。Epochの暫定評価では、一定の正答率で解ける推論課題の長さは、GPT-6 Astraの10.5段相当からGPT-6.2 Astraの12.3段相当に伸びた。Epochは、複雑な問題も手順を書かずに解けるモデルでは、書かれた推論を手掛かりにした監視が難しくなりうると指摘する。
Replying to @EpochAIResearch
We also evaluated how many serial reasoning steps GPT-6.2 Astra can do in a single output token (without chain of thought). It can perform 12.3 steps, versus 10.5 for GPT-6 Astra and 8.6 for GPT-6.1 Sol, the previous highs. We measure the number of steps models can perform at an accuracy of 25% above chance, where each step is normalized for complexity. Before GPT-6 Astra’s release, the most capable model was Claude Fable 5.1, which is able to perform only 4.2 serial steps. The oldest model we assessed is Claude Opus 3, which performed 2.3 steps. This capability is notable because models that can do complex reasoning without any chain of thought may be harder to monitor. We hope to finalize this and other measurements of more abstract model capabilities, and release them in the coming weeks.
1
2
9
464
Epochは別の評価でAIデータセンターを調べさせた。得点はGPT-6 Astraの40%からGPT-6.2 Astraの65%に上がった(各1回)。Epochによれば、新版が調べた1棟の計算能力とチップ数は手元の資料で見積もれた。だが新版は、使う数字を一つずつ別の資料でも確かめようとし、見積もりを報告に載せなかった。
1
6
216
英紙FTなどの共同調査によると、ドイツ銀行の誤送信で、管理職の一人が「素晴らしい結果」と評したのは、トランプへの通知不要という結論だった。2017年、行員がトランプの口座を含む1586口座分の税務明細書へのリンクを、顧客1人の会計士に誤送信。この誤りはホワイトハウスに伏せられたという。
How was it possible for Deutsche Bank to become so dysfunctional? Our journalists have combed through millions of documents and found hidden losses, secret payments to a Qatari royal and how the lender accidentally leaked Donald Trump’s tax records ft.trib.al/9qmySMH
1
1
9
556
共同調査に加わる独ZDFによると、行内の法務担当者は当初、大統領を含む顧客への通知が必要とみた。銀行は米当局には報告したが、大統領には報告しなかった。個人顧客部門の担当役員だった現CEOのゼービングは、この対応をメールで了承したという。銀行は取材に、この件へのコメントを控えた。
1
6
249
2023年の研究で調べたスコットランドのヤマネコの現代個体は、すべてイエネコ由来のDNAを持っていた。それでも野生・飼育の個体を合わせると、ヤマネコ由来の領域がゲノム(遺伝情報一式)の99.87%を覆っていた。著者らは、交配相手を選んで本来のゲノムを取り戻す試みは理論上可能とする。
2
9
461
研究者らは、太さが同じで長さの違う棒の網を樹脂で3D印刷し圧縮した。同じ密度に設計した正方形格子では、1本の座屈(急なたわみ)が横一列へ連鎖し、応力(面積あたりの力)が急落した。新構造では変形が分散し、圧縮を進めても応力は増え続けた。計算では、座屈を起こす力が棒ごとに大きく違った。
1
9
507
日経は海外業者から、契約なしでスマホ位置情報の無料サンプルを入手した。記録から自宅とみられる場所を割り出し、不動産登記や防衛省の人事情報と照合。海上自衛隊幹部の位置情報を特定したという。
【日経特報】日本のスマホの位置情報が海外で売られている。4000万超の端末IDを分析すると、首相官邸や防衛施設を出入りする記録が見つかった。要人の特定にもつながりかねない重要情報だ。日本の安全保障上の脅威となる。 #筒抜けの国家中枢 #スマホ #位置情報 分析記事▶vdata.nikkei.com/newsgraphic…
7
20
868
Eighth Rankの解析によると、Macには誰が家族かを推定するモデルがある。姓や住所だけでなく、日曜や夜間の連絡、写真に一緒に写る曜日・時間帯など144項目を使う。解析者が公開したiKnowは、こうした推定を含む端末内の記録を可視化する。
2
11
517
原告4団体は、提訴時点で各社が持つ最高性能のAIを超えるシステムの開発・展開を直ちに差し止めるよう求めた。AIに、より高性能なAIの研究開発を自律的に実行・指揮させることも対象。健康を害し財産利用を妨げる「公的ニューサンス」だとして、カリフォルニア州の不公正競争法違反を主張する。
BREAKING: On behalf of @ir_replaceable_, @Public_Citizen, @heatinitiative, & @secureainow, we have just filed a landmark lawsuit against @AnthropicAI, @Google, @Meta, @OpenAI, and @SpaceXSI. These companies cannot control their models and pose existential risk to humanity. Their conduct is patently illegal. We cannot wait for disaster to strike. We need intervention now. @PlatkinLLP is proud to lead this lawsuit alongside @LASST_law and Gerstein Harrow LLP. Read more here: apnews.com/article/artificia…
3
15
533
公開書簡「Stand with Jensen」は、独立調査の間、フアンをCEOに戻すよう要求。復帰させないなら、Nvidiaの利益になる具体的根拠の説明を取締役会に求める。調査の範囲・独立性・予定の開示と、最終判断前の本人の弁明機会も要求する。マスクは、署名を表明したギャリー・タンの投稿を再投稿した。
Replying to @yunta_tsai
A petition is underway to reinstate Jensen and I’m signing it too
1
11
480