医療AI/SIの導入評価・監査・規程整理を第三者の立場で|Masayuki Otawara, MD, PhD|AIエージェント・ストラテジスト|救急集中治療医・産業医|医療安全推進学会理事|NewsPicks Expert|Cursorvers株式会社Founder|ご相談はフォームへ▽

MD / Med AI Audit & Consulting
Joined December 2021
大学病院の矜持とは「最後の砦」であること。 市中病院では診断がつかない、治療ができない疾患や患者について、最新の知見と高度な施設と技術を持つスタッフを取り揃えて、全力を尽くす。 その上で、教育機関として、医療者の卵たちを教え、高い倫理観を持つプロフェッショナルとして育成する。 つまり、一般病院とは「役割が異なる」 故に通常のブルーカラーとしての働き方が出来ないために「ブラックな」労働環境を強いられ、「悪の枢軸」のように語られてきた。 事実である。 それ故に「医局」という組織はバッシングを受け、解体され、大学病院は一般病院と同じ労働条件に合わされることを余儀なくされる。 ある意味で、高い能力と野望を持つ人達が競う場であり、通常の労働条件とはそぐわないのも事実であったが、それ故に超高度な技術を驚くほど安価に患者は享受できたことも否めない。 もはやこの組織体制はほぼ壊れた。 解体され、戻ることはもうない。
大学病院は、教育とそして経営の大きな圧力のもと、「市中病院化」しつつあります。すなわち、経営と研修医教育のため救急とプライマリケアを拡大し、働き方改革の中で医師の研究時間を削って診療へと移行させ、医師からのタスクシフトを進めてさらに診療を拡大しています。 近年、もはや高次医療機関や研究機関そして最後の砦であることから離れつつあるのです。
68
投資家の一人が「2027年頃にAI用の計算資源が余るんじゃ?」と指摘したのに対し、@SpaceXSI CEOのイーロン・マスク氏 (@elonmusk )は、「ほぼその通り」と同意した。 ここ最近、お金を貸す側(債券市場)が、「AIのデータセンター以外にしっかり稼いでいる会社」以外には、ほとんどお金を貸さなくなっている、というのがマスク氏の主張。 つまり、これまで計算資源の枯渇が声高に叫ばれ、それにレバレッジをかけて儲けていた会社がたくさんあったが、ただ高いAI専用チップ(GPU)を買って貸し出すだけの会社は、資金調達が非常に厳しくなっている、と言う。 @SpaceXSI が約400億ドルという大きな借金でGPUを買えたのは、衛星インターネットの「Starlink」やロケット打ち上げという、AI以外の安定した収入があり、「信用力が高い会社だと見なされている」という説明で、この資金は主に来年の前半に届くチップ向けで、今すぐの影響は小さいとしている。 「ネオクラウド」とは? NVIDIAの高いGPUをたくさん買って、AIを開発する会社に貸し出す専門のクラウド会社のこと(CoreWeaveなどが有名)であり、こういう会社が200社以上あって、多くは借金に頼っているが、マスク氏はこれらが大量に倒産したり、統合されたりするだろうと予測している。 今後は、資金が続かない「ネオクラウド」が次々と苦しくなり、淘汰が進む可能性が高く、生き残るのは、AI以外にもしっかりした収入がある会社や、規模の大きい大手だけかもしれない。 2027年は過剰な投資の整理が進む年になりそうで、失敗した会社のチップが安く出回るような動きも起こり得るのかもしれない。 メモリ価格は下向きになるのかしら…?🤔
Replying to @chamath
Pretty much. As of the past few weeks, debt markets have almost entirely shut off access to money for any company that doesn’t have substantial revenue independent of AI data centers. SpaceX closed $40B of debt for GPUs, but we’re investment grade and have Starlink & launch revenue. That means the 200+ neoclouds are going to see guppy-level death and consolidation. Some will make it through, but not many.
2
207
とはいえ「SpaceXSIが盤石か」と言われると、そうとも限らないのが面白いところ
my personal opinion on this matter rant: spacexai got a shit ton of compute because elon wanted to compete on ai with open ai. and running amazing physical supply chains has always been elon's moat. no one can build out data centers as fast as he did with colossus. tesla was in this market anyways since they had to train fsd for their cars. xai is currently miserably failing to compete on the frontier of ai. despite having the compute their models failed to reach a sota level on a time frame that made sense to stay competitive, they brought cursor to fix this problem which seems to work well. countless of other great people joined spacexai to work on this, and new great people are coming in though. its the same issue meta had for a while with their ai department and still has, training ai models is hard and not a compute issue. especially at the frontier. if its not your main goal its hard to get it right. hence why anthropic is winning at this. its the only company that is hyper focused on ai out of all that compete. if you have compute and can't turn it into a profit with ai usage you have to rent it out to others. they rented it out mostly to anthropic, hence why anthropic rate limits haven't been a thing in a while and grok bot is currently using opus 5.5 as well. getting financing for gpu clusters is only going to get more expensive and risky because: a) the new line of upcoming gpu clusters will be more expensive then previous ones. with more expensive materials and research costs. ( constant innovation in this space has physical limitations ) b) due to shortage's across the entire supply chain and rising demands the timelines of building out chips, factories and grids will take longer, which means those who finance's it all take way more risk over long time periods. ( what his post came down to ) which they don't want to risk so they converge for companies that can finance a down payment with limited risks. ( space xai is one of the few that can ) i've always said it but its obvious space xai will become the aws cloud inference of the ai timeline. elon is good at running physical supply chain driven companies. the moat isn't going to be in the models/ software anyways in a few years, and he always knew that. little to no people will need sota ai model intelligence from one singular provider in a few years anyways. since 90% of people don't actually need super intelligence for their day to day lives / don't know what to do with it. people need ai to be affordable and accessible though, which is solely an inference, infra and compute problem once ai models are no longer the primarily moat ( and we’re converging toward commoditization right now ) neoclouds will most likely die, but their compute will not. it will just be bought up cheaply by companies like spacexai. and then we're back to the beginning of the end where every small player is being outcompeted out of every market we know in tech. very similar patterns where played out during internet software era we saw in the last 2 decades. look at the companies that survived that and what they do and sell right now. google makes around 45% of their revenue renting out tpu's, despite by most being known as an internet company.
62
GitHub Educationの教職員資格では1 Passwordはサービス外らしい… GitHub Education as a teacherの申し込み▽ docs.github.com/en/education… 得られるbenefitsは以下の通り▽ ・GitHub Copilot Pro: AIコーディング支援ツールの無料利用 ・GitHub Team: 授業や研究室用オーガナイゼーションのアカウント機能アップグレード ・Codespaces / Actions: クラウド開発環境・自動化の実行上限の拡張 ・Teacher Toolbox: 授業用教材テンプレートや教育者専用コミュニティへのアクセス github.com/education/teacher….
1password、学生はgithub student developer packで2年間無料です。 おれも今導入してる
1
1
356
やってみよう👀
サイバー攻撃から社会を守るには、政府・公的機関にもトップレベルのセキュリティ人材が不可欠です。 優秀なサイバーセキュリティ人材の働く場所として政府・公的機関を選んでいただくためにはどうすべきか考えるため、現場の方の声を集めています。 セキュリティの仕事に関わる方、AIインタビューにぜひご協力ください。どういった条件、報酬が適切かなどお聞きした上で、適宜国会での議論につなげたいと考えております。 interview.team-mir.ai/interv…
243
『診断AIの入口と出口:どちらにも「医師に見せずに裏で走らせる」があった』 npj Digital Medicineに、診断・予測AIの評価を5段階に分ける枠組みが出ていた。 pubmed.ncbi.nlm.nih.gov/4269… 「技術検証→院内で動くか→人と組んだ影響→臨床試験→実運用」 注目すべきは「入口は2段目」 院内の実データでAIを走らせ、結果は医師に見せない「シャドーモード」を、人と組ませる前の関門に置いている。 しかも全症例で回し、低画質の画像やまれな所見で落ちるところを先に出す。 出口は「実運用での戻り道」 例に挙がっているのは、実運用でAUROC(見分ける力の指標)が5%以上、感度が10%以上落ちたら警報。 そこで前のバージョンに戻す、医師に見せずに裏で走らせるだけに戻す、止める、撤去する。 点検の頻度も、リスクの高い診断AIは毎日〜毎週、低いものは毎月としている。 ただし、数字はあくまで例で、論文自身が「全部に通じる閾値はあえて決めない」と書いている。 実データでの検証もまだの、枠組みの提案。 この論文を読んで、導入時にベンダーへ聞く質問を1つ足す必要があると感じた。 「性能が落ちたとき、こちらはそれをどうやって知るのか」 診断をAIにやらせるハードルは、低くない。
#MedAI #医療AI 【NPJ Digit Med】 🩺医療AI診断・予測モデル向け5段階評価フレームワーク提案。技術から実世界統合まで、臨床的利益と信頼性確保へ。👉 pubmed.ncbi.nlm.nih.gov/4269…
133
『スウェーデンの政府機関は、10月26日から、政府機関職員の業務用パソコンでChatGPTとClaudeを開けなくした』 - 審査して設定を強めているCopilotは使用可能 - ChatGPTとClaudeも、政府指定ルートならば一部の職員は引き続き使用可能 なるほど… 「AIによる情報漏洩の防止」という名目でLLMを使用不能にするのか。 サイバー攻撃が激化すると、中央政府としてはそのような対応をせざるを得なくなる。 ローカルLLMは「禁酒法」時代の「密造酒」のような扱いを受けるようになる。 後世からみれば、AIによる「知性の民主化」は、短い期間だった、と言われるのかもしれない…🤔
先進国でも使わせない事例が出てきたのは衝撃。 スウェーデンの政府機関は、10月26日から、政府機関職員の業務用パソコンでChatGPTとClaudeの画面を開けなくしました。一方、審査して設定を強めているCopilotは使用可能としています。 しかし、全く使えないよう規制するだけでなく、ChatGPTとClaudeも、政府が自前で用意した経由なら、一部の職員は引き続き使えるということです。 「契約していないAIサービスの利用は情報セキュリティに関わる」としての措置で、これは前のオーストラリアの件などを受けてAIによる情報流出を警戒したものかなと思います。今回は国を挙げたAIへの対応として、先駆的な事象となったと感じます。 svt.se/nyheter/inrikes/ai-tj…
2
294
冗談抜きで「Standalone」で生き抜く準備をしておいた方がいいのかもしれない。 ローカルLLMをいくら用意しても、それに能う電源がなければ意味がない。 電源があっても、食料や水がなければ生きていけない。 社会が混沌としても、とにかく「生き抜く」こと。 これが本当に大事だし、その準備は冗談抜きで、しておくべき。
ポータブル蓄電池は2x 20Kwhの構成がセットアップできるように準備してきました ひとまずこれを束ねて、PC専用ではなくメインの分電盤に接続して交流200V対応のオフグリッドハウスにしてしまうように計画を変更することにしました 市街地なので置けるパネルは460Wのものが2枚のみで日産5Kwhの電力量しかないですが、無いよりはマシだし最低限の生活を賄えるくらいにはなる 計画どおり山小屋に推論サーバーを1台。海辺の自宅ラボに1台として冗長性をもたせるつもりです 面倒ではあるけど、世界がキナ臭いからしょうがないよな 電動の軽トラックにも460Wのパネルと3Kwhの電源を搭載してセルフ充電対応としますよ。車検が少々面倒くさいので、何かが起きちゃったら仕方なくパネルを載せますね。これだけで30Kgあるからね。で、毎日釣りに行くくらいの走行は可能となる 父さんはしぶとく生き残ってやっから見とけよ。電気工事士の資格は取っておきなさいね
10
405
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
そのとおり。日本として強くならなければならない。 国力で負けたら、いつまでも負けっぱなし。
色々落ち度があり、その補償と是正はマストだが、どの企業/個人がターゲットになるか分からない状況で、被害にあった企業を都度叩くよりも、「All Japan」で毅然として対応しないと、味をしめたハッカー達に各個撃破でお金をむしりとられて、どんどん被害が拡大する。 「日本よ。これが戦争だ」
1
2
142
『Tailscale脆弱性対策について』 これはまだパッチがあたっていないのに脆弱性が拡散されている可能性があり、何らかの対策を講じなければならない。 今の状況で効く順に挙げると、次の5つです。 1.Macを最新版に上げる: 2.Tailnet Lockをオンにする: tailnetに新しい端末を加えるには、信頼済みの端末の署名が要るようになる。今回の研究で「不正な端末の追加」が実演されたのは、まさにTailnet Lockがオフの状態だったので、いちばん効く対策と言える。 3.ACLでメンバーどうしの全ポート許可をやめる: 端末同士が、全ポートで通じている状況ではリスクが高いため、機能を使う分だけに絞る。 4.鍵に期限をつける: 5.Tailscale SSHとApp Connectorは使わないままにする: これらを組み合わせることが有効そう。 まずはTailnet Lockをトグルオンとし、Macを最瓶版に上げるのは最低でもやっておくべきか。
『Tailscaleの欠陥が公開』 端末同士を安全につなぐ「Tailscale」 10月24日、研究者Erica Windisch氏が「Tailworm」で、Tailscaleと互換管理ソフトHeadscaleに関する11項目の問題を公開した。 特に深刻なのは「Tailscale SSH」 遠隔操作を許された一般ユーザーが、通信転送の仕組みを悪用し、接続先サーバーの管理者権限(root)を取得できる可能性がある。 研究者は実験環境で、権限奪取や端末登録用の鍵の窃取、偽端末の登録まで確認したと報告している。 つまり、1台が乗っ取られると、アクセスを許可された別のサーバーに被害が広がるおそれがある。 ただし、誰でも外部から侵入できるわけではなく、Tailscale独自のSSH機能が有効で、接続・転送が許可されていることなどが前提。 また、11項目すべてが重大な脆弱性と確定したわけではなく、設定上の注意点も含む。 Tailscale側は25日、調査・修正中と説明しており、「全利用者にSSH停止を推奨する段階ではない」とし、接続権限の限定、不要な転送の禁止、追加認証、自動更新を推奨している。 重要なのは「信頼できるネットワーク内だから安全」と思い込まないこと。 誰に、どのサーバーへのアクセスを許しているのか。 今こそ権限を見直す機会かもしれない。 #Tailscale #セキュリティ
7
58
20
429
108,228
Tailnet Lockの具体的な手法について▽
Tailscaleの脆弱性対策について、 Tailnet Lockをトグルオンにする方法がわからず少し苦労したので、備忘録として手順を以下にまとめておく ① login.tailscale.com/admin/se… にアクセス ② Enable Tailnet Lock をクリック ③ Add signing node から、署名を行う端末を2台以上選択。迷ったら、普段よく使う端末を選べば良い ④ 画面に表示される tailscale lock init コマンドをコピー ⑤ 署名を行うPCでTerminalを開き、④でコピーしたコマンドを実行する ※ 私のUbuntu環境ではその前に 「sudo tailscale set --operator=$USER」 を実行する必要があった ⑥ 発行された Disablement secrets(無効化用の復旧シークレット) を安全な場所に保存する 以上
1
263
うぉい… またCodexリセットなのかよ…
Day 21/ Wonder what happens the remaining seven days. But today is a reset.
1
4
671
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
AIの時代に"スクール"にお金を払うのはハイリスク。 そもそも再現性がある仕事はAIが侵食していくよ。
頑張って有償スクールに通って技術を獲得し、「やっと案件を取れる」と思ったら、全部AIに置き換えられて、「もう要りませんよ…」と言われる… これは決して他人事ではない。 色んな職種、特に事務仕事系や法による業務独占がない資格は、どんどんAIに置換されていく。 Anthropicはスゴい勢いで「Skill」をリリースし、クオリティの高いアウトプットを自動化させているが、元はと言えば、人間がその技術を教え込み、それをAIができるようになり、結果として教えた人の仕事自体が消滅しかけている。 「AIに判断できないポジションを取る」 それしかない。
1
5
298
頑張って有償スクールに通って技術を獲得し、「やっと案件を取れる」と思ったら、全部AIに置き換えられて、「もう要りませんよ…」と言われる… これは決して他人事ではない。 色んな職種、特に事務仕事系や法による業務独占がない資格は、どんどんAIに置換されていく。 Anthropicはスゴい勢いで「Skill」をリリースし、クオリティの高いアウトプットを自動化させているが、元はと言えば、人間がその技術を教え込み、それをAIができるようになり、結果として教えた人の仕事自体が消滅しかけている。 「AIに判断できないポジションを取る」 それしかない。
ほんと切ないよな・・・・ 動画編集で食っていけると思って、なけなしの貯金はたいてスクール通って。 時給数百円で長時間労働に耐え。 やっと食っていけるかもと思った所でこれ・・・。
1
1
14
2,043
noteのログインで「2段階認証(パスキー)」を設定できるようになりました! 万が一パスワードが第三者に知られてしまっても、パスワードだけではログインできなくなります。 設定 > セキュリティ から設定をお願いします! くわしい手順は ▶︎note.com/info/n/nd031a92f496…
87
Museは確かに予想以上にUI/UXが優れてる Grok @botにせよ、dotsにせよ、有料課金者でないと使えない今だから、@Meta はMuseを無料でばら撒いて、プロアクティブAIのマーケットを刈り取ろうという作戦か… 更にリファラルで300億トークン付与とか、ズブズブに漬ける気満々…
すげえな
2
1
8
908
もうなんでもアリだな…🤔
Museがスマホに常駐してスマホをAIが操作するやつ作ってる AutoGLMで
2
8
1,392
医療業界にも「シャドーAI」ははびこっている。 そういう使い方をする人に限って、無料モデルを使っていたり、「データをモデル学習させてよい」とかトグルオフにしていない。 入職時研修で「SNSとの向き合い方」と「AIの使い方・序」は必修科目にしていいと思う…
1
16
1,085