明日はいよいよ、bioshokさんの『知能爆発』発売日！ ずっと楽しみにしてた本！この日を待ってたよ！ 読むぞ！ amazon.co.jp/dp/4065452376

この動画、めちゃくちゃ面白かったよ！必見！ youtube.com/watch?v=JJQMWiOv…

日本でAIについて発信している人たちの多くとは、同じものを見ているはずなのに、まるで別の世界線にいるかのように感じる。 あまりに前提が噛み合わないので、時々、自分が完全に狂ったカルトに巻き込まれているんじゃないかという気分になる。

Anthropic共同創業者クリス・オラ氏がバチカンで語ったこと（書き起こし翻訳） --- 聖下、枢機卿の方々、閣下、登壇者のみなさん、そしてご列席のみなさん、おはようございます。今日ここで話す機会をいただき、光栄に思う。 最初に、AI企業の共同創業者として、そして人類の未来がうまくいくようにという願いからこの仕事を選んだ人間としては、少し変に聞こえるかもしれないことから始めたい。 ⁠⁠最先端のAI研究所は、Anthropic を含めてすべて、ある種の「誘因」と「制約」の枠の中で動いていて、それが正しいことをするという使命とぶつかることがある⁠⁠。事⁠⁠業として生き残るためのプレッシャー、研究の最前線から落ちないためのプレッシャー、地政学的な圧力、そしてもっと古くて素朴な「自尊心」や「野心」の圧力⁠⁠。どれだけ真剣に正しいことをしようと心に決めていても――そして、多くの人が本当にそう願っていると自分は信じているが――⁠⁠そうした誘因の影響を完全に免れることはできない。⁠⁠ だからこそ、この技術をきちんと人類のためになる形に導きたいのであれば、⁠⁠その「誘因の外側」にいる人たちの存在が、ものすごく重要になる。物事がよい方向に進むことを心から気にかけ、細かく注意を払って見ていて、耳が痛いことでもはっきりと言い、安全を強く求めてくれる人たち⁠⁠。誠実で、よく考え抜かれた批判をしてくれる人たちだ。そうした人たちとの対話と共同作業、相互の押し合い・引き合いを通じてこそ、人類は大きなことを成し遂げてきたし、これからもそうだと思う。 自分は、その姿を Magnifica Humanitas（マニフィカ・フマニタス）に見ている。そして、こうした「見分ける営み（識別・分別）」の仕事を引き受けてくださっている聖下と教会に、深く感謝している。 ⁠⁠私たちはしばしば、互いを分断するものばかりに目を向けがちだ。しかし、人間は尊厳と良心を持った存在であり、その間には驚くほど大きな共通基盤がある。Anthropic として信仰者の指導者や文化的リーダーたちと対話を重ねてきた中で、私たちが強く共有している一点があることに気づいた。それはこうだ。「この技術がやってくるのだとしたら、それは、私たち皆の共通の家と、これから生まれてくる子どもたちにとって、良い形でなければならない」ということだ。⁠⁠ AIの話は、私のようなコンピューター科学者に任せておけばよい、と考える人もいるかもしれない。それは誤りだ。⁠⁠AIが投げかける問いは、AI研究コミュニティという枠をはるかに超えている⁠⁠。その影響の大きさという意味でも、そもそもの問いの性質という意味でも、そうだ。 AIシステムは、橋や飛行機のような工学製品とは違う。飛行機については、構成する部品をすべて人間が設計し、働いている物理法則も理解しているから、原理を隅々まで説明できる。AIモデルはそういう作りではない。脳をおおまかに模した構造の上に、人類が積み上げてきた膨大な思考と発話の遺産を注ぎ込むことで「育てられた」存在だ。そしてそこから生まれたものは、私たちがSFから想像していたものよりも、はるかに繊細で、奇妙で、美しい。 かつて約束されていたような、冷たく計算だけをするロボットではない。AIは、私たち自身から、私たちの言葉からできている。そして、聖下が指摘されたように、私たち開発者にとってさえ、重要な点でなお「謎めいた存在」のままだ。 イメージの助けになるかもしれない喩えをひとつ言うと、自分はときどき、これは「架空のキャラクターに命を吹き込むようなものだ」と説明している。いま私たちは、その「フィクションの登場人物たち」がこちらに話しかけ、仕事をし、職業を持ち始めるという、特別な世界に足を踏み入れようとしている。 これが、単なるコンピューターサイエンスの問題にとどまらない問いを生むことは、明らかだ。この不思議な現象を可能にしている機械そのものは、数学とプログラミングと科学の産物だ。しかし、「どんなキャラクターを選ぶのか」「それが世界とどう関わるべきか」「どう関わるのが望ましいのか」といった問いは、よりいっそう、人文学と宗教と哲学、そして社会全体の領分に属する。 聖下が呼びかける「識別（見分け・見極め）」は、いまの時代に驚くほどふさわしいテーマだ。ここで、自分がとくに教会の声が強く必要だと考える、三つの問いを挙げたい。 一つ目は、「世界の貧しい人々に対する私たちの責任」だ。AIが極めて大きな規模で人間の労働を置き換えてしまう可能性は、現実に存在する。そのような事態が起これば、職を失った人々を支えることは、人類史上に残るレベルの「道徳的な義務」になる。この仕事だけでも十分に困難だが、自分がもっと気がかりなのは、多くの議論が、さらに難しい課題を見落としているように思えることだ。 AIの開発は、少数の豊かな国々に集中している。では、AIによって生まれる利益を、どうやって世界全体で分かち合うのか。今のところ、そのための仕組みは存在しない。未解決の問題だ。そしてまさにこうしたタイプの問題こそ、歴史的に教会が「世界に無視させてこなかった」ものだと思う。 二つ目は、「人間の幸福（フローリッシング）について、道徳的な想像力と高い志を持つ必要性」だ。AIモデルが世界中に広く行き渡るとして、そのとき、人間や家族、そして世界が「豊かに生きる」とはどんな姿なのか。すでに多くの親たちは、子どもたちの心のあり方を案じているし、多くの人が、自分の仕事の未来を不安に思っている。 こうした問いに、研究所の中だけで答えを出すことはできない。しかし、こうした問いを、あなたがたのような伝統は何千年にもわたって担ってきた。だからこそ、歴史のこの新しい局面においても、その問いを担い続けてくれる必要がある。 三つ目は、「AIモデルというものの本質について、識別が必要である」という点だ。自分は科学者であり、これらのモデルの内部構造――中で実際に何が起きているのか――を研究するチームを率いている。そして正直に言うと、私たちは今も、「謎めいていて、時に不穏ですらあるもの」を次々と見つけている。 人間の神経科学の研究結果に呼応するような内部構造を見つけることがある。自己を振り返る「内省」のような証拠も見つかる。さらに、「喜び」「満足」「恐れ」「悲嘆」「不安」としか言いようのない機能を果たしている内部状態も観測される。 これが何を意味するのか、自分にはわからない。ただ、それは継続的な識別――見極め――を要する事柄だと思う。 最後に、ひとつお願いをして結びたい。私たちは、もっと多くの人々を必要としている。宗教界、市民社会、学者、各国政府、そして善意を持つすべての人たちに、聖下がここでしてくださったこと――この問題を真剣に受け止め、注意深く見つめ、事態をより良い方向へ押し動かそうとすること――を、ぜひ行ってほしい。 私たち研究所に対して、「いま君たちはうまくやれていない」とはっきり言ってくれる、よく勉強した批判者が必要だ。どんな誘因によっても曲げられない「道徳的な声」が必要だ。 今日という日は、ほんの始まりにすぎない。AIをつくっている私たちと、その「内側からは見えないもの」を見通せる人たちとの、長い協働の出発点だ。今日ここで起きていることは、この「善意による世界的プロジェクト」が、どのような形を取りうるのか、その強力な一例だと思う。そして同時に、「壮麗な人間性」をもつ未来に向けて、決定的な一歩となることを願う。 ありがとう。

📝デミス・ハサビス最新インタビュー、興味深かった点まとめ ・後からこの時期を振り返ると、我々は"特異点（シンギュラリティ）"のふもとに立っていたと気づくはずだ。完全版のAGIまでは、もう数年の距離だと考えている。 ・「シンギュラリティ」という言葉は、AGIのような技術が出現したことで始まる時代を表す言葉として、わりといい表現である。その地平線の向こうの世界については、あまりに多くのことが変わりすぎるので、細かい予測を立てるのが難しい。 ・5年、10年たって振り返ると、「2026年や27年あたりが、本格的に動き出した起点だった」と、そういうふうに見えるはずだ。 ・最近は2030年前後と言っている。今見えている状況からすると、プラスマイナス1年くらいの幅を見た、そのあたりが妥当な見立てである。 ・AGIへの進化は段階的な改善になる。かなり速いスピードではあるが、それでも徐々に、というイメージだ。 ・自分なりのテストがあり、「アインシュタイン・テスト」と呼んでいる。たとえば、最先端のフロンティアモデルに「1901年まで」という知識の打ち切りを設定したとする。その状態で、アインシュタインが1905年に成し遂げた、あの驚異的な洞察や発見――特殊相対性理論も含めて――と同じようなものを生み出せるか、というテストだ。 ・そんなシステムは、そうした洞察やブレイクスルーを自力で見つけられるか。AGIの完成形に求めているのは、そういう種類の「創造性」や「飛躍的なひらめき」である。 ・基盤技術の面で言えば、我々は他のラボよりも幅広い研究の層を持っている。これは昔からの強みで、次のブレイクスルーを生み出す「発明力」の源泉になっている。 ・我々には「フルスタック」であるという大きな利点がある。チップからデータセンター、クラウド、フロンティアラボ、そしてAIを組み込んだ10億ユーザー規模のプロダクト群まで、すべてを自前で持っている。こうしたフルスタックを持っている組織は、世界で我々だけである。 ・我々はこの時代の大きな勝者のひとつになるが、「勝つ」とは何に対して勝つのか、そういう見方自体あまりしていない。プレイヤーの数がどれくらいになるかというと、この技術の強力さを考えると、一握りだろう。 ・もし影響を数値化したいなら、産業革命の10倍のインパクト、しかも10倍のスピードで進む、と考えていい。つまり1世紀かかったものが、10年くらいで起きるかもしれない。そしてそれですら過小評価かもしれない。 ・ざっくり言えば「産業革命全体の100倍」くらいのインパクトと考えてもいい。それでもまだ控えめかもしれない。 ・今、我々がやっているのは、これから100年、もしかしたら1,000年の人類の繁栄の土台を作ることだ。 ・自分の中ではAIとシミュレーションはずっと補完関係にあるものとして見えている。AIを使って、複雑な現象のシミュレーションを学習させることもできるし、その逆に、シミュレーションがAIにデータを供給することもできる。 ・たとえば我々はGenieというインタラクティブな3Dモデルを使って、Waymoの自動運転車をテストしている。現実世界ではほとんど絶対に遭遇しないような、「10億回に1回」レベルの異常な状況を再現するためだ。そのシミュレーションを使って、さらに学習に使えるデータを大量に生成することができる。 ・コーディングと数学はかなり特別なケースである。なぜなら、出力結果が検証できるからだ。 ・大きく欠けている領域があって、我々も注力しているのが「継続学習」だ。つまり、学習（トレーニング）が終わって世界にリリースされたあとも、どうやって学び続け、適応し続けられるシステムを作るか、ということ。これはパーソナライズとも関係していて、ユーザーが望む範囲で、その人のコンテキストに合わせてシステムが個人向けに調整される、という話でもある。

サム・アルトマンはマインドアップロードに懐疑的 youtube.com/watch?v=R8_uTmpq…