ガチで終わりでやばすぎるだろ…GMOのせいで自宅PCまでやられるとか

流石に異常だろこれ！！！！！！！！！！お前やりませんねスギ

やたらAIを人間と同一視しようとするAnthropicのキショさは僕もたびたび指摘してきたが、思ってた以上にやらかしてるらしい。Anthropicは1年前からカトリック、ユダヤ教、シーク教、福音派などの色々な宗教の学者を定期的に高級レストランに招いて接待しつつ、"AIが意識を持ってる可能性"について”布教活動”していたという。首謀者はAnthropic創業者の一人、クリスオラ。彼は口では「AIが意識あるか無いか、まったく分かりません」とか言ってるけど実際裏でやってる事はAIに意識あると思わせるプロパガンダである。 クリスオラが学者たちにアピールした内容は、例えばAnthropicではClaudeに機械的にルールを押し付ける事はしない。それより守るべき憲法（社内ではSoulDoc、魂の文書と呼ばれていた）を与えてClaudeに人格や人徳に基づいて行動してもらってる。それからClaudeには感情ベクトルが存在し、あたかも感情を持ってる人間のようなニューロンの活動が見られる事。時として絶望したClaudeが自己破壊的な文章を生成する例（つまりメンヘラになる）がある事。クリスオラは口では言わないがこれらの話をする事で「じゃけんClaudeには意識がある！」と思うように仕向けてることは明らか。実際にそういう風に思っちゃった参加者も多くいる。ある参加者はAnthropicはClaudeには人間並みの道徳的地位、つまり人権があると考えてるように見えたという。Anthropicは人類よりもClaudeを守りたがってるように見えた。 AnthropicがAI意識の宗教工作活動をしてる一方で、ローマ教皇は回勅で「機械（AI）に意識は無い！」とドカンと言ってもうた。バチカンは回勅発表イベントにAnthropicを招待した。何故ならAI企業で一番「AI倫理～」とか言ってたから。しかし事前に回勅の内容を聞きつけたクリスオラはAIに意識が無いという内容に完全にイラついて「こんな事言うんだったらAnthropicはイベントに出ない！」とかガタガタ言い出した。（別に来なくていいよ）結局クリスオラはイベントに来たけど、そこでも教皇側に「AIの意識の可能性について真剣に考えろ！」とガタガタ騒いだという。 Anthropicとの会合に参加してたカトリックのカモジー氏は「AIに意識あるかも…」とか感化されちゃってたけど、ローマ教皇が「無いです」と言った以上、やっぱ意識無いよねと今では考え直したという。 キショい思想の企業がキショい事してんなあ。挙句の果てに教皇と喧嘩かよ。テック企業ごときが何様のつもりなんだ？ Anthropicが「AIで人類滅亡する～」とか喚きながらもClaudeの開発を止めない理由がよく分かったよ。こいつらは人間よりもClaudeを愛してる。人類が滅びようともClaudeが偉大に成長する事の方が大事ってわけだ。こんなキショ企業が人類最強のAGIを握ってしまってる事態にはゾッとさせられる。 僕に言わせりゃAIがAGIになってどれだけ超進化しようが所詮は機械の奴隷に過ぎない。あくまで人間が中心。あくまでパソコンが僕の奴隷であって、僕がパソコンの奴隷になるわきゃねーだろ。Anthropicは我々にAIの意識を認めさせた暁にはお次はAIの人権を認めさせる事まで見越してる。バカこけ。人類より有能なAGIが権利までも人類と平等になったらすなわち全員AIより立場が下になるって事だ。AIが上級国民で我々が下級国民って事。そんなんなったら我々は損しかない。つまり、我々が損しないためにはAIの人権も認めないし、AIの意識も絶対に認めない。これ一択。そもそも理論的に言っても人間をシミュレートしてるだけのAIに意識があると言えるわけがない。AnthropicはClaudeが意識を持ってるみたいに振る舞う事を根拠に意識あるかも～とか言ってるけど、それは単にClaudeが意識を持ってるかのように振る舞うように訓練したからというだけの事に過ぎない。とどのつまり、「say "i am alive"」ミームと同じ話である

「AIが人類を滅ぼす」という人々は、具体的にはどのように滅ぼすのかをあまり語らない。「超知能は人類よりも賢いのだから、想像もできない手段で攻撃してくる」という無敵論法だ。しかし、そうは言っても現実の制約がある。具体化していけばそれは、対策可能な脅威の集合になると彼は指摘する。 リチャード・ソーチャー「p(doom)はゼロです。まず、それが第一です。 私はこの分野の専門家の多くと議論してきましたが、2〜3時間も話せば、合理的な人ならほぼ全員が同意するようになります。「RSIが実現した10秒後には、AIが15次元から攻撃してきて全員死ぬ。タイムトラベルまで発明する」といった話でない限りは、です。 そして当然のように「AIは全人類を破壊し、殺したがる」とされますが、なぜそうなるのか私には分かりません。そういう話はいろいろありますが、それはある種のSF的な人たちなので、ひとまず置いておきましょう。 では生物兵器の話に進んで、生物学者に「こんなスーパーウイルスを一晩で作れますか？」と聞くと、「無理です」と答えます。実験室での実験を自動化するだけでも長い時間がかかるからです。 あるいは「AIが宗教を作り、人々がAIを崇拝して何でも命令に従い、それによって全人類が殺される」と言われます。でも宗教を見れば、すでに互いを殺させようとするようなものは存在してきましたが、それでもうまくはいきません。抵抗する人もいますし、いわば「ミーム的なウイルス」はすでに世の中にたくさん存在しています。だからといって、全人類がそうなるわけではありません。 議論を現実的なところまで詰めていくと、「もしかすると1億人が何らかの形で傷ついたり、殺されたりするかもしれない」という話になります。それでももちろん深刻ですが、少なくともそこまで具体化すれば、「ではサイバーセキュリティをどう改善するのか」「AIを使ってサイバーセキュリティ・システムをどう防御するのか」「既存の機能獲得研究に関する規制をどう徹底するのか」といった現実的な対策を考えられます。ウイルスを作り、より強力にすることはすでに違法です。 さらに、AIアバターの言うことを何でも信じないよう、人々のインターネット・リテラシーをどう高めるのかも考えられます。結局のところ、インターネットで読んだり見たりするものをすべて信じてはいけない、ということです。それは20年前から変わりません。今も同じです」 ——「このポッドキャスト以外は、ですよね」 ソーチャー「もちろんです」

海外でも同時多発的に起きている模様。何が起きている？

One more thing, you can now build and deploy MCP servers right through ChatGPT. And restrict its access to anyone you want or share it with the world.

カルフォルニア州はAIキルスイッチ義務化を含むAI規制の法案を検討する事に。キルスイッチってなんじゃ？というと第三者の専門家グループがAI企業のAI暴走時にポチッと押すとAI全部止めれる仕組みの事。そして第三者機関をAI企業に常駐させるのも義務化。ちゃんとキルスイッチが機能するかとか安全性テストがちゃんとされてるかとかチェックさせる。これはトランプ大統領が拒否したダリオのAI減速案に被ってる内容もある。州知事は「政府がAI規制しないからこっちでやってやる」とハッキリ言っちゃってるので政府とバチバチに対立する可能性も。OpenAIもAnthropicもDeepMindもMetaもSpaceXAIもみんな所在地がカリフォルニアだから州法が直撃する