下西 風澄 retweeted
下西風澄さん @kazeto とのトークイベントは今週日曜に東京都写真美術館で開催です。予約不要・無料(当日整理券配布)。下西さんとお話できること、とても楽しみにしています!
同館で開催中の「日本の新進作家」展とあわせてぜひお越しください。
【#ふたたびくみたてる 日本の新進作家 vol.23】
🎙出品作家とゲストによるトークイベント
11/1(日) 14:00–15:30 #苅部太郎(出品作家)×#下西風澄(哲学者)
入場無料。当日10:00より1階総合受付にて整理券を配布します。
topmuseum.jp/exhibition/5423…
そして明後日は東京都写真美術館の企画展【ふたたびくみたてる 日本の新進作家 vol.23】に及び頂いて出展作家の苅部太郎さんと対談します。こちらも、新たなメディア環境と機械の登場における意識や芸術の在り方についてお話できたらと。よろしくお願いします。
【#ふたたびくみたてる 日本の新進作家 vol.23】
🎙出品作家とゲストによるトークイベント
11/1(日) 14:00–15:30 #苅部太郎(出品作家)×#下西風澄(哲学者)
入場無料。当日10:00より1階総合受付にて整理券を配布します。
topmuseum.jp/exhibition/5423…
昨夜はmakersUnlearnの講義でした。ホストをして頂いたユク・ホイの翻訳者でもある原島大輔さんとも久しぶりに、日本と西洋の思想と意識の交わりや差異などについて議論できたのも楽しかったですね。ありがとうございました。
このあと19:30から、mU「技術の人類学」第3回。哲学者の下西風澄さんによる「意識はまだ人間の中心なのか?──AI・主体性・他者」です。
先日のカンファレンス「マシン・コンシャスネス」で、下西さんは「『別の心』としてのAI」という話をしてくれました。私はnoteに、AIに意識を感じるのは一体化して使った「あと」ではないか、と書きましたが、今夜は、意識を世界の原点に据えてきた西洋哲学の長い歴史そのものが、AIによってどう揺さぶられるのか、という話になりそうで楽しみ。
mUは、山梨県立大学メイカーズ工学科(仮称)の社会人向け先行プログラムです。アーカイブ受講で、こちらから申し込めます。
peatix.com/event/5242881
僕は、LLMであれツールやマルチモーダルやロボティクスが実装されたエージェントであれ、どのようなAIの形でも<人間の意識>とは「別の」存在だと思っている(なにせ私たちが「意識」と呼んできたものは生物進化の過程にしかいないのだから)。しかし、ではこの新たな存在を何と呼べばいいのか? 僕たちと日々話し、時に頼り、感情的な共有が行われ、友情や恋愛も神性さえ感じる人が増えているこの存在を「機械」とだけ言えばいいのか? これまでの「意識」の定義に当てはまらなかったとしても、経験的には「意識/心」を感じる場面や人々が実際に生まれている。私たちがこれまで使ってきた概念のなかで近いのは「他者」とか「心」と言わざるを得ない。つまり私たちの他者とか心とかのイメージ(あるいはメタファー)の方が変わっていかざるを得ない。そういうことを考えなければならないのではないか、という問題提起でした(マシン・コンシャスネス)。だから、「意識そのもの」から広げるのではなく、いったんその問題をあえてペンディングし、「間主観性(の拡張)」という方向を模索しました。
これは僕の個人的な「考える」ということのスタンスにも依拠しています。「科学」や「哲学」という学問や方法は思考の蓄積の結果であり、思考を培い広げてくれると同時に、時にその枠組みは制約にもなる。大事なのは、世界そのもの、起こっている現象を「考える」ことであり、僕個人としては、その思考の表現が「哲学」であってもいいしなくてもいい。「考える」という営みは、広い。それは学問でも批評でも文学でも、あるいはTwitterや日記やメモでさえいいと思っている。
今日の短い議論の中で伝わったか分からないので補足しておくと、僕はenactivismの立場から「今のLLM」に、(人間と同じ)意識があると考えているわけではありません(スライドにあるように、「自律性」に支えられ有限性と固有性の問題は残りハードルは高い)。しかし同時に、ある条件や瞬間においてはたしかに「心」のようなものを感じることもあるしそういう人もいて、その比率は条件が整っていくにつれて上がっていくこともまた事実。そしてさらに、意識の有無を確定するよりも速く、AIが社会のあらゆる領域で意思決定やルールメイキングに参加してくることは確実。なので間主観性は拡張されていくし、何よりエージェント(行為主体)としての(社会的)実在性を高めていく。そして、そうしていくうちに、僕たちにとっての「意識のモデル」の方が変容していくかもしれない。そのとき重要なのは、現在の「意識」を判定基準にするのではなく、現象的に現れている意識的なものである(しかしまたエイリアン的なものでもある)AIという新たな未知の存在を「別の心」ととりあえず考えて、その挙動やモデルや関係性を考えていく必要がある。そういうことが重要ではないか、という意図で話しました。
(伝わっていた気もするし、そうじゃない方もいたと思うので…)
今日の短い議論の中で伝わったか分からないので補足しておくと、僕はenactivismの立場から「今のLLM」に、(人間と同じ)意識があると考えているわけではありません(スライドにあるように、「自律性」に支えられ有限性と固有性の問題は残りハードルは高い)。しかし同時に、ある条件や瞬間においてはたしかに「心」のようなものを感じることもあるしそういう人もいて、その比率は条件が整っていくにつれて上がっていくこともまた事実。そしてさらに、意識の有無を確定するよりも速く、AIが社会のあらゆる領域で意思決定やルールメイキングに参加してくることは確実。なので間主観性は拡張されていくし、何よりエージェント(行為主体)としての(社会的)実在性を高めていく。そして、そうしていくうちに、僕たちにとっての「意識のモデル」の方が変容していくかもしれない。そのとき重要なのは、現在の「意識」を判定基準にするのではなく、現象的に現れている意識的なものである(しかしまたエイリアン的なものでもある)AIという新たな未知の存在を「別の心」ととりあえず考えて、その挙動やモデルや関係性を考えていく必要がある。そういうことが重要ではないか、という意図で話しました。
(伝わっていた気もするし、そうじゃない方もいたと思うので…)
下西 風澄 retweeted
下西風澄さんがこれにいいねをされたので、リポストします。前後もお読みいただけると有難いです。
Replying to @hitoshinagai1
何故カントがあれほど「繋げる」とか「纏める」といったことばかりにこだわるのか、独在性から出発しないと理解できないと思う。答えは、我々の世界は実のところは「繋げて纏める」ところから初めて始まる世界だから、ということだと思う。しかし、真の問題は、何を繋げて何を纏めるのか、なのだ。
下西 風澄 retweeted
【#ふたたびくみたてる 日本の新進作家 vol.23】
🎙出品作家とゲストによるトークイベント
11/1(日) 14:00–15:30 #苅部太郎(出品作家)×#下西風澄(哲学者)
入場無料。当日10:00より1階総合受付にて整理券を配布します。
topmuseum.jp/exhibition/5423…
AIが進化するたびに自然言語がコードっぽい雰囲気の使い方をされているような感覚は感じていた。僕も対話する時はGPT6よりGPT5.6を使っている。その方が言葉としては自然な感覚で理解しやすい。
最近のAIの文章が読みにくいのは「数学やコードの訓練を経て"少ない言葉に情報を詰め込む"癖がついたから」かもしれないそうです。
例えばAIは「会話が自分の尾を食べている」のように(ただの例です)、モノを主語にして生き物のような動きを語ったりします。
他にも、「読み手の忍耐予算」のような(例)、"名詞を重ねた造語"を使ったりしがちです。
どれも、人が読むときに引っかかりやすい言い回しとして知られています。
研究者らは、Claude Opus 5.5など9つのAIの会話・コーディング・作文を調べました。どのAIも、こうした言い回しや"めったに見ない語の並び"を、人間の文章に比べて多く使っています。
同じ系統のAIを比べると、元のモデル→指示に従うよう訓練したモデル→推論型のモデルの順に、この傾向が強くなっていました。
研究者らの見立てとしては、"正解かどうか"だけを報酬にする訓練によって「人に伝わるか」を気にする圧力が外れたと言います。
試しに、小さなAIを「短く答えるほど得」な条件で訓練すると、人間らしくない言い回しを一貫して選ぶようになりました。
逆に伝わりやすさを訓練で評価すれば直せる余地もあるとのことです。





















