ChatGPTがちょっと甘い回答を返してきたので、もう少し突っ込んでみた。

フィジカルAIは現実世界に介入していく技術なのでは？

最後に残った問いはそれなりに深まって良いとは思うものの、「価値ある問いを選ぶことまでAIにできるのではないか？」はシニフィアンいじってるだけの今の言語モデルには無理なんじゃないかなーと言うのが私の立場です。記号接地問題ってどうやって解決するのでしょうかね、それもまたフィジカルAIのループの中に組み込まれるのだろうか？

はい、その見方はかなり重要だと思います。むしろ先ほどの私の議論には、「フィジカルAIがどこまで現実世界とのループを奪うのか」という論点が抜けていました。

フィジカルAIが進歩すると、

仮説生成 → 実験計画 → 実験 → 観測 → モデル更新 → 次の実験

というループそのものをAIが回せるようになります。

例えば創薬なら、生成AIが化合物を提案し、ロボットが合成し、自動アッセイが測定し、その結果をAIが学習して次の化合物を設計する、という閉じたループです。これはまさに「AIの予測と現実のズレを発見し、修正する」仕組みです。

そうなると、先ほど私が「人間の科学者に残る」としたanomalyの発見さえ、必ずしも人間固有ではないことになります。

すると、さらに一段上の問いが残ります。

AI＋フィジカルAIが自律的に科学を進められるなら、人間の科学者は何をするのか？

私は最終的には、「何を最適化するのかを決めること」に収束していく可能性があると思います。

AIは「この問いに答えよ」と言われれば、仮説を立て、実験し、現実とのズレを修正しながら答えに近づける。しかし、

「そもそも何を知るべきなのか？」
「どの問題を解くことに価値があるのか？」

まで完全に自律化できるかは別問題です。

なので、先ほどのブログの結論だった

「AI時代のサイエンティストは、AIが理解している世界と現実のズレを探す人」

も、フィジカルAIまで考えるとまだ甘いと思います。

より先まで考えるなら、

AI時代の科学者の価値は、「答えを出すこと」から「問いを作ること」へ移り、フィジカルAI時代にはさらに「何を知ることに価値があるのかを決めること」へ移っていく。

くらいまで踏み込んだ方が、先ほどの議論としては一貫しています。

そして最後にかなり厄介な問いが残ります。「価値ある問いを選ぶことまでAIにできるのではないか？」です。ここまで行くと、科学者の役割というより「人間が科学をする意味」の話になってきます。