オリエンテーションプログラム Series 26
このプログラムは全8モジュールで構成されています。モジュールが表示されると進捗は自動で記録されます。テスト等はありません。
モジュール 01OP-2609/01
計算資源の支出に関する広く知られた発言と、その結果についての考察。
OpenAIがNavier-Stokesのミレニアム懸賞問題を解決したと発表したとき、実際に広まったのはジョークのほうだった。100万ドルの賞金を追うために2200万ドル相当の計算リソースを使った、みたいな話だ。これは純粋に面白いし、僕も笑った。だが会話が次へと移っていく中で、そのジョークのせいで誰もが何気なくスルーしてしまったことについて、僕は考えずにはいられなかった。
およそ1万の連携するエージェントが証明と、その証明のLeanによる形式化を作成した。つまり、プレスリリースで主張されただけでなく機械によって検証された結果であり、人間なら1つの成果に10年かかることもある分野において、人類にとって最高難度のオリジナルな数学が機械によって行われ、機械によって検証されたということだ。そしてOpenAIは賞金を辞退し、事の全体を進歩のペースに関する現状報告として位置づけた。おそらくこれが最も示唆に富む部分だろう。
ここで注意深くありたい。僕自身も危うく勘違いしそうになったからだ。僕の最初の直感は、これで流体力学が解き明かされ、流体力学によって推進技術やモデリング、さらには下流の無数の産業が波紋のように開かれていく、というものだった。1週間前の僕ならそう書いていただろうし、それは間違いだったはずだ。この証明が見つけたのは有限時間特異点(finite-time singularity)であり、これは否定的な答えであって、滑らかな解が破綻しうることを示している。数値計算手法や乱流のモデル化にとっては途方もなく重要だが、誰の手にもより優れたロケットが手に入るわけではない。
だからその重要性は応用とは別のところにあり、シンプルに機械が数学をやったということ、それがすべてなのだ。そして計算コストの請求書に関するジョークは、その本質をまるで見落として素通りしてしまった。
モジュール 02OP-2609/02
汎用人工知能に関する2つの公式声明と、それぞれが依拠する定義の検証。
誰も気づかなかった理由の一端は、同じ週に、中身はずっと薄いのに声だけはやたらと大きい発言が溢れかえっていたことにある。
9月6日、Jensen HuangはAGIの到来を宣言し、10万基以上のNvidia Grace Blackwell GPUでトレーニングされたGPT-6 Astraの手柄だとした。そしてその2日後、Navier-Stokesの結果が発表されたが、両者を対比して論じる者は誰もいなかった。彼には前例があり、遡る3月にもLex Fridmanに対し、AIがどれくらい早く10億ドル規模の企業を立ち上げ運営できるようになるかという質問に答えながら"I think we've achieved AGI"と語っていた。もっとも、8月の決算説明会では目に見えて慎重になり、多くのタスクにおいてすでにAGIを達成したと言えると述べた後、巧みに経済性の話へと話を切り替えていたが。
Sam Altmanも同じような手口を使っており、現状の最先端技術はOpenAI独自のAGIの定義(経済的に価値のあるほとんどの作業において人間を凌駕する高度に自律的なシステム)を満たしていると宣言する一方で、別の場ではまだそこまでは達しておらず、自分がAGIと呼べる内部システムが今年末までに登場することを期待していると語っている。
この両者が何に基づいているかに注目してほしい。それは発言者自身が用意した「定義」だ。Huangの定義は商業的なもので、10億ドルのビジネスの構築を支援できるようになれば汎用とみなすというものだし、Altmanの定義は自社都合の経済的な言い回しだ。つまり、どちらも普通の人が言葉を聞いてイメージするような意味での汎用知能についての主張ではなく、どちらも自分たちが定めた言葉の範囲内においてのみ技術的に抗弁可能なものにすぎない。
そして誰かがヘッドラインを読み、アプリを開き、実際の仕事をやらせてみて、有能な人間ならまず失敗しないようなことで失敗するのを見て、「嘘をつかれた」と結論づける。厳密には嘘をつかれたのではなく、「都合のいい定義を売りつけられた」のだが、信頼に対する影響はまったく同じであり、そのダメージは積み重なっていく。なぜなら、次に本物の成果が出たときにも「また同じような誇大広告か」と受け止められてしまうからだ。
Huangが自社のGPU 10万基の成果だとした部分は、特に額縁に入れて飾っておきたいくらいだ。発言そのものに請求書が添付されて届いているようなものなら、動機をあれこれ推測する必要すらないのだから。
モジュール 03OP-2609/03
この分野への関心の低下について述べ、継続的な露出が原因であると分析。
ここで僕自身、人に対する見立てを誤っていたので、その思考の過程を明かしておこう。
僕の最初の見方は、人々が主張を評価するのをやめ、「すべてはバブルだ」あるいは「すべてはクソ(slop)だ」という極端な二者択一のスタンスをとって、個別の具体的な事象を判断する労力を放棄したのだというものだった。それは描写としては合っているが、原因としては完全に間違っているし、そう表現するのは不当に人々を見下すことにもなる。
それは疲労だ。ただそれだけのことなのだ。
今や何を開いてもAIが絡んでいないものはない。製品発表、広告、LinkedInの投稿、ニュース番組、あるいは以前から使っていたツールの隅にいつの間にか生えたキラキラアイコンに至るまで。毎日毎日同じメニューを食べさせられ続ければ、人間の反応はやがて「分析」をやめ、「身構え(拒絶)」へと変わる。人々はその単語を聞いた瞬間に、始まる前に会話をシャットダウンしてしまう。そうするのは彼らが愚かだからではなく、3年連続で意識のあらゆる隙間に押し付けられてきたものから自分自身を守っているのだ。
テック業界にいない友人たち(ビジネスを学んでいたり、全く別の分野にいたりして、テクノロジーそのものを把握するのが本当に難しい人たち)の間でこれが起きているのを見てきた。そこで僕が目にするのは「無関心」ではなく、会話が始まるよりも前にやってくる「消耗」だ。
正直に言うと、僕自身はこの疲労を感じていない。誰かに「どこでシャットダウンする?」と聞かれても何も思い浮かばず、僕の足を止めるのは純粋な肉体疲労だけだからだ。だから僕は自分が共感していることではなく、観察していることを語っているのであって、その意味では誰かに説教するには最も不向きな人間かもしれないし、単に僕の友人グループだけの話かもしれない。僕はそう言い続けているし、本心からそう思っている。
この疲労をさらに悪化させているのは、ノイズの中の一部は本物だという点だ。真の進歩も、粗悪なゴミ(slop)と同じパイプを通って、同じ服を着て、同じ言葉を使ってやってくる。だからその言葉に対して身構えるように慣れてしまうと、すべてに対して身構えてしまうことになる。
モジュール 04OP-2609/04
新たな能力を生み出す組織と、それを再販する組織を区別。
僕の頭の中にある整理は、大まかにはThielの『ゼロ・トゥ・ワン』の枠組みから来ている。あらかじめ断っておくと、この二分法は大雑把だ。存在しなかったものを生み出し、そこになかった市場を開拓し、真のフロンティアを押し広げる企業がある一方で、誰か別の人間が作ったものから価値を搾取(抽出)することだけが機能の企業もある。
搾取そのものが悪だとは思わない。ビジネスとは価値を引き出すものであり、それが本質なのだから。有用なものを再販して真っ当な利益を上げている企業なら何の問題もない。僕が反対したいのは、その場における唯一の動機が搾取になってしまうことだ。そしてAIは、他人のモデルの上に薄いラッパーを被せてプロンプトにサブスク課金するだけが全存在理由のような企業を大量に生み出した。ノイズの大部分はここから発生しており、人々に拒絶反応を学習させたのもこのノイズだ。
その下にはさらにひどい階層がある。見事に機能するものの、おそらく存在すべきではないものを作っている企業群だ。親しみやすいオンボーディングフローを備えた監視ツールや、第2の用途が「人を殺すこと」でパンフレットに載るのは第1の用途だけ、というようなデュアルユースの仕事などだ。このカテゴリーに属する連中は誰一人として自分を悪者だと思っていないし、金回りは恐ろしく良い。
モジュール 05OP-2609/05
Physical Intelligenceにおける最近の資金調達動向とこれまでの報道を要約。
現在、注目がいかに偏って配分されているかを知りたければ、ロボティクスを見るといい。
AMI Labsは、ヨーロッパ史上最大となるシードラウンドで10億3000万ドルを調達した。Yann LeCunが11月にMetaを去って会長に就任し、彼らはJEPAアプローチに基づく世界モデルを構築している。これは言語モデルのスケーリングとは本質的に異なる賭けであり、物理的知能がおそらく必要とするものだ。GeneralistはGoogle DeepMindのロボティクス部門やBoston Dynamicsの出身者によって2024年に設立され、同社のGEN-1.5モデルは、勾配更新もファインチューニングもなしに、たった1回の実演からわずか数秒で新しい物理タスクを学習する。同社は6月に4億ドルを調達し、8月には評価額30億ドルでの協議が報じられた。
僕はこうした企業がOpenAIやAnthropicの陰で資金難に喘いでいると思い込んでいたが、そんなことはなかった。資本は明らかにそこにある。欠けているのは「注目」だ。10億ドルのシードラウンドも、1回見るだけで学習するロボットも、一般的な議論の中にはどこにも見当たらない。
その理由の一部は構造的なものだ。専門分野でない限りロボティクス研究を追うのは難しく、ロボティクス系のスタートアップは自分たちの説明にお金を使わない傾向がある。資金は研究開発に使ったほうがいいという理由もあるし、売るものができるまでは世間の注目を集めることを急務と捉えない創業者が多いからでもある。また、議論の地理的な偏りも過小評価されがちで、サンフランシスコのコミュニティがリアルタイムで動いているのに対し、ヨーロッパ、アジア、インドは同じ情報に対して数ヶ月遅れており、当事者たちは自分たちが遅れているとすら思っていない。念のために言っておくと僕も遅れている。単純に情報が多すぎて、本気ですべてを読もうとしたら頭がおかしくなってしまう。だから僕は不健康な量のメディアを消費してなんとか食らいついているが、それでも大半を見逃している。
僕が本当に気にしているのは、これが何を意味するのかという部分だ。もし肉体労働が頭脳労働と同じ道を辿り始めたら、産業革命の問いが、当時よりもはるかに短い猶予で再び突きつけられることになるからだ。セラピーや医療、あるいは熟練職人の仕事のように、特定の労働を法や社会的制裁によって人間に留保することになるのだろうか? それが良いアイデアなのか途方もなく愚かなことなのか、僕には本気でわからないし、自分の中で反論しきることもできない。しかし確信に近いのは、僕たちの社会契約やその根底にある経済システムは、こんな事態を想定して作られていないということであり、ロボットが進化するスピードでそれらを書き換えている人は誰もいないということだ。
それは恐ろしいものになるだろうし、途方もないものになるだろうし、その一部は純粋に最高に面白いものになるはずだ。
モジュール 06OP-2609/06
自動化されたウェブトラフィックの現状数値と、会話テストにおける機械の性能を報告。
このすべてをさらに難しくしているもう一つの要因は、議論を交わすべき「部屋」が、人間ではないもので着実に埋め尽くされつつあることだ。
Impervaの2026年レポートによると、ウェブ上の自動化されたトラフィックは前年の51%から53%以上に増加し、人間の活動は47%にまで減少した。悪質ボットだけで全体の40%を占め(この数字の上昇は7年連続)、AIを活用したボット攻撃は前年比12.5倍に跳ね上がっている。つまり「デッドインターネット理論」は、フィードを見ていて嘘くささを感じたときに持ち出す気分の問題ではなく、測定された厳然たるマジョリティの現実なのだ。
そのためのツールも格段に進化した。JonesとBergenがPNASで発表した研究では、人間のペルソナをとるようプロンプトを与えられたGPT-4.5が、3者によるチューリングテストで73%の確率で人間であると判定された。つまり、会話に参加している本物の人間よりも高確率で人間だと選ばれたのだ。一方でLLaMA-3.1は56%を記録し、プロンプトなしのベースラインであるELIZAとGPT-4oは偶然の確率を下回る23%と21%にとどまった。
AIが生成したテキストやコードには今でも独特の「匂い」があり、僕も普段なら大抵は見抜くことができる。しかし、それがいつまでも続くとは思えないし、それが続くという前提で何かを作るべきではないと思っている。そこに前述の疲労感を重ね合わせると、実に暗澹たる光景が浮かび上がる。人々は会話そのものに疲れ果てており、しかもその会話の相手が人間でない割合がどんどん増えているのだから。
モジュール 07OP-2609/07
好奇心を保つための実践を提案し、不満を向けるべき適切な対象を特定。
では、疲れ果てた人に「もっとよく考えろ」と言っても無駄だとすれば、心をシャットダウンする代わりに実際どうすればいいのか?
そのアイデアを受け入れてみる。賛成か反対かを決めつけずに少しの間抱えてみて、頭の中で転がして遊んでみる。それこそが、多くの人がいつの間にかやめてしまったことだと思う。わざとバカげたアイデアを思いついてみる。誰も頼んでいないものを作ってみる。大学の教授を困らせるためだけにくだらないソフトウェアを作ってみる。「もしXだったらどうなるか?」というアホな思いつきを追ってみる。起業するためではなく、考えること自体が人間であることの本当に楽しい部分の一つであるはずなのに、純粋な楽しみとして考えるのをやめてしまった人が多すぎるように見えるからだ。
これはテック業界の人々の間でも見られることで、他の何よりも驚かされる。極めて優秀な人たちが、「どこにも辿り着かないかもしれない」という理由で試すことすらしないのだ。メディアの極端な分断化も関係しているのかもしれない。あらゆる話題があらかじめ「どちらかの側に就くべきか」に仕分けされた状態で届くからだ。そして、誰も認めたがらないけれどショート動画の影響もかなり大きいのではないかと睨んでいる。どちらも僕の推測にすぎないが。
処方箋のもう半分は、怒りをどこに向けるかについてだ。怒るべき理由は山ほどあるのに、現状ではその怒りがお門違いな場所に向かってしまっているからだ。これを主導している人間たちに怒りを向けよう。本来ならクリアできないハードルを越えるために密かにすり替えられた定義に、心地よいオンボーディングを備えた監視ツールに、そして1回の実演から学習するモデルよりもノートアプリのキラキラアイコンのほうが露出が多いという、マーケティング予算によって関心が配分される構造に怒りを向けよう。だが、テクノロジーに対する好奇心だけは捨てないでほしい。テクノロジーが君にそんな仕打ちをしたわけではなく、やったのは人間なのだから。
モジュール 08OP-2609/08
これまでの考察を再整理し、提案する1つのアクションで締めくくる。
僕はこれを特定の誰かに向けて書いているわけではない。ここは僕の場所であり、僕の考えだからだ。強いて誰かに話しかけているとするなら、他の開発者たち、そして広く一般的な人々に向けてだ。
僕がかなり確信しているのは、世間が計算コストの請求書の話で持ちきりだった週に、機械が研究レベルの数学を成し遂げたということ、この業界で最も影響力のある2人が自作の定義を使って汎用知能を宣言したということ、ウェブトラフィックの半分以上がもはや人間ではないということ、人間らしく振る舞うよう指示されたモデルが人間らしさにおいて本物の人間に勝ってしまうということ、10億ドル規模のロボティクス・シードラウンドがほぼ話題にもならずに過ぎ去ったということ、そしてこうした決定に関わるべき当の人々が疲れ果てて、もう何も耳に入れたがらない状態にあるということだ。
僕に解決策はない。ただ、小さくて少し気恥ずかしい提案があるだけだ。今週は、すべてに対して何らかのスタンスを取る代わりに、何か1つの具体的なことに対して好奇心を持ってみてほしい。何かを選び、10分間向き合って、それを使ってくだらないものを何か作ってみるんだ。
それは指針やポリシーと呼べるような大層なものじゃないけれど、今の僕に出せる精一杯の答えだ。
~ A.