生成AI（計画系）の目覚ましい進化…実行系と運用系は追いついているのだろうか？
はじめに
最近の生成AIの進歩には目を見張るものがあります。
文章を書く。画像を作る。プログラムを書く。調査を行う…。
かつて人間にしかできないと思われていた知的作業の一部を、AIが担うようになってきました。
私自身も日常的に生成AIを活用していますが、その進歩の速さには驚かされます。
しかし一方で、私は少し違和感も感じています。
AIは確かに賢くなりました。
しかし、本当に社会実装されるために必要なものは、それだけなのでしょうか。
SCMでいう「計画系」と「実行系」
私は業務改革コンサルタントとして、２７年ほど、SCM（サプライチェーンマネジメント）の現場に携わってきました。
SCMには、
・需要予測
・生産計画
・在庫計画
などの計画系業務があります。
一方で、
・製造
・物流
・営業
などの実行系業務も存在します。
多くの企業では、
「計画精度を上げたい」
という声が上がります。
しかし実際には、計画だけ立派になっても現場が動かなければ意味がありません。
私は何度もその光景を見てきました。
そして今のAIブームを見ていると、同じことが起きているように感じるのです。
生成AIは「頭脳」の進化
現在の生成AIは、極めて優秀な頭脳です。
文章作成。翻訳。プログラミング。分析。
知的作業の支援能力は急速に向上しています。
しかし、AI自身が現実世界で身体を動かすわけではありません。
あくまで頭脳です。
SCMで言えば、計画系に相当します。
そして現在、人類はこの計画系だけを猛烈な勢いで進化させています。
次に来るのはフィジカルAI
近年、人型ロボット、自律移動ロボット、ドローン…
などの開発も進んでいます。
いわゆるフィジカルAIです。
頭脳だけでなく、身体も持つAI。
もし実用化が進めば、
・介護
・医療
・災害救助
・社会インフラ保守
など、人手不足が深刻な分野で大きな力を発揮するかもしれません。
特に、介護の例を挙げると、介護は単純な力仕事だけではありません。
認知症の方との会話では、正しさよりも安心感が優先される場面があります。
同じ話を何度も繰り返したり、予定を忘れてしまったりすることもありますが、そこで責めたり否定してはいけません。
こうした人間同士の関係性・空気までAIが担えるようになるかどうかは、まだ分からないように感じています。
クマ騒動や山火事にも活用
クマ騒動
私は最近のクマ出没のニュースを見ていて、あることを考えました。
もし人型ロボットが十分な身体能力を持つようになったらどうなるのだろうか。
例えば、夜間でも活動できる。危険を恐れない。長時間稼働できる。熱感知センサーを持つ。
そんなロボットがいれば、クマ対策に活用できるかもしれません。
山火事
山火事も同様です。
人間では近づけない場所へ入り、消火活動や状況把握を行う。
危険な場所ほど、ロボットの価値は高まります。
しかし、問題はそこで終わらない
ここで一つ重要な問題があります。
そのロボットは、
「クマを追い払うこともできれば、人間を傷つけることもできる」
ということです。
生成AIが暴走しても、せいぜい文章を書くだけです。
しかし、知能と身体能力を持つ存在が暴走した場合、影響は比較になりません。
軍事利用。テロ。犯罪利用…。
技術には常に光と影があります。
本当に不足しているのは運用系
私は今、人類は
・計画系
・実行系
・運用系
のうち、
計画系だけが突出して進化しているように見えます。
運用系とは、法律、責任、保険、監査、認証、ルール…
などのことを指しています。
例えば車の自動運転。
技術そのものは大きく進歩しています。
しかし事故が起きた場合、誰が責任を負うのでしょうか。
運転者でしょうか。メーカーでしょうか。AI開発会社でしょうか。保険会社でしょうか。
実は、技術以上に難しい問題が残されています。
冗長設計という考え方
私はこれまで、人生でも仕事でも、冗長設計が重要だと考えてきました。
飛行機が安全なのは、エンジンが優秀だからではありません。
二重化。三重化。フェイルセーフ。
こうした冗長設計があるからです。
AIも同じではないでしょうか。
重要なのは、賢いAIを作ることではなく、
・暴走しても止められる仕組みを作ること
・誤作動しても社会が耐えられること
その方がはるかに重要な気がしています。
おわりに
生成AIの進歩は間違いなく素晴らしいものです。
しかし、社会を支えるのは頭脳だけではありません。身体も必要です。
そして、それらを運用するルールも必要です。
私は今、人類は計画系を猛烈な勢いで進化させている段階にいるように感じています。
次に求められるのは実行系。そして運用系。
技術の進歩だけでなく、それを安全に社会へ組み込む仕組みまで含めて考えること。
それが、これからのAI時代に本当に重要なことなのかもしれません。
今後、技術は進歩していくでしょう。
しかし、どれだけ優秀なAIであっても、１００％安全とは言い切れません。
だからこそ、人間社会にもAIにも、ある程度の余白や冗長性が必要なのではないかと思っています。
効率・合理化だけを追求するのではなく、想定外に耐えられる仕組み・ルールを持つこと。
それは、AI時代になっても変わらないのかもしれません。
