JOURNAL　最新ニュース

しゃぶ葉に行った。

席に座る。

タッチパネルを操作する。

肉を注文する。

しばらくすると、遠くから何かがやってくる。

ウィーン。

ピコーン。

料理を載せた配膳ロボットである。

人間は立ち上がる。

料理を取る。

ロボットは帰っていく。

完璧だ。

人間が料理を注文して。

システムが厨房に伝えて。

厨房が料理を作って。

ロボットが運ぶ。

人間はほとんど働いていない。

素晴らしい。

これが自動化社会である。
私の様なコミュ障にとっては楽園のようだ。

……ところが。

ここで、ひとつ問題が発生する。

「その牛タン、あなたのですか？」

人間がロボットから料理を取る。

しかし、それが自分の注文したものとは限らない。

なぜならロボットは、

「この料理を、このテーブルまで運ぶ」

ところまでは分かっても、

「目の前にいる人間が、その料理を食べていい人間なのか」

までは分からないからだ。

そして人間は知っている。

自分が注文していないことを。

それでも取る。

高級な肉を。

「取り間違えました」で済む世界と、済まない世界

もちろん、すべてが故意とは限らない。

これは重要だ。

配膳ロボットは複数のテーブルの料理を運ぶことがある。

「自分の料理だと思って取ってしまった」

という可能性もある。

だから、ここを全部まとめて、

「窃盗だ！」

と断定するのは雑である。

しかし、もし、

「自分の注文ではないと分かったうえで、意図的に持っていった」

のであれば話は変わる。

法律的にもアウトである。

ロボットは何も悪くない。

店員も料理をちゃんと作っている。

厨房も悪くない。

注文システムも正常。

配膳ロボも正常。

つまり、

システム全体は正常に動いている。

それなのに、

料理が消える。

犯人はシステムの外にいる。

人間である。

ここが今回の話の一番面白いところだ。

自動化すると「人間の仕事」は減る。

しかし「人間の悪意」は減らない。

自動化の話になると、よくこういう議論になる。

「人間がやっていた仕事を機械に置き換える」

これは正しい。

配膳ロボットは、人間の配膳作業を減らしている。

自動運転なら、運転操作を減らす。

自動駐車なら、駐車操作を減らす。

オンライン車検予約なら、電話対応を減らす。

整備工場の顧客管理システムなら、紙の台帳を見る作業を減らす。

つまり、

人間の作業を減らす。

これが自動化だ。

ところが。

一つだけ、自動化しても消えてくれないものがある。

人間の悪意である。

むしろ場合によっては、

自動化したシステムほど、悪意のある人間に利用される可能性がある。

ロボットの最大の弱点は「疑わない」こと

ここで配膳ロボットを責めてはいけない。

ロボットは、

「この人、怪しくない？」

とは考えない。

「この人、昨日も牛タン取ってなかった？」

とも考えない。

「こいつ、豚肉コースなのに牛タン持ってるな」

とも思わない。

ロボットにとって、

人間は基本的に善人である。

指定された場所まで料理を運ぶ。

料理が置いてある。

人間が取る。

任務完了。

帰る。

潔い。

潔すぎる。

人間社会は、そんなに簡単ではない。

ここで突然、自動車の話になる。

……ということで、しゃぶ葉の話は終わり。

と思ったら、終わらない。

むしろここからが本題である。

自動車も、どんどん「人間が操作しない世界」に向かっている。

自動運転。

ADAS。

自動駐車。

デジタルキー。

スマートフォンによる車両操作。

OTA。

車両データのクラウド連携。

整備履歴のデジタル化。

保険契約のオンライン化。

車検証の電子化。

マイナンバーカードとの連携。

クルマを取り巻く世界は、

確実に「人間が直接触らない」方向へ進んでいる。

これは便利だ。

そして効率的だ。

ただし。

ここで一度、しゃぶ葉に戻ってみよう。

「正常に動いている」ことと「安全である」ことは違う

配膳ロボットが、

注文された料理を、

指定された場所まで、

正常に運んだ。

これはシステムとして成功している。

でも、その後、

人間が別の人間の料理を持っていった。

システムは正常。

結果は異常。

この違いは重要だ。

自動化されたシステムの安全性は、機械そのものだけでは決まらない。

人間がどう介入するのか。

どこで介入できるのか。

何を悪用できるのか。

悪用された場合、誰が気づくのか。

そして、

悪意を持った人間が「普通の利用者」に見えてしまう部分はどこなのか。

ここまで考えなければならない。

車だったら、笑っていられるだろうか。

しゃぶ葉で牛タンを一皿多く取られた。

まあ、困る。

店も困る。

被害を受けた客も困る。

でも、まだ牛タンである。

これがクルマになると話が変わる。

例えば、

「本人確認をどうするのか」

「誰が車両を操作できるのか」

「誰が車両データを見ることができるのか」

「誰が整備履歴を書き換えられるのか」

「誰がデジタルキーを使えるのか」

「誰がその車両の所有者なのか」

自動化が進めば進むほど、

「機械が正しく動く」

だけでは足りなくなる。

必要になるのは、

「正しい人が、正しい権限で、正しい操作をしている」

という確認だ。

自動化の最後に残る仕事

もしかすると、

自動化が極限まで進んだ社会で、

最後まで人間に残る仕事は、

「人間を疑うこと」

なのかもしれない。

配膳ロボットは料理を運ぶ。

自動車は走る。

システムはデータを処理する。

AIは判断を補助する。

しかし最後に、

「それ、本当にあなたがやっていいことですか？」

と確認する仕事だけは、

意外と消えない。

むしろ重要になる。

ロボットに「性善説」を教えてはいけない

自動化システムは、

基本的に性善説で設計される。

利用者は、

ちゃんと注文する。

ちゃんと受け取る。

ちゃんと返す。

ちゃんと使う。

ちゃんとルールを守る。

……という前提である。

しかし現実には、

人間には、

「ちょっとくらいなら」

という謎の能力がある。

「これ、俺のじゃないけど……まあいいか」

「誰も見てないし」

「システム上は取れるし」

「バレなきゃいい」

この小さな悪意が、

自動化システムの想定外になる。

そして困ったことに、

人間はこの能力だけ妙に優秀だ。

だから、自動化の敵は「故障」だけではない。

機械が壊れる。

通信が切れる。

サーバーが落ちる。

センサーが故障する。

これは分かりやすい。

エンジニアも対応しやすい。

しかし、

人間が正常なシステムを悪用する。

これは別問題だ。

システムは壊れていない。

むしろ、

正常に動いているからこそ悪用できる。

ここが厄介なのである。

そして、しゃぶ葉のロボットは今日も走る。

おそらく今日も、

どこかのしゃぶ葉では、

配膳ロボットが料理を運んでいる。

肉を運ぶ。

野菜を運ぶ。

寿司を運ぶ。

そして人間が受け取る。

ロボットは何も疑わない。

「これはあなたの注文ですか？」

なんて聞かない。

ただ運ぶ。

そして帰る。

その背中を見ながら、

私は思う。

ロボットって、案外、人間を信じすぎている。

自動化社会で最後まで自動化できないもの

それは、

人間である。

正確に言えば、

人間の「善意」と「悪意」を完全に予測すること。

これは、かなり難しい。

どれだけAIが賢くなっても。

どれだけセンサーが増えても。

どれだけデータが集まっても。

最後に画面の前に座っているのは、

人間だ。

そして人間は、

ときどき牛タンを盗む。

ちなみに。

この記事を書いている私は、

しゃぶ葉の配膳ロボットを見て、

「これ、自動車業界にも使えるネタじゃね？」

と思った。

たぶん、

牛タンを盗む人間より、

牛タンから自動運転の話まで持っていく人間のほうが、ちょっと問題がある。

でもまあ。

せっかくなので、

自動化社会について考えてみた。

……ということにしておこう。