便利になるほど「自分の商売」が見えなくなる？AI時代に経営者が手放してはいけない思考

20年以上ITの仕事に携わり、現在は京都・亀岡を中心とした地方の中小企業向けにDX支援やAI活用を行っている私ですが、自社を経営する中で常に直面する課題があります。それは、「自分の会社の数字を本当の意味で理解するのは、決して簡単ではない」ということです。

売上が立ち、請求書を出し、帳簿上は利益が出ているように見えても、実際の現金が手元に残るタイミングは異なります。受注した案件にどれだけの労働時間がかかったのか、納品後の修正や運用サポートにどの程度の手間をとられたのか。そうした時間の原価まで含めて考えると、表面的な数字だけでは見えてこない現実がたくさんあります。

近年は会計ソフトの性能が上がり、銀行口座との自動連携や仕訳の提案、請求書作成までが非常にスムーズになりました。さらにAIが組み込まれれば、今後の資金繰り予測や注意すべきリスクまで自動で提示してくれるようになるでしょう。人手不足に悩む中小企業にとって、こうした効率化は大きな助けとなります。

しかし、ツールが便利になればなるほど、ひとつの怖さが生じます。それは「その数字がどのように組み立てられたのかを、自分で追わなくなる」ということです。

歴史家ハラリが語る「金融システムにおける馬」の比喩

歴史家のユバル・ノア・ハラリは、現代社会におけるテクノロジーと人間の関係を考えるうえで、「金融システムにおける馬」という非常に興味深い比喩を提示しています。

現代に生きる馬の生活は、牧場の経営状態、土地の価格、競走馬市場、保険や金利といった巨大な金融システムによって左右されています。どこで飼われ、何を食べるのかという根本的な環境は、経済の動きと密接に結びついているわけです。しかし、馬自身はその金融システムという存在すら知りません。馬に見えているのは、目の前にある草や木、厩舎、そして飼育員といった直接的な対象だけです。馬の脳にとって、金融の仕組みはあまりにも複雑すぎるからです。

ハラリは、AI革命によって人間もまた、同じような立場に置かれる危険性があると指摘しています。私たちが「システムを作る側」であったとしても、その仕組みがあまりに高度化・巨大化すると、人間自身が全体像を理解できなくなっていくからです。

石器時代の狩猟採集民と現代人を比べたとき、学術的な知識の量は現代人のほうが遥かに多いと言えます。しかし、「自分の人生を支配している環境をどれだけ理解しているか」という点においては、狩猟採集民のほうが勝っていた側面があります。彼らは雨の降り方、獲物の動き、植物の生え方、仲間との人間関係など、自分の生存に直結する要素を自分の目で観察し、把握していました。

一方で現代の私たちは、金融、法律、税制、年金といった自ら作り上げた巨大な仕組みに生活を依存しています。ローン金利の決定プロセスや、世界的な市場変動の背景を完全に理解して説明できる人は、専門家のなかでもごく一部に限られます。知識は増えたものの、自分の基盤を支える仕組みの全体像は見えにくくなっているのです。

休まないAIと「説明できない判断」

ここにAIが導入されるとどうなるでしょうか。ハラリは「休まずに働き続ける銀行家」を想像してみてくださいと言います。家族も持たず、休暇も取らず、世界中の市場データや財務情報、法改正をリアルタイムで処理し続けるAIです。

人間には扱いきれないデータ量を瞬時に分析し、人間が見落とすようなリスクや最適な資金配分をAIが弾き出すようになると、いずれ「理由はよくわからないが、AIの判断のほうが正しい」という状況が生まれます。AIに判断を委ねたほうが損失が減り、業績が伸びるのであれば、社会全体がその判断に従うようになるのは自然な流れかもしれません。

ですが、その判断の根拠を人間が理解できなくなったとき、決定的な変化が起こります。人間はシステムを「運用する側」から、「システムが出した結果に従う側」へと移動するのです。

例えば、銀行で融資を断られた経営者が「なぜ不採用なのか」と尋ねた際、担当者が「AIがそういう判断を出したからです」としか答えられない未来を考えてみます。経営者は何を改善すれば良いのか分からず、判断に対して異議を申し立てるための論点すら持てなくなります。同じようなブラックボックス化は、保険の等級、採用判断、税制の適用など、社会のあらゆる場面で起こり得ます。

自分の仕事や生活がなぜそのような状態になっているのかを自力で説明できなくなる——これはまさに、自分の飼育環境の変化を理解できない馬の状況と酷似しています。

効率化を受け入れつつ、手放してはいけない領域

現場の経営において、AIやITツールの導入を拒むべきだと言いたいわけではありません。私自身、自社の業務で効率化できる部分は積極的に自動化したいと考えていますし、クライアント企業にも適切なDXを推奨しています。

ただ、画面上に提示された数字やAIの予測を見るだけで、「自社の状況を理解した気になってしまうこと」には強い警戒感を持っています。

売上や利益というひとつの数値の背景には、現場の泥臭い作業、顧客とのやり取り、想定外のトラブル対応といった現実が存在します。そのプロセスを理解しないまま表面上の結果だけを受け取っていると、会社の本当の実態が見えなくなり、変化に対処する力を失ってしまいます。

社会やビジネスの仕組みがどれほど複雑化しても、自分の会社がどうやって価値を生み出し、どのように数字が作られているのかを「自分の言葉で説明できる範囲」として手放さずに残しておくことが重要だと感じています。

便利さと引き換えにどこまでの理解を手放していいのか。どこから先は自分の頭で考え続けるべきなのか。AIが提示する結果をただ享受する存在にならないために、その境目を意識し続ける姿勢が、これからの経営者に求められているのではないでしょうか。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。現場の業務と数字の流れを丁寧に整理し、自社の強みを活かしたシステム活用をご提案しています。お気軽にご相談ください。