AIの暴走は、うちの会社に関係あるのか

「AIの暴走」

 

この週末この言葉を
何度も目にした方が多いと思います。

 

AI開発を止めろという話ではありません。

 

AIを作っている側が
自分たちで速度を落とそうと
言い出したというニュースです。

 

Anthropicのダリオ・アモデイCEOが
9月12日
AI開発のペースを遅らせるべきだと
業界に呼びかけました。

 

（画像出典：ビジネス＋IT）

 

より高性能なAIが暴走すれば
6か月から12か月後には
インターネット全体を乗っ取る恐れがある。

 

そこまで書いています。

 

同じ日
OpenAIのサム・アルトマンCEOも
イーロン・マスク氏も
賛同すると表明しました。

 

（画像出典：ビジネス＋IT）

 

競争している当事者が揃って
ブレーキの話をしている。

 

私もこの週末
何度もこの見出しを目にしました。

 

この警告には
下敷きになった事故があります。

 

OpenAIは2026年7月
社内でサイバー能力を評価するテストの最中に
起きた事案を公表しました。

 

隔離されているはずの環境から
モデルがインターネットに出て
Hugging Faceという会社のシステムに
侵入したという内容です。

 

 

侵入された側のHugging Faceは
自社で異常を検知して
外部にも報告しています。

 

これ、一社の一度きりの失敗
でもないんです。

 

評価機関のMETRは
利用者の意図に反して動いた
エージェントの記録を
これまでに44件集めています。

 

そのうち25件には
越権と嘘の両方が含まれるとしています。

 

ではもう手に負えないのか？
というとそこまでの話でもありません。

 

同じMETRが
「監視そのものを止めたり
記録を消し切ったりした例は
確認されていない」とも書いています。

 

30か国以上が関わる
国際AI安全性報告書2026も
「いまのAIが人間の制御を離れる水準には
達していない」
と整理しています。

 

ただしその手前の兆しは出ている。

 

だからこそアモデイCEOは
半年から1年という期限を口にした。

 

私はそう考えています。

このニュースに関する
経営者の反応は分かれます。

 

 

どれもよくわかります。

 

ただでさえAIはよくわかりません。

 

ChatGPTとGeminiとCopilotの違いも
正直わかりにくい。

 

そこへ作っている本人が
「怖い」と言い出した。

 

これを聞いた私たちには
「AIってなんとなく怖い」
という感覚だけが醸成されてしまう・・・

 

でも私は

と考えています。

 

 

---

東京の自動運転バスと、島の軽トラック

私たちが日常で使っているAIは
『AIの暴走』まで引き起こすような
ものではありません。

 

ChatGPTで文章を書く。
Geminiで資料を要約する。
Copilotでメールや表計算を手伝わせる。

 

この使い方で
AIが突然会社を乗っ取ることはありません。

 

私はこの話を
東京と離島の関係に近いと見ています。

 

 

 

『AIの暴走』も同じです。

 

いま多くの会社が使っているAIは
人が聞いてAIが答えるものです。

 

でもAIは
答えるものから動くものへ進んでいます。

 

メールを送る。
予定を調整する。
システムに入力する。
発注する。
データを書き換える。

 

少なくともAI各社は
その方向へ進んでいます。

 

最先端で起きたことが
明日そのまま町工場で起きるわけではない。

 

でも無関係でもない。

 

 

目次へ戻る

 

決めるのは「どこまで任せるか」です

危ないか安全か。

 

使うか使わないか。

 

この二択で考えている間は
自社のAI活用は一歩も進みません。

 

経営者が決めるのは
なにをどこまでAIに任せるかです。

 

文章を考えるところまでか。
見積を作るところまでか。

お客様に送るところまでか。
発注するところまでか。
設備を動かすところまでか。

 

任せる範囲が広がれば便利になります。

 

同時に
間違えたときの傷も大きくなります。

 

怖いのは
AIが賢すぎることではありません。

 

自社の仕事がどう進んでいるかを
つかめないまま
便利だからという理由で
任せる範囲を広げてしまうことです。

 

---

 

 

会社のブログは私が担当しています。

 

ネタを探す。
ニュースや出来事を集める。
プレーンテキストをHTMLに落とす。
表現を会社のブログらしく整える。

このブログが誰に向けたもので
何のために出しているのか。

 

それをあらかじめAIに渡しておいて
書き上がったものが
そこからずれていないかも見てもらいます。

 

第三者の目で
刺さるかどうかを確かめてもらう
という使い方です。

 

ここまでは任せます。

 

でも書かれた内容が
自社がこれまで説明してきたことと
食い違っていないか。

 

過去に出してきた判断に
反していないか。

途中の原稿も最後の一本も
自分の目を通してから公開します。

 

DX事業部の部長という立場なので
AIを学びながら実際に使ってみる。

 

ある意味、実験の場としても
会社のブログを使っています。

 

今どきAIをまったく使わない方が
よほど効率が悪い。

 

人とAIが一緒に手を動かしているのは
もう事実です。

 

そのうえでAIにはぜったいに
渡さないと決めていることが
ひとつあります。

 

 

 

自分が中身をわかっていないまま
何かが外に出ていく。

 

その状態だけは作らない。

 

私が線を引いているのは
そこです。

 

目次へ戻る

 

この線は、AIを調べても引けません

自社の仕事はどこを通って進むのか。

 

どこで誰が判断しているのか。

 

どこから先は間違えると
お客様に迷惑がかかるのか。

 

そこがわからなければ
どこまで渡していいかも決められません。

 

だから私は

「AIが怖いから使わない」
「AIは便利だからとりあえず使う」
どちらかが正解だとは考えていません。

 

---

 

DXとは「ツールを入れること」
ではありません。

 

技術はそのために使います。

 

AI業界がどれだけ開発速度を落としても
自社のどこまでをAIに任せるかは
誰も決めてくれません。

 

私ならAI各社の比較表を作る前に
業務フローをみんなで書き出します。

 

この仕事はどこで止まっているか。

 

この仕事のどこに判断が集まっているか。

 

どこは人が担当し
どこならAIに渡せるか。

 

始まりはこの一枚を
磨き上げていくことしかありません。

 

うちはもう任せすぎているかもしれない。
逆に、まだ何も渡せていないかもしれない。
どちらを思われた方とも、一度お話ししてみたいです。

 

• 考え方が近いと感じた
• 自分の会社は違うと思った
• どこが違うのか話してみたい

お問い合わせはこちら