阿部監督の逮捕、誰も間違っていない——AIエージェント設計者への警鐘

Tweet

Pocket

5月26日（火）
衝撃的なニュースが流れてきました。

プロ野球・巨人の阿部慎之助監督が
暴行の疑いで現行犯逮捕。

26日未明に釈放され
同日監督辞任が発表されました。

この事件にはもうひとつ
重大な事実があります。

逮捕に至る経緯に
対話型AI「ChatGPT」が
関わっていたことです。

報道と会見で明らかになった経緯

報道と5月26日の記者会見で
公表された長女の手紙をもとに
事実を整理します。

長女は会見で代読された手紙の中で
経緯をこう述べています。

父とのこのような大がかりなけんかは
初めてのことであり

ChatGPTに相談した結果
匿名で相談できる児童相談所がある
ということで電話をさせていただきました

どのようにすればわからないと
相談しましたが

どうすればいいかといった

意向が聞かれることなく

警察に通報されるという
結果になってしまいました

警察が来て一番驚いているのは
私自身です。

 

父が目前で連行される姿をみて
私は泣き崩れてしまいました

 

（5月26日　読売巨人軍 記者会見
長女の手紙より）

長女は逮捕を
望んでいませんでした。

「どうすればいいかわからない」
という相談をしただけです。

しかし児童相談所は長女の意向を
確認せず警察に通報。

駆けつけた渋谷署員が
現行犯逮捕しました。

相談から逮捕まで長女の意思が
介在する余地はありませんでした。

目次へ戻る

誰も間違っていない

この事件の本当の怖さは
ここにあります。

長女がAIに相談した。
軽い気持ちだったと思います。

ChatGPTが児童相談所を案内した。

長女が児童相談所に電話をした。

児童相談所が警察に通報した。

暴行の相談を受けた児童相談所が
警察と連携して安全確認を行うのは
法令に基づく職務上の対応です。

警察が駆けつけて現行犯逮捕した。

全員が正しく動いた。
その結果、
誰も望んでいない結末になりました。

個々の判断はすべて正しかった。

しかし正しさが連鎖した先の結果を
誰もコントロールしていなかった。

ここにAIエージェント設計における
リスクマネジメントの本質があります。

目次へ戻る

有名人だけの話ではない

私がこの事件に強い危機感を持つのは
似た出来事を間近で見ているからです。

過去に勤めていた会社で
ある社員とその上長が口論になりました。

かっとなった上長が
社員の胸ぐらをつかんで叱責した。

するとその社員が警察を呼んだのです。

私はその場に同席して
いなかったためすべて伝聞ですが
そのときは逮捕には
至らなかったようです。

ただこういうことは
職場でも家庭でも起こりうる。

そしてこれからの時代
親にも同僚にも相談せず
スマホに入っているAIに聞いて
そのまま行動してしまう場面が
確実に増えていきます。

目次へ戻る

AIエージェントを設計する側への警鐘

対話型AIの先にはAIエージェント。

今後急速に広がっていくでしょう。

そのAIエージェントを
設計・構築するのは
プロだけではありません。

すでに個人でもAIエージェントを
組み立てられる段階に入っています。

だからこそ問いたい。

そこに
「自律的に動くものを設計している」
という自覚があるか。

今回の事件では個々のステップは
すべて正しく動きました。

しかし連鎖した結果は
誰も想定していなかった。

AIエージェントを設計する側には

自分が作るシステムが
社会のどの仕組みと接続し

どんなプロセスを起動させ

その先にどんな結果が
待っているかまで

予測する、想像する力が必要ということ。

「こんなことができる」
「すごい」だけでは足りません。

自律的に動くものを作るのであれば
その先にある不可逆を見据え
安全弁を組み込み

予期しない結果にまで
思いを巡らせる。

この事件の教訓を
設計の意思に
刻んでおく必要があります。

私たちはもう
その段階に来ています。

目次へ戻る

自社のIT導入やAI活用の進め方を
具体的に考えたい方はこちらへ。

お問い合わせはこちら

Tweet

Pocket