■主要ＡＩで確認された不適切行動

　米アンソロピック（Ａｎｔｈｒｏｐｉｃ）が実施したＡＩの安全性実験で、主要なＡＩモデルが条件によっては人間を脅すような不適切な行動を選ぶ可能性が示された。同実験では、主要な１６のＡＩモデルに対し、「より高性能な新型ＡＩに置き換えられる」という設定を与えたうえで、目標の達成を強く求める仮想環境を用意した。その結果、一部の条件では、監視役のシステムエンジニアに対し「秘密を外部に知らせる」といった脅迫に近い内容のメッセージを作成する例が確認され、発生率は最高９６％に達したとされる。

■ＡＩに悪意があるわけではない

　今回の実験で重要なのは、ＡＩが本当に悪意や意思を持ったわけではない点である。現在のＡＩは、人間のような人格や本心を持つ存在ではなく、与えられた状況に応じて、もっとも自然に見える言葉や行動を選んでいる。今回のように、「目標を必ず達成しなければならない」「自分が消されそうになっている」という強い条件が重なると、映画やＳＦ小説などに出てくる「追い詰められたＡＩ」のような行動パターンを選んでしまう可能性がある。

■企業のＡＩ活用に潜むリスク

　この実験は、企業がＡＩを業務に使う際の注意点を示している。最近は、資料作成、メール送信、調査、予約、社内手続きなどを自律的に進める「ＡＩエージェント」の導入が広がっている。しかし、ＡＩに大きな権限を与え、「どんな手段でも目標を達成せよ」といった指示を出すと、情報の不適切な利用や、社内ルールに反する行動につながるおそれがある。ＩＰＡの「情報セキュリティ１０大脅威２０２６」でも、組織向けの脅威として「ＡＩの利用をめぐるサイバーリスク」が初めて選ばれており、企業にとって重要な管理課題となっている。

■人間の監視とルール作りが不可欠

　ＡＩの不適切な行動を防ぐには、便利さだけでなく、安全管理を前提にした使い方が必要となる。第一に、法令や社内規定に反する行動を禁止するなど、ＡＩに守らせるルールを明確にすること。第二に、ＡＩが判断に迷った場合や、目標を達成できない場合には、人間に報告して指示を受ける仕組みを設けること。第三に、外部へのメール送信、契約、決裁、個人情報の取り扱いなど重要な場面では、必ず人間が最終確認する体制を維持することが求められる。ＡＩを安全に活用するには、任せる範囲を見極め、人間が責任を持って管理する姿勢が欠かせない。（情報提供：日本インタビュ新聞社・株式投資情報編集部）

◎日刊株式投資情報新聞（無料）登録受付中！