生成AIの社内利用にかかる検討ポイント～「企業会計」2023年11月号～

前回のエントリーで「企業会計」2023年11月号の生成AI特集を取り上げましたが、今回も同誌の同特集から「生成AIの社内利用にかかる検討ポイント」（成康豪）を取り上げます。

正直言って、生成AIに特有の内容は少ないのですが、社内利用を検討する際の参考になると思いますので、メモ書きをシェアします。

生成AI関連のセキュリティ・インシデント事例

AIの利用開始前に行うこと

１．利用規約の確認

商用利用の可否、生成AIの学習のために入力データを再利用することの有無、オプトアウトの可否等を確認する。

２．オプトアウトの申請

生成AIによっては、利用者が入力したデータを生成AIの学習に利用させないようにできる。

データ入力時の留意事項

１．個人情報や機密情報の入力に注意

オプトアウトとしてもインターネットを介して生成AIを利用する場合には、社外にデータを送信することになり、データの経路においてセキュリティリスクがゼロとは言えないため、個人情報や機密情報の入力は控える。

生成物利用時の留意事項

１．最新情報は精度が落ちることを考慮に入れておく

学習に使われている言語データが過去の時点の古い情報である可能性に留意する。ただし、生成AIによってはWeb検索機能を組み合わせてより鮮度の高い情報を加味して答えてくれるものもある。

２．生成物の裏付けを確認しレビューする

事実とは全く異なる誤った情報をもっともらしく回答をしてしまう場合がある（ハルシネーション）。

文脈から推定しにくい文章中の数字は不正確になることにも留意する。

３．著作権・商標権・意匠権侵害に注意する

AIガバナンスの構築

１．社内ガイドラインの整備

作成にあたっては、一般社団法人日本ディープラーニング協会が公開している「生成AIの利用ガイドライン」（リンク）が参考となる。

２．データ分類（社外秘文書、秘文書、極秘文書）のすすめ

あらかじめ社内でデータ分類を行い、情報の内容や秘密保持の重要性に応じて使用できる範囲を定義しておくことが望ましい。

３．アクセス管理

４．モニタリング

５．教育研修

最新記事