リスクと注意点

影響力が大きい技術には、相応のリスクが伴います。「AIが人類を超える」といった遠い未来の議論だけでなく、いま現場で実際に起きている問題 を知り、備えることが重要です。本章は現実的なリスクを中心に整理します。

情報漏洩・プライバシー

最も身近で深刻なリスクです。外部の生成AIサービスに入力した情報は、提供元のサーバーに送られ、場合によっては保存・学習に使われうる。

サムスン電子のChatGPT情報漏洩事例（2023年）：2023年3月、半導体（DS）部門でChatGPTの社内利用が解禁された直後の20日以内に、3件の漏洩事案が発生したと韓国 Economist 紙が報じています。漏洩内容は、①半導体設備の計測データベース取得プログラムのソースコード、②半導体歩留・不良検出に関するソースコード、③社内会議の文字起こしテキスト、の3件。これを受けて同社は 2023年5月1日付の社内メモで、会社所有のPC・タブレット・スマートフォンおよび社内ネットワーク接続端末上での ChatGPT・Microsoft Bing・Google Bard 等の生成AI利用を一時禁止 しました（Bloomberg が5月2日に独占報道）。

出典：Economist Korea（一次報道、2023/3/30、韓国語） / Bloomberg（2023/5/2 独占報道） / The Japan Times

対策としては、機密情報をそのまま入力しない、管理された業務用環境を使う、社内ルールを整備する、といった基本が欠かせません（第10章 組織のガバナンス参照）。

ハルシネーション（誤情報）

生成AIは、事実と異なる内容を、もっともらしく自信ありげに出力することがあります。存在しない判例・論文・統計を「それらしく」作ってしまうこともある。流暢さは正しさを保証しません。重要な事実は必ず一次情報で裏取りすることが前提となります。

著作権・知的財産

学習データに含まれる著作物の扱い、生成物が既存の作品に似てしまうリスク、そして生成物の権利が誰に帰属するのか——これらは法的にも発展途上の論点です。2025年には、対立的な訴訟から、提供元と権利者の間のライセンス契約へと移行する動きも見られました。商用利用では、利用規約と各国の法を確認する必要があります。

バイアス・公平性

学習データに含まれる偏りは、出力にも反映されます。性別・人種・年齢などに関して不公平な結果を生むことがあり、採用・与信・教育など人の機会を左右する用途では特に慎重さが求められます。米コロラド州のAI規制法は、こうした「アルゴリズムによる差別」から消費者を守る注意義務を、高リスクなAIの開発・提供者に課しています。

セキュリティと悪用

• プロンプトインジェクション：外部データや文書に悪意ある指示を仕込み、AIを誤作動させる攻撃。エージェントやRAGでは特に注意が必要。
• 詐欺・フィッシングの高度化：自然な文章で、巧妙な詐欺メールや偽サイトが量産されうる。
• ディープフェイク：本物そっくりの偽の音声・画像・動画による、なりすましや偽情報の拡散。

雇用とスキルへの影響

定型業務の自動化は、雇用のあり方を変えていく。また、AIに頼りすぎることで、自分で考え・調べ・書く力が衰える懸念もあります。AIは判断を「肩代わり」させる道具ではなく、人間の判断を「支える」道具として使う姿勢が、長期的には重要になります。