「自治体の業務効率化に向けてChatGPTなどの生成AIを導入したいが、どのようなルールが必要だろうか」
「公的な機関が生成AIを利用する際、住民の個人情報や機密情報がAIの学習データに使われてしまうリスクをどう防げばよいのか」
このように、地方自治体や公的機関において、生成AI（文章生成・画像生成AIなど）の安全な利活用とガイドラインの策定に悩むDX推進担当者や、情報政策・セキュリティ担当者の方は少なくありません。
自治体業務への生成AI導入は、議事録の要約、文書の下書き作成、市民向け広報文の作成など、深刻な人手不足を補う画期的なツールとして期待されています。
しかし、十分な利用ルール（ガイドライン）を定めずに職員の裁量に任せて運用してしまうと、意図しない情報漏洩や著作権侵害といった、自治体の社会的信用を根底から揺るがす深刻なインシデントを引き起こす恐れがあります。
行政機関ならではの厳格なセキュリティを維持しつつ、安全に生成AIを活用するにはどうすればよいのでしょうか。
本記事では、自治体が生成AI利用ガイドラインを策定・運用する際に必ず押さえておくべき主要なリスクと、実務的な対策について解説します。
1. 自治体が生成AIを利用する際に想定される「3つの重大なリスク」
一般企業以上に厳格な情報管理が求められる自治体において、生成AIの利用には主に以下の3つのリスクが潜んでいると考えられています。
リスク①：機密情報や住民の個人情報の「外部流出」
最も注意しなければならないのが、職員が生成AI（特に対策の講じられていない無料版など）に文章の推敲や要約を依頼する際、住民の個人情報や非公開の行政文書、重要施策の機密データをそのまま入力（プロンプトに記載）してしまうケースです。
多くの生成AIサービスでは、入力されたデータがAIの精度向上のための「学習データ」として二次利用される仕様になっているケースがあり、他者の画面に自社の機密情報が回答として出力されてしまう恐れがあります。
リスク②：「ハルシネーション（嘘の回答）」による誤情報の拡散
生成AIは、極めてもっともらしい表現で「事実とは異なる嘘の回答（ハルシネーション）」を出力することがあります。
職員が生成AIの出力を鵜呑みにし、事実確認（ファクトチェック）を行わないまま住民向けの窓口対応や広報紙、公式Webサイト等に掲載してしまった場合、誤った行政情報を市民に拡散させ、重大な苦情やパニックを招く恐れが想定されます。
リスク③：著作権侵害や商用利用規約への抵触
生成AIが生成した文章や画像が、既存の第三者の著作物と酷似していた場合、意図せず著作権侵害のトラブルに発展する恐れがあります。
文化庁などの公的機関が公表している見解やガイドラインを常に注視し、どのようなケースが法的リスクを孕むのかを把握しておく必要があると考えられます。
2. ガイドラインに必ず盛り込むべき「実務的な3つのルール」
これらのリスクを回避し、安全な運用を実現するために、自治体の利用ガイドラインに標準的に組み込むべき具体的なアクションプランです。
対策1：入力してよい情報と「入力禁止情報」の明確な分類
- 具体的ルール：ガイドライン内において、入力してよい情報（すでに公開されている広報文、一般的な法令の解釈など）と、絶対に入力してはならない情報（住民の氏名・住所などの個人情報、人事情報、未公開の予算・政策案など）を一覧表にして明確に定義します。 「機密性の高い情報は一切入力しない」という大原則を職員に徹底させることが重要です。
対策2：学習データとして利用させない「システム的措置」の選定
- 具体的ルール：職員に無料版の生成AIを各自の判断で使わせる（シャドーIT化する）運用は極めて危険と考えられます。 自治体として利用する際は、入力データがAIの学習に利用されないことを明記した「API経由の利用」や「オプトアウト（学習拒否）設定を施したビジネスプラン」、またはガバメントクラウドに対応した専用の行政向け生成AIツールの導入を検討することが推奨されます。
対策3：出力結果に対する「目視によるファクトチェック」の義務化
- 具体的ルール：生成AIが作成した文章は、あくまで「下書き（たたき台）」として位置づけ、最終的な確認は必ず職員の目（人の手）による裏付け調査（ファクトチェック）を行うことをガイドラインに明記します。 AIが出力した根拠となる法令や統計データが実在するかどうかを、自治体の責任において必ず再確認するプロセスの標準化が必要です。
3. ガイドラインの形骸化を防ぐ「職員向けセキュリティ教育」
どれほど立派な冊子のガイドラインを作成しても、職員がその中身を理解し、日々の業務で意識できなければ、ルールは簡単に形骸化してしまいます。
- 短時間の「事例で学ぶ研修動画」による周知徹底： 分厚いマニュアルを配るだけでは、多忙な職員は隅々まで読み通すことが難しいのが現実です。 「もし窓口の職員が、住民の相談内容をそのまま生成AIに入力してしまったらどうなるか」「ハルシネーションをそのまま広報に載せてしまった自治体の末路」など、具体的な失敗事例を視覚的に学べる短い動画教材を研修に導入します。 定期的な研修を通じて、全職員に「生成AIは便利な道具であるが、使い方を一歩間違えれば行政インシデントの引き金になる」という正しい危機意識とリテラシーを定着させることが、組織を守る最大の防壁となります。
よくある質問（FAQ）
Q. 国（政府・デジタル庁）が公表している自治体向けの公式なガイドラインや指針はありますか？
A. はい、総務省やデジタル庁、あるいは内閣府のAI戦略会議などから、公的機関向けのロードマップや情報セキュリティの基準が提示されています。
例えば、総務省の「地方公共団体における情報セキュリティポリシーに関するガイドライン」などにおいても、生成AIをはじめとする新たなクラウドサービスの利用における安全管理措置の考え方が示されています。
自社のガイドラインを策定する際は、これらの政府方針（1次情報）をベースに、自組織の規模や運用実態に合わせてカスタマイズしていく手法が安全と考えられます。
Q. 業務委託先（外注業者）が、自治体から請け負った業務の中で生成AIを使うことを禁止すべきですか？
A. 必ずしも全面禁止にする必要はありませんが、委託契約における「事前ルールの合意」は必須と考えられます。
委託先が生成AIを利用することで、成果物の納期短縮などのメリットが生まれる場合もあります。
ただし、自治体から渡したデータが委託先経由でAIに学習されないよう、業務委託契約書や特記仕様書の中に「生成AI利用の有無の報告」「学習データに利用させない環境の徹底」といった条件を明記し、監督できる体制を整えておくことが強く推奨されます。
まとめ
自治体における生成AI利用ガイドラインの本質は、新しい技術を盲目的に禁止することではなく、明確なルールを敷くことで「職員が安心して効率的に武器（AI）を使いこなせる環境」を用意することにあります。
- 住民の個人情報や未公開の行政文書は「入力禁止」を徹底する
- 入力データがAIに学習されない安全なシステム・プランを組織として導入する
- AIの回答を過信せず、必ず職員による目視でのファクトチェック（事実確認）を義務付ける
※具体的な情報セキュリティポリシーの改定や、生成AI利用に伴う著作権等の個別な法的判断が必要なトラブルについては、自組織だけで処理せず、必ず管轄の省庁や法務大臣、弁護士などの専門家へご相談ください。
情報セキュリティ研修をご検討中の方へ
当サイトでは、企業・自治体向けに以下のサービスをご提供しています。
- 研修動画パッケージ（買い切り型）
- 講師派遣による対面・オンライン研修
- 社内啓発に活用できる無料「情報セキュリティ10箇条」ポスター
動画研修には、スライド一式・理解度確認テスト・研修実施報告書テンプレート・社内掲示用ポスターも付属しており、研修担当者の負担軽減にも役立ちます。
料金やカリキュラムの詳細は、[情報セキュリティ研修サービス一覧] をご覧ください。
