
2026/05/08 4:38
AI の「幻覚」が発見され、内務省の 2 名の職員が停職処分となった。
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
内務省(DHA)は、市民権に関する白書に、AI のハルシネーションによって生じた架空の引用が記載されているとして、2 名の職員を停職処分としました。AI ハルシネーションとは、信頼できるデータがないためにモデルが存在しない出典を引用してしまうことで発生するエラーです。内務省は恥を覚えていることを認めつつも、政策的な核心部分は正確であり、影響を受けていないことを強調しています。取り下されたのは、部門間の協力および公的諮問を通じて作成された参考文献リストのみです。ソリー・マラツィ大臣は、AI 生成の参考文献を検証するのが不十分だったことが主な原因であると指摘しました。この事件は、コミュニケーションとデジタル技術省が最近、同様の架空の出典の問題により類似の草案を取り下げたことと並行しています。これを受け、内務省は懲戒手続きを管理し、2022 年 11 月 30 日(ChatGPT のローンチ)以降の日付を持つすべての政策文書を検査するために、2 つの独立した法律事務所以をお雇いしました。この事件は、AI という変革的かつ破壊的な技術を公共部門および民間部門の両方の機関が使用する際、厳格な人間の監視と新たな内部チェックを講じる必要性を浮き彫りにしています。
本文
内務省は、市民権、移民および難民保護に関する改訂版のホワイトペーパーにおいて、人工知能(AI)による幻覚現象を検出しました。
内務省(DHA)
内務省(DHA)は、政策文書の一つに人工知能(AI)の使用が認められた最新の政府機関の一つです。木曜日に、同省はこの最近改訂された重要な政策文書に関与する二名の職員に対して、職務停止を発表しました。
木曜日に職務停止処分となった一方の職員は市民権・移民担当ユニットのチーフディレクターであり、もう一方の担当者は文書の作成に携わった人物で、彼の職務停止処分は来週の初めに行われる予定となっています。DHA はこの事象がもたらした「恥辱」を認識し、これを機会として体制の近代化を進めていく旨表明しました。
「今後、部門内における承認プロセスの一部として、AI によるチェックと宣言の導入・実装も行います」と、同省は述べています。
政策見直し forthcoming
発見された不整合は、市民権、移民および難民保護に関する改訂版ホワイトペーパーに付帯されていた参考文献リストに関するものであり、これらは「信用できないデータに基づく誤りまたは架空の言語モデル出力が生じたもの」と説明される「幻覚(ハルシネーション)」であると判断されました。
「これらの参考文献は、本文で言及されておらず、文書への添付後に行われた生成が推測されます」としています。
職務停止という予防的措置に加え、同省は二つの独立した法律事務所を任命し、それぞれが規律手続きの管理及び、2022 年 11 月 30 日以降に作成された全ての政策文書のレビューを担当させました。この日付の選択は、大規模言語モデルの一つである ChatGPT が一般利用のために公開された時期と一致するためです。
適応して追いつく
これらの職務停止処分は、コミュニケーションおよびデジタル技術省(DCDT)が自らの AI に関する政策文書を撤回せざるを得なかった一週間後に行われました。DHA の場合と同様に、草案となる国家 AI 政策には架空の情報源と出典が含まれていたことが判明しました。
「最も妥当な説明は、AI が生成した出典が適切に検証されずに含まれたことだと言えます。これはあってはなりません」とソリ・マラティス大臣は述べています。
草案となる AI 政策の見直しが行われるとともに、DHA も自文書に付帯させた参考文献リストの撤回を行いました。しかしながら、DHA は改訂された市民権、移民および難民に関する政策が「政府の立場を正確に反映し続けている」としており、その内容を引き続き支持すると表明しました。
「これらの措置は、部門間の広範な協力と公衆との意見聴取を通じた大規模なプロセスを経て行われ、単独の参考文献リストに含まれている AI 幻覚のようなものは、実質的な影響を受けていません」と DHA は確認しています。
同省は社会における AI の利用拡大を認め、機関側がより一層努めてその恩恵を適切に活用すべきであると述べています。「これは組織の運営方法を民間・公共部門を通じて変えつつある、変革的かつ破壊的な技術です。今や私たちは追い付くために適応する必要があります」と、DHA は結論付けました。
※地元報道をサポート:The Citizen をグーグルで「推奨情報源」として追加し、グーグルニュース上でフォローすることで、より多くの信頼される報道をご覧いただけます。