はじめに

人工知能が人の学び・仕事・コミュニケーションの形態に深く関わるにつれ、AIシステムのデザイン・動作・社会影響に対し、より慎重な注意が求められています。大規模言語モデル（LLM）は現在、一般知識、ビジネス戦略、教育、そして社会での対話にまで影響を及ぼしています。このような影響力の拡大に伴い、こうしたシステムが信頼でき、倫理的で、適切にガバナンスされることを確保する必要性が急速に高まっています。

本記事は、「平和」に関する私たちのイニシアチブを踏まえて書かれたものです。私たちは、平和の促進と説明責任の確保、そして国や立場を超えて共有される地球規模の課題への取り組みを支えるうえで、テクノロジーが果たし得る役割を重視しています。歴史が示すように、テクノロジーの進歩は社会を強化することもあれば、負の影響を広げてしまうこともあります。今日のAIシステムも例外ではなく、リスクを抑えながら、安定を支える方向へと慎重に導く必要があります。

こうした議論は、2025年5月30日～31日に開催された「2025 ひろしま国際平和＆ビジネスフォーラム」でも語られました。政策立案者、ビジネスリーダー、技術者などが集い、AIの倫理的な活用について議論し、人間中心の価値観、リスク認識、そして責任あるイノベーションの重要性が強調されました。このような背景のもと、LLMの安全性を理解することは、ますます欠かせなくなっています。

LLMセーフティとは何か

LLMの安全性とは、言語モデルが信頼性と責任をもって振る舞うようにするための、技術・倫理・ガバナンス上の取り組みの総称です。その目的は、有害・誤情報・偏り・危険な出力のリスクを低減し、次のような要件を実現することにあります。

• 正確性と信頼性

• 公平性とバイアス低減

• ユーザーのプライバシー保護

• 人間の価値観や倫理基準との整合

AIが前提となった現在の環境、世界中の大学やテクノロジー企業によって多くのLLMが開発されています。代表的な例として、ChatGPT、Claude、Gemini、Cohere Command、Mistral Largeなどが挙げられます。利用が広がるほど、次のような問いもより切実になります。

• その出力は信頼できるのか。

• 機密情報をLLMに入力しても安全なのか。

• 重要な意思決定を伴う場面で、AIの回答はどれほど頼りになるのか。

これらの問いは、LLMの安全性が現実社会に与える影響の大きさ、そしてモデルの限界が見過ごされた場合に生じるリスクを示しています。

なぜLLMを盲目的に信頼することが危険なのか

LLMは、誤った出力が現実世界に深刻な影響を及ぼし得る分野でも、利用が進んでいます。しかし、多くのユーザーはAIが生成した情報を批判的に評価する専門知識を持っていません。十分な注意を払わずに依存すると、誤情報の拡散、倫理・法務上の問題、プライバシー侵害、そして誤った意思決定につながる恐れがあります。

主なリスクは次のとおりです。

ハルシネーション（幻覚）
モデルが誤った情報を、あたかも正しいかのように自信を持って生成することがあります。学術・医療・法務などの領域では特に重大なリスクとなります。

有害なコンテンツ
十分な安全対策がなければ、暴力的・差別的・違法な内容を生成する可能性があります。特に子どもなど、配慮が必要なユーザーへの影響が懸念されます。

バイアスと差別
人間社会のデータで学習する以上、適切に対処しなければ、社会的偏見を反映したり強化したりする恐れがあります。

プライバシーの懸念
訓練データに含まれる機密情報や個人情報が、意図せず出力される恐れがあります。

過度な依存
AIの出力を「絶対的な真実」とみなすと、判断力の低下、盗用、誤りの連鎖（検証されないままの再利用）につながりかねません。

セキュリティ上の悪用
ジェイルブレイクやプロンプト攻撃により安全対策が回避され、AIシステムが不正利用される恐れがあります。

より安全な主権型LLM（＝ソブリンAI）に向けた日本の取り組み

日本は、透明性、文化的整合性、そして国家レベルのガバナンスを重視しながら、AIの安全性に積極的に取り組んでいます。文部科学省のもと、国立情報学研究所（NII）が主催したシンポジウムなどを通じて、責任あるLLM開発に関する議論が深められてきました。

その中心にあるのが、NIIが主宰する「LLM勉強会」と、その成果として公開されているオープンソースモデル（LLM-jp）です。日本語や文化的背景、法制度を反映することを目的としており、継続的な改良と更新の結果、初期評価では主要な国際モデルに匹敵する性能を示しつつ、国内の価値観との整合性もより高いことが確認されています。

戦略的には、研究者・政策立案者・産業界が連携し、説明責任あるAIの実現を目指す日本の姿勢が示されています。英語中心の海外システムのみに依存するのではなく、国内で統治可能なAIを構築することで、社会からの信頼を高めようとしています。

2025年11月には、スケールアウトのインターン6名が「Japanese Symposium on Open Large Language Models」（東京）に参加し、これらの取り組みについて現場的な知見を得ました。主なトピックには、日本語モデルのためのオープンな評価ツール、安全性を重視したデータセット、マルチモーダル推論の改善、子どもの安全や高リスクコンテンツに対応する特化型モデルなどが含まれていました。これらの取り組みは、文化・言語の文脈を踏まえたAIセーフティのフレームワークがまだ世界的に十分でないという課題に応えるものです。

シンポジウム参加のスケールアウト・チーム（左から右）：Dorothy – 作物保護の専門家（ナイジェリア）、Ruyonga – ソフトウェアエンジニア（ウガンダ）、Fetty（筆者） – エネルギー／データサイエンス（タンザニア）、Chipo – 数学／エネルギー（ザンビア）、Ahmed – 石油エンジニア（エジプト）、Emmanuel – 情報システム＆ブロックチェーンの専門家（ウガンダ）

展望：責任あるテクノロジーの基盤としての安全性

スケールアウトはLLM-jpのメンバーで、日本語LLMなどの開発には現在のところ直接関与しているわけではないものの、現在「AfroGo」（https://scaleout.tv/afrogo）というAIを活用した旅行アプリを開発しています。AfroGoはアフリカ諸国に焦点を当て、海外旅行者に信頼できる目的地情報、旅程作成、予約に関するガイダンスを提供し、十分な情報をもとに自信を持って旅行の意思決定ができるよう支援することを目的としています。今後プラットフォームが進化するにつれ、スケールアウトはLLMの安全対策を取り入れ、旅行者が信頼できる情報にアクセスできるようにするとともに、LLM利用に伴う潜在的なリスクの軽減を目指していきます。

このユースケースは、より広い現実を示しています。AIが人々の情報取得や意思決定のあり方をますます形作る一方で、その影響力の拡大は、誤情報、バイアス、プライバシー露出、不正利用といったリスクも同時に高めています。これらの課題に対処するには、単なる技術的対策だけでは不十分です。

ユーザーにとっては、AIの限界を理解することで、無批判に依存するのではなく、検証しながら活用する姿勢が促されます。開発者や政策立案者にとっては、こうした観点を設計段階から運用に至るまで一貫して統合することが不可欠です。注意深く、意思を持って取り組むならば、AIは情報に基づく意思決定、社会の進歩、そしてより平和な世界の実現を支える強力なツールへと発展していくでしょう。

執筆者：Fathia Jombi Kheir（Fetty）
Bless you!