AI
システムプロンプト
開発者があらかじめ設定する、AI の役割や制約を決める裏側の指示。
ユーザーが入力する質問や指示とは別に、開発者が事前に設定しておく指示のことで、AIにどんな役割を持たせるか、何をしてはいけないかを決める土台になる。
プロンプトインジェクション対策の説明で必ず出てくる区別で、ユーザー入力とシステムプロンプトの境界をどう保つかが、対策の設計そのものになる。
よくある誤解
ユーザーが入力する指示と同じものだと思われがちだが、開発者が事前に設定する裏側の指示で、権限や役割の境界を作る役目を持つ。ただしこの境界は完全に固定されたものではなく、うまく作り込まないとユーザー側の入力によって上書きされてしまうことがあるため、境界の強さを過信しない設計が要る。
関連する用語
プロンプトインジェクション
AI に読ませる文章の中に指示を仕込み、本来の動作を乗っ取る攻撃。
ガードレール
AI が不適切・危険な出力や操作をしないよう外側から制限する仕組み。
プロンプトエンジニアリング
AI への指示文を設計し、出力の精度を継続的に改善していく作業。