評価

攻撃者の視点でモデルやシステムの脆弱性を能動的に発見する、AIの安全性検証手法

LLMを組み込んだアプリケーションの開発・評価・デプロイ・運用を継続的に行うための一連のプラクティスと基盤

人間による評価の代わりに、別のLLMに応答の品質を採点・比較させる評価手法

言語モデルが次のトークンをどれだけ的確に予測できているかを示す、確率に基づく評価指標

対戦結果の勝敗から、相対的な強さを1つの数値で表すレーティングシステム

機械学習モデルの用途・性能・制限・倫理的考慮事項を整理して公開する標準的なドキュメント形式

検索しても解けない大学院レベルの科学問題で構成される、高難度の質問応答ベンチマーク

米国の数学コンテストを転用した、LLMの数学的推論能力を測る高難度ベンチマーク

少数の例示から図形パターンの変換規則を見抜く、抽象化と推論の能力を測るベンチマーク

世界中の専門家が作成した数千問の難問で構成される、フロンティアモデル向けの最高難度ベンチマーク

評価用ベンチマークの問題や解答が学習データへ混入し、評価スコアが実力以上に高く出てしまう問題

モデルの予測や生成結果を評価・学習する際に基準とする、正しいとされるデータやラベル

学習に使っていない未知のデータに対してモデルが適切に予測できる能力

自動評価指標だけでは測れないモデル出力の質を人間の判断で評価する手法

評価者個人の感覚や印象に基づいてモデル出力の質を判断する評価手法

2つ以上のバリエーションをユーザーに提示し実際の反応の差を統計的に比較する評価手法

ベンチマークの汚染・飽和・再現性低下によりLLM評価の信頼性が揺らいでいる状況を指す語

RLHFで調整したモデルが実際に人間の好みや意図に沿っているかを検証する評価プロセス

モデルサイズ・データ量・計算量を増やしても性能向上が鈍化・停滞する現象

推論モデルでも複雑な論理的・数学的推論において精度が低下し、頑健性を欠く現象

学習時の性能指標と、実運用・評価時の性能とが一致しない現象

コンテキストウィンドウが長くなるほど、入力中の情報を正確に参照・活用する精度が低下する現象

AIシステムのデータ・モデル・出力を体系的に検証し、バイアス・安全性・法令遵守などを評価するプロセス

モデルを意図的に誤動作させる入力を用いて頑健性・安全性を検証するテスト手法

許可を得た上でシステムへの侵入・攻撃を模擬的に試み、セキュリティ上の脆弱性を発見する手法

AIシステムの導入前に、人権・公平性・社会への影響を体系的に評価する手続き

企業が自社サービスにおけるデータ開示要請・コンテンツ削除・AI利用状況等を定期的に公表する報告書