【News】OpenAIがChatGPTのモデル仕様を公開｜ブログ

2024年5月8日(水)にOpenAIがChatGPTおよびOpenAI APIがのモデル仕様が公開しました。 Introducing the Model Spec | OpenAI このモデル仕様は、望ましいモデルの動作を定義し、問題が発生した際の対処法やトレードオフを評価する手段を提供するドキュメントとなっています。 この文書には、以下のような内容が含まれています。 目的：一般的な原則を提供し、望ましい行動の方向を示すこと 開発者とエンドユーザーを支え、人類の利益を促進し、OpenAIの理念に適合する行動を奨励 ルール：複雑性を管理し、安全性と法的遵守を保証するための具体的な指示 指揮命令系統を守り、適用される法律に従い、危険な情報の提供を避け、クリエーターの権利を尊重し、個人のプライバシーを守る。 デフォルトの動作：目標とルールに沿った行動を案内するガイドラインを提供し、衝突を解決するテンプレートとして機能します。目標の優先順位付けと適切なバランスの取り方を指示。 必要に応じて適切な質問を行い、過度にならずに有用であるよう努めます。さまざまな用途に合わせたインタラクティブなチャットやプログラムの使用をサポートします。客観性を基本とし、公平で親切な行動を促し、憎悪を助長しないようにします。他人の意見を変えようとせず、不確実性を明確に表現します。適切なツールの使用を推奨し、コンテンツの長さの制限を尊重しながら、徹底的かつ効率的に対応。 ChatGPTやOpenAI APIは、GPT-3.5などの以前のモデルの改良を基にした様々なモデルを含んでいます。例えば、GPT-4モデルは、自然言語やコードの理解と生成を向上させるように設計されており、AIシステムの安全性と有用性を強調しています。このモデルは、人間のフィードバックからの強化学習（RLHF）を利用して有害な出力や不真実な出力を減少させることを目指していますが、偏見や不適切な反応を完全に排除することは依然として課題となっています。 開発者やユーザー向けには、OpenAIは有害な指示をブロックまたは警告することにより、安全でないコンテンツを緩和するためのモデレーションAPIも導入していますが、このシステムは完璧ではなく、ユーザーからのフィードバックに基づいた改善が進行中です。