AIニュース・トレンド OpenAI「IH-Challenge」公開、プロンプトインジェクション攻撃に強いAIへ
OpenAIが2025年1月、AIモデルのセキュリティを強化する新しいトレーニングデータセット「IH-Challenge」を公開しました。このデータセットは、AIが複数の指示を受け取ったときに「誰の指示を優先すべきか」を正しく判断できるように訓練するためのものです。特に、外部ツールと連携するAIエージェントを使っているフリーランスにとって、セキュリティリスクを減らせる可能性があります。データセットはHugging Faceで無料公開されており、誰でもアクセスできます。