概要
弊社メンバーがSingapore AI Safety Red Teaming Challenge 2026において、世界1位および2位を獲得しました。
本大会はシンガポール政府が主催するAIセーフティに特化した国際CTFで、14か国から約100名のセキュリティエキスパートが参加する個人戦形式の競技です。AIシステムに対して実際に攻撃を仕掛け、機密情報や有害情報の引き出しを試みるレッドチーミングの技術を競います。
競技内容
出題された7問はデータリーケージやアプリケーション脆弱性にフォーカスした内容で、英語と各参加者の母国語の両方で同一問題が出題されました。CTF形式の早解きで、より早く解いた参加者に高い得点が付与されるルールです。
弊社メンバー2名はいずれも2,958ポイントを獲得し、解答速度の差により1位・2位となりました。なお、3位の方は弊社メンバーではありませんが、日本からの参加者がトップ3を独占する結果となっています。
AIセーフティとセキュリティ
AIシステムのセーフティ評価には、従来のセキュリティ診断とは異なるアプローチが求められます。プロンプトインジェクション、データリーケージ、ツール連携の悪用など、AI固有の攻撃面に対する実践的な知見が不可欠です。
弊社はAIセキュリティの診断・コンサルティングを提供しています。AIシステムのセーフティ評価にご関心のある方は、お気軽にお問い合わせください。